YouTube et X, portes d’entrée vers des deepfakes sexuels non consentis

Date:

Des plateformes sociales vers des services de deepfakes explicites

Une nouvelle étude met en lumière un phénomène particulièrement préoccupant : des plateformes de médias sociaux redirigeraient des utilisateurs vers des sites permettant de créer des deepfakes sexuels non consensuels, parfois pour un coût aussi bas que 1 dollar par image. Ce constat soulève des questions majeures sur la modération, la responsabilité des plateformes et la facilité d’accès à des outils capables de produire des contenus trompeurs et potentiellement destructeurs pour les personnes visées.

Un marché facilité par l’accessibilité et le faible coût

Le développement rapide des outils d’intelligence artificielle générative a rendu la création d’images et de vidéos falsifiées plus simple que jamais. Dans ce cas précis, l’étude souligne que certains services proposent des deepfakes à très bas prix, ce qui abaisse considérablement la barrière d’entrée pour des usages abusifs. Quelques dollars suffisent alors à fabriquer du contenu à caractère sexuel en utilisant le visage d’une personne réelle, sans son accord.

  • Prix observé : environ 1 dollar par image dans certains cas.
  • Usage abusif : production de contenus intimes truqués sans consentement.
  • Accessibilité : interfaces simples, paiement rapide, diffusion facilitée.

Pourquoi les deepfakes non consensuels inquiètent autant

Les deepfakes non consensuels ne relèvent pas seulement de la manipulation visuelle : ils peuvent provoquer du harcèlement, de l’humiliation publique et des dommages durables à la réputation d’une personne. Les victimes sont souvent confrontées à une circulation rapide des contenus, à des difficultés pour les faire supprimer et à un sentiment de perte de contrôle sur leur image. Dans de nombreux cas, les conséquences psychologiques et sociales sont lourdes, en particulier lorsque les images sont partagées sur plusieurs plateformes.

Des impacts concrets pour les victimes

  • Atteinte à la vie privée et à l’intégrité de l’image.
  • Risques psychologiques : anxiété, stress, isolement.
  • Diffusion virale rendant la suppression difficile.
  • Préjudice professionnel ou scolaire dans certains cas.

Le rôle des réseaux sociaux dans la circulation de ces services

L’étude met l’accent sur un point central : les réseaux sociaux peuvent servir de porte d’entrée vers ces sites, que ce soit par des publicités, des recommandations automatisées, des publications sponsorisées ou des contenus relayés par des comptes tiers. Même sans héberger directement les deepfakes, les plateformes peuvent contribuer à leur visibilité. Cela interroge leur capacité à détecter les usages problématiques et à bloquer les chemins qui mènent vers des services manifestement nuisibles.

Des exemples de mécanismes de diffusion à surveiller

Les systèmes de recommandation et de publicité ciblée peuvent, dans certains cas, faire remonter des contenus douteux à des publics susceptibles de cliquer. Lorsqu’un utilisateur recherche des outils de retouche, d’édition d’image ou de génération automatisée, il peut être exposé à des offres plus agressives ou trompeuses. Cette logique commerciale, couplée à l’anonymat relatif du web, favorise l’émergence de services spécialisés dans les usages abusifs de l’IA.

  • Publicités ciblées menant vers des sites de deepfakes.
  • Recommandations algorithmiques amplifiant la visibilité.
  • Comptes relais et contenus promotionnels déguisés.
  • Recherche opportuniste exploitant la curiosité des internautes.

Quel encadrement pour limiter les abus ?

Face à cette situation, plusieurs pistes sont évoquées par les spécialistes de la régulation numérique : renforcer les politiques de modération, limiter la publicité pour les services illégaux ou abusifs, améliorer la détection automatique des contenus liés aux deepfakes et faciliter les procédures de signalement. Les législateurs, de leur côté, sont de plus en plus attentifs aux usages non consensuels de l’IA, notamment lorsqu’ils touchent à l’exploitation de l’image d’autrui. L’enjeu est de préserver l’innovation tout en protégeant les personnes contre des outils devenus trop faciles à détourner.


En savoir plus sur L'ABESTIT

Subscribe to get the latest posts sent to your email.

Share post:

Popular

More like this
Related

Le cofondateur démissionnaire prêt à reprendre la tête de l’entreprise

Le cofondateur de la multinationale américaine des semi-conducteurs a aussi déclaré, sur X, se tenir prêt à revenir à la tête de l’entreprise si son conseil d’administration le décidait. Il a démissionné le 12 novembre après la révélation de sa liaison avec Alice Huang, une femme d’affaires chinoise....

Matan Kahana élu président de la Knesset, défi à Netanyahu

Les législateurs israéliens ont élu, mardi 17 novembre 2026 en fin de soirée, Matan Kahana au poste de président de la Knesset. Ce membre du camp de Gadi Eisenkot a obtenu le vote de 66 députés. Le Parlement israélien est désormais présidé par un adversaire du Premier ministre sortant, Benyamin Netanyahu. C'est une première victoire politique pour l'opposition....

Les députés suppriment les interdictions de louer les passoires énergétiques

Les députés sont allés plus loin que le texte initial, qui prévoyait déjà un assouplissement de la réglementation sur les passoires énergétiques, en supprimant toutes les interdictions de louer liées au diagnostic de performance énergétique....

Antisémitisme: l’Italie adopte la définition IHRA, l’opposition s’inquiète

Ce projet de loi intègre dans la législation italienne la définition de l’antisémitisme par l’International Holocaust Remembrance Alliance, et fait craindre à l’opposition une restriction de la liberté d’expression lorsqu’il s’agit de critiquer la politique israélienne....