Les IA chinoises inondent le web de porno non consenti

Les Dangers des Générateurs de Vidéos IA Non Réglementés

De nombreux générateurs de vidéos IA, principalement développés par des entreprises chinoises, manquent de mesures de sécurité indispensables. Ces outils sont souvent utilisés pour créer des contenus à caractère pornographique non consensuels, alimentant ainsi une communauté en ligne dédiée à ce type de pratiques. Une enquête de 404 Media révèle que ce phénomène rappelle l’écosystème malsain autour des générateurs d’images IA, où des vidéos à contenu non consensuel peuvent être réalisées à partir d’une seule image.

La Simplicité de la Création de Contenus Inappropriés

La plupart des vidéos non consensuelles sont fabriquées grâce à des outils accessibles. En général, il suffit d’une image de référence et d’une invite textuelle décrivant un acte sexuel. Parfois, des procédures plus complexes sont requises, mais elles reposent sur des technologies fournies par de grandes entreprises technologiques. Voici quelques points clés sur la facilité d’utilisation de ces générateurs :

• Accessibilité : Outils gratuits ou peu coûteux.
• Facilité d’emploi : Pas besoin de compétences techniques avancées.
• Communauté de soutien : Guides et modèles disponibles pour faciliter la création.

Des Avis d’Experts sur les Mesures de Sécurité Axées sur l’IA

Des experts, comme Hany Farid de l’UC Berkeley, insistent sur l’importance de mettre en place des mesures de sécurité pour prévenir la création d’images non consensuelles. Il cite des exemples comme DALL-E d’OpenAI, qui a incorporé des technologies de filtration des résultats pour bloquer d’éventuels abus. Les plateformes de médias sociaux, telles que Facebook et Instagram, se servent également de filtrages pour limiter le contenu NSFW.

Les Outils Populaires et leur Utilisation Abusive

Parmi les générateurs de vidéos, Pixverse, développé par une entreprise de Pékin, est celui qui est souvent utilisé pour créer des vidéos compromettantes de célébrités. Les utilisateurs exploitent divers générateurs en fonction de leurs besoins, et Pixverse est particulièrement prisé pour faire apparaître des femmes célèbres dans des situations sexuellement suggestives.

▶️

Une Évolution Technologique Rapide dans la Création de Contenus

La vulnérabilité de ces générateurs est exacerbée par leur fonction d’animation d’images fixes, permettant aux utilisateurs d’introduire une seule image et de l’animer selon leurs désirs. Des outils comme Hailuo et Pika sont également utilisés pour créer des vidéos à caractère explicite, et les utilisateurs ont développé des stratégies pour exploiter des failles dans les systèmes de sécurité. Les vidéos générées illustrent un changement vers des contenus de plus en plus explicites, avec une adoption rapide des modèles.

La Course aux Mesures de Contre-Mesures par les Plateformes

Des entreprises comme **Tencent**, qui a développé des modèles comme **HunyuanVideo**, et d’autres sociétés comme **Kuaishou** et **AIsphere**, sont interrogées sur leurs responsabilités face à l’utilisation abusive de leurs technologies. Bien qu’elles aient des politiques interdisant la création de contenu inapproprié, l’absence de garde-fous efficaces rend leur mise en œuvre difficile. Les législateurs, comme le sénateur Dick Durbin, appellent à une réglementation plus stricte pour protéger les victimes et tenir les créateurs de contenu responsable de leurs actes.