Des mannequins deviennent le visage inquiétant des arnaques IA

Une offre d’emploi qui sonne l’alerte

Des dizaines de chaînes Telegram, selon un examen de WIRED, diffusent des annonces proposant des postes de « AI face models ». À première vue, il s’agit d’opportunités de mannequinat numérique : les candidats acceptent d’envoyer des photos, des vidéos ou d’enregistrer des phrases pour entraîner des modèles d’IA. En réalité, ces profils — majoritairement des femmes — sont souvent exploités pour créer du contenu synthétique destiné à manipuler des victimes et à faciliter des escroqueries. Exemple précis : une annonce proposant 200–500 € pour « selfies, vidéos courtes et quelques phrases parlées », envoyés via Telegram, avec paiement en crypto ou cartes cadeaux.

Le mode opératoire des recruteurs

Les annonces sont formulées de manière simple et attractive, mais cachent des demandes suspectes qui révèlent leur véritable objectif. Exemples concrets des requêtes courantes :

• « Envoie 10 selfies naturels + une courte vidéo en mouvement » — souvent pour générer des modèles 3D ou des deepfakes.
• « Dis ces 5 phrases dans un message audio » — utilisé pour le voice cloning.
• « Fais un selfie avec une feuille datée » ou « montre ta carte d’identité » — pour valider l’authenticité et faciliter l’usurpation d’identité.

Ces techniques transforment des éléments personnels en données exploitables par des fraudeurs, qui combinent images et voix synthétiques pour créer des leurres très crédibles.

Comment l’IA alimente les escroqueries

Une fois les visuels et enregistrements collectés, les technologies suivantes sont mobilisées pour duper des victimes :

• Deepfake vidéo : insertion du visage d’une personne dans des vidéos compromettantes pour extorquer ou blackmailer.
• Voice cloning : imitation de la voix pour appeler des proches ou convaincre des cibles de transférer de l’argent.
• Synthèse d’images pour créer de faux profils utilisés dans des arnaques sentimentales ou professionnelles.

Exemple précis : un faux profil amoureux créé à partir d’images retravaillées et d’une voix clonée réussit à obtenir des virements de la victime avant d’être retransformé en preuve de chantage.

Conséquences pour les victimes et pour les modèles

Les impacts sont doubles et graves :

• Pour les victimes ciblées : pertes financières, humiliation publique, atteinte à la vie privée et risques de chantage.
• Pour les « modèles » recrutés : exploitation, réputation entachée, responsabilité potentielle si leurs images servent à des actes illégaux, et impossibilité de contrôler la diffusion de leur image.

Exemples concrets : une personne dont le visage est utilisé dans une fausse vidéo à caractère sexuel peut subir des signalements, pressions psychologiques et difficultés à faire retirer le contenu des plateformes.

Signes d’alerte et gestes immédiats de protection

Reconnaître ces offres permet d’éviter d’être piégé. Signes d’alerte typiques :

• Demandes d’envois répétés de médias personnels (selfies, vidéos) sans contrat clair.
• Paiement exclusivement en crypto-monnaies ou cartes cadeaux.
• Pressure pour fournir une pièce d’identité, ou instructions de type « montrez ceci en direct ».

Bonnes pratiques :

• Ne jamais transmettre de documents officiels ou de vidéos privées sans contrat et vérification légale.
• Faire une recherche d’images inversée et vérifier l’identité de l’employeur.
• Privilégier des plateformes connues et signer un contrat précisant l’usage des images.

En cas de doute, exemple d’action : conserver les échanges, refuser les demandes suspectes et signaler la chaîne à la plateforme et aux autorités.

Responsabilité des plateformes et pistes d’action

Pour réduire ces abus, plusieurs leviers sont nécessaires :

• Modération renforcée : détection automatique des offres predatrices et suppression rapide des chaînes dédiées aux ventes de données biométriques.
• Coopération entre plateformes, services de paiement et forces de l’ordre pour tracer et bloquer les flux financiers.
• Développement d’outils de détection de deepfakes et d’authentification des contenus (liveness checks sécurisés non transférables).

Exemple d’initiative utile : politiques anti-exploitation imposant la transparence sur l’usage des images et l’obligation de consentement écrit avec recours effectif pour les personnes victimes d’usages frauduleux.