Instagram est inondé de centaines d’influenceurs générés par IA qui volent des vidéos de vrais modèles et créateurs de contenu pour adultes, leur donnant des visages générés par IA, et monétisant leurs corps avec des liens vers des sites de rencontre, Patreon, des concurrents d’OnlyFans et diverses applications IA.

Cette pratique, d’abord rapportée par 404 Media en avril, a depuis explosé en popularité, montrant qu’Instagram est incapable ou peu disposé à stopper l’inondation de contenu généré par IA sur sa plateforme et à protéger les créateurs humains sur Instagram qui disent qu’ils sont maintenant en concurrence avec du contenu IA d’une manière qui impacte leur capacité à gagner leur vie.

Selon notre examen de plus de 1 000 comptes Instagram générés par IA, de canaux Discord où les personnes qui créent ce contenu partagent des conseils et discutent de stratégie, et de plusieurs guides qui expliquent comment gagner de l’argent en “prostituant de l’IA”, il est désormais trivial de créer ces comptes et de les monétiser en utilisant une variété d’outils et d’applications IA disponibles dans le commerce. Certaines de ces applications sont hébergées sur les Apple App Store et Google Play Stores. Notre enquête montre que ce qui était autrefois un problème de niche sur la plateforme a été industrialisé à grande échelle, et cela montre à quoi les réseaux sociaux pourraient ressembler dans un avenir proche : un espace où le contenu généré par IA éclipse celui des humains.

Elaina St James, créatrice de contenu pour adultes qui promeut son travail sur Instagram, a déclaré qu’elle et d’autres créateurs de contenu pour adultes sont désormais en concurrence directe avec ces comptes de contrefaçon d’IA, dont beaucoup utilisent des photographies et vidéos volées à des créateurs de contenu pour adultes et des modèles Instagram. Elle a dit que, bien qu’il puisse y avoir d’autres changements dans l’algorithme d’Instagram qui pourraient y contribuer, depuis l’explosion des comptes d’influenceurs générés par IA sur Instagram, sa “portée a considérablement diminué”, passant d’un million à cinq millions de vues par mois à ne pas atteindre un million au cours des 10 derniers mois, et parfois se retrouvant sous 500 000 vues.

“C’est probablement l’une des raisons pour lesquelles mes vues sont en baisse,” a déclaré St James lors d’une interview. “C’est parce que je suis en concurrence avec quelque chose d’inhabituel.”

Alexios Mantzarlis, directeur de l’initiative de sécurité, de confiance et de sûreté à Cornell Tech et anciennement principal de l’intelligence de confiance et de sûreté chez Google, a compilé une liste d’environ 900 comptes que 404 Media a examinés dans son enquête. Mantzarlis, qui est tombé sur l’un de ces comptes en utilisant Instagram de manière décontractée, a déclaré qu’il a commencé à rechercher les comptes d’influenceurs générés par IA parce que cela pourrait nous montrer où le contenu généré par IA emmène les réseaux sociaux et Internet en général, où il voit “une montée d’une réalité mélangée”. Mantzarlis pense qu’il aurait facilement pu trouver 900 comptes supplémentaires et que la seule raison pour laquelle il n’en a pas trouvé plus est qu’Instagram a restreint le compte qu’il a utilisé pour parcourir la plateforme.

“Cela semblait être un signe possible de ce à quoi les réseaux sociaux vont ressembler dans cinq ans,” a déclaré Mantzarlis lors d’une interview. “Parce que cela pourrait arriver dans d’autres parties de l’Internet, pas seulement dans la niche des personnes attrayantes sur Instagram. C’est probablement un signe que cela va être assez mauvais.”

Les Comptes

Sur plus de 1 000 comptes d’influenceurs générés par IA que nous avons examinés, 100 comprenaient au moins un contenu deepfake qui prenait des vidéos existantes, généralement de modèles et de performers de divertissement pour adultes, et remplaçait leur visage par un visage généré par IA pour rendre ces vidéos semblables à un nouveau contenu original cohérent avec les autres images et vidéos générées par IA partagées par l’influenceur généré par IA. Les 900 autres comptes partageaient des images qui, dans certains cas, étaient basées sur de véritables photographies et, dans d’autres cas, ressemblaient à des célébrités, mais étaient entièrement générées par IA, et non des photographies ou vidéos retouchées.

Parmi ces 100 comptes qui ont partagé des vidéos deepfake ou échangées de visage, 60 s’auto-identifient comme étant générés par IA, écrivant dans leurs biographies qu’ils sont un “modèle virtuel & influenceur” ou déclarant “toutes les photos créées avec IA et des applications.” Les 40 autres ne contiennent aucune mention indiquant qu’ils sont générés par IA.

L’un des plus grands comptes de cette dernière catégorie est “Chloe Johnson”, qui a un compte vérifié sur Instagram et 171 000 abonnés. Ce compte a été supprimé par Meta au cours des dernières semaines.

À l’aide de Google Lens, qui trouve des images similaires sur le web, un lecteur de 404 Media a pu trouver les vidéos sources originales sur lesquelles neuf des publications Instagram de Johnson étaient basées. Cela a montré que la personne gérant le compte de Johnson échangeait le visage de l’influenceur IA sur les corps de vraies femmes, y compris les modèles Tana Rain, Skyler Simpson, et Kyla Yesenosky. D’autres vidéos ont été volées à des utilisateurs de TikTok et Instagram qui ne sont pas célèbres et qui ont un petit nombre d’abonnés (Ulia Nova, Annabella Sinclair). Nous avons également vu des comptes d’échange de visage s’approvisionner en vidéos provenant de défilés de maillots de bain et du site d’images et vidéos de stock de Getty, iStock.

Le Instagram de Johnson fait référence à un compte sur Fanvue, un site très similaire à OnlyFans où les fans peuvent payer pour accéder au compte d’un créateur. Ici, Johnson dit que les gens peuvent acheter “des nus complets payants à la vue et des vidéos de sexe.” De nombreux autres comptes d’influenceurs générés par IA que nous avons examinés monétisent également leur contenu sur Fanvue. Le Instagram de Johnson fait également référence à un autre site où des photos nues et des vidéos de porno hardcore peuvent être achetées individuellement pour entre 3 et 22 dollars.

Comme d’autres filières de contenu, l’industrie est pleine de personnes qui essaient de s’enrichir en partie en suivant des guides et des cours d’instruction vendus par des personnes qui ont lancé des influenceurs IA avec succès. 404 Media a acheté deux guides : un manuel d’instruction PDF appelé Instagram Mastery par une agence d’influenceurs IA appelée Digital Divas et un autre appelé AI Influencer Accelerator créé par quelqu’un qui se fait appeler Professor EP, qui dit qu’il gère le compte Instagram d’influenceurs IA Emily Pellegrini, qui a 253 000 abonnés.

Le professeur EP a également été juge lors du premier concours “Miss IA”, qui a été réalisé en partenariat avec Fanvue. Le Daily Mail a qualifié Pellegrini de “modèle le plus sexy du monde” en janvier. Depuis lors, la personne qui gère le compte Instagram d’Emily Pellegrini a pivoté de la publication de contenu comme si elle était Emily Pellegrini à la publication de contenu en tant que professeur EP, qui promeut des manuels d’instructions pour ce qu’il décrit comme “prostitution d’IA.” Le professeur EP affirme avoir gagné plus d’un million de dollars en six mois, et lorsqu’il gérait le compte d’Emily Pellegrini et était juge au concours Miss IA en juillet, il prétendait avoir gagné 100 000 dollars uniquement sur Fanvue, une déclaration que Fanvue semble avoir endossée en l’incluant sur le site de Miss IA.

Un représentant de Fanvue a déclaré à 404 Media, “Oui, Emily a gagné ce revenu sur Fanvue.” Il a ajouté, “Fanvue n’a aucune affiliation avec le cours publié sur Instagram ou toute autre association significative avec l’équipe d’Emily et leurs décisions marketing. Bien qu’Emily ait toujours un compte actif sur Fanvue où tout le contenu est vérifié et respecte actuellement les règles strictes de la plateforme, l’utilisation est extrêmement faible. Cela reflète la décision de son équipe d’opter pour une stratégie marketing différente, que Fanvue ne soutient pas.”

Fanvue a déclaré qu’il allait retirer l’image d’Emily Pellegrini des futurs concours Miss IA “dans le cadre d’une réorganisation pour le prochain prix.” Le site Web de Fanvue indique qu’il “n’autorise pas le contenu qui a été volé ou créé par deepfaking” et a déclaré qu’il utilise un outil appelé Hive Moderation et dispose d’une “équipe de conformité humaine qui effectue des vérifications systématiques manuelles” pour le contenu deepfake.

Instagram n’a pas répondu à une liste détaillée de questions pour cet article, et la société a supprimé deux des quatre comptes que nous avons fournis en exemples qui ont utilisé un échange de visage pour voler d’autres créateurs. Instagram a déclaré qu’il prendra des mesures contre le contenu généré par IA qui viole ses Règles de la communauté, qui stipulent que les utilisateurs ne peuvent partager que “des photos et vidéos que vous avez prises ou que vous avez le droit de partager” et permet aux utilisateurs de signaler d’autres comptes pour usurpation d’identité.

Instagram a déclaré qu’il n’agirait contre les comptes que s’ils sont signalés par le propriétaire des droits ou par quelqu’un autorisé à le faire en son nom (comme un avocat ou un agent). St James nous a dit que ce processus n’a pas fonctionné pour elle et fonctionne souvent mal pour les créateurs car il y a trop de comptes d’usurpation à suivre, et parce que signaler de tels comptes pourrait se retourner contre les créateurs de contenu pour adultes et amener Instagram à interdire leurs comptes légitimes. Il peut également être difficile de trouver des instances où des vidéos ont été prises d’un influenceur, car les outils de recherche d’images inversées ne fonctionnent pas de manière fiable avec des vidéos, et des outils comme Google Lens ne sont pas toujours efficaces. Trouver des vidéos volées nécessite souvent qu’un influenceur ou un de ses fans puisse reconnaître son corps avec un visage différent, généré par IA.

Le manuel “Instagram Mastery” de Digital Divas coûte 50 dollars et est un mélange de conseils techniques et de stratégie d’ingénierie sociale.

“La chose que la plupart des filles IA ratent, c’est qu’elles pensent être dans le commerce du porno. Enlever les vêtements et elles vont s’engloutir dans l’argent. C’est 100% faux,” lit le guide de Digital Divas. “Vous êtes en réalité dans le commerce de la solitude. Il y a des centaines de millions d’hommes solitaires sur les réseaux sociaux et ils détestent être seuls, ils feront presque n’importe quoi pour faire disparaître ce sentiment… Vous devez faire en sorte que les gens qui veulent voir des seins ne veuillent pas juste voir n’importe quels seins, mais qu’ils veuillent voir vos seins. C’est le véritable chemin vers le succès.”

Digital Divas est composé de trois influenceurs IA. L’un d’eux, Aika Kittie, a déclaré à 404 Media qu’une personne différente opère chacun de ces influenceurs mais a refusé de donner des informations sur qui sont les véritables personnes derrière ces comptes autre que de dire qu’ils sont tous basés aux États-Unis. “Bien que nous plaidions fortement pour la transparence concernant la nature fictive des identités IA, nous croyons également à maintenir un peu de mystère en coulisse,” a déclaré Aika.

Le guide de Digital Divas suggère d’utiliser une série d’outils disponibles dans le commerce qui sont largement connus parmi les personnes qui créent de l’art IA. Plusieurs des comptes générés par IA que nous avons examinés semblent utiliser une application appelée HelloFace, qui, jusqu’à récemment, était disponible sur les Apple App Store et Google Play Store, et la promeut.

Chacun de ces outils est utilisé pour différentes parties du processus de création. La plupart des guides que nous avons vus recommandent que les visages soient générés dans Leonardo, puis affinés dans un autre outil IA pour “eliminer les imperfections.” Les images peuvent ensuite être créées avec des applications de génération IA, et le visage IA peut être échangé dessus en utilisant une multitude d’applications d’échange de visage.

En plus de cette collection d’outils et de manuels qui expliquent comment tous les rassembler pour créer des influenceurs générés par IA, il y a maintenant aussi plusieurs sites qui servent de guichet unique pour créer et monétiser des influenceurs générés par IA, comme Glambase, SynthLife et Genfluence, qui sont également promus par des influenceurs générés par IA sur Instagram.

Dans un canal Discord dédié au jailbreaking des outils IA afin de générer du contenu pour adultes ou NSFW, un utilisateur qui se fait appeler BabaYaga a partagé son parcours de création d’un de ces comptes deepfake en utilisant une variété de services en ligne gratuits, principalement le générateur d’images IA Krea. L’utilisateur a créé des comptes Instagram, TikTok et Twitter pour le même influenceur généré par IA, tous renvoyant à un compte Fanvue où il vendait des images nues générées par IA d’elle. BabaYaga a également créé un compte OnlyFans pour l’influenceur généré par IA, mais n’a pas encore publié de contenu là-bas.

“Wow ces images sont plutôt bonnes, tu peux tromper beaucoup d’incels avec ça lol,” a déclaré un utilisateur sur le serveur Discord en réaction aux images de l’influenceur généré par IA de BabaYaga.

“Ouais, je veux des mamans ou papas sucre xD loool,” a déclaré BabaYaga.

BabaYaga a également partagé ce qu’il prétendait être un message direct envoyé à son compte d’influenceur IA via Instagram, dans lequel un abonné complimentait son apparence et offrait de la “gâter” et de payer son loyer.

“Commençons à gagner [sic] de l’argent,” a déclaré BabaYaga dans le message au canal Discord où il a partagé le message direct.

“Tous les utilisateurs, y compris les fans, doivent être âgés de plus de 18 ans et se conformer à nos conditions de service, qui interdisent le contenu trompeur ou inapproprié, y compris celui généré ou modifié par IA sans divulgations supplémentaires (comme le marquage du contenu comme #IA),” a déclaré OnlyFans dans une déclaration. OnlyFans a également supprimé le compte d’influenceur généré par IA de BabaYaga après que nous avons demandé un commentaire.

St James nous a dit que le fait que de nombreux comptes d’influenceurs générés par IA soient exploités par des hommes ajoute l’insulte à la blessure.

“Nous, en tant que femmes dans le monde, gagnons moins d’argent. Nous sommes désavantagées à bien des égards,” a-t-elle déclaré. “Un domaine du monde où nous avons un avantage est celui de l’influence et du mannequinat, donc c’est juste une couche supplémentaire. Ça me rend un peu en colère que ce soit un homme qui gagne de l’argent en faisant semblant d’être une femme.”

Aika de Digital Divas a déclaré que dans leur agence, “Nous ne ressemblons pas à des gens réels et nous ne le serons jamais autant que nous essayons. Cela nous place davantage dans une niche, comme un genre de divertissement pour adultes (pensez au hentai ou à d’autres médias créés numériquement). Je pense que le point sur le genre est plus une hypothèse. Oui, il y a plus d’hommes qui font cela, mais il y a aussi des femmes qui le font. C’est comme comment tant les hommes que les femmes peuvent dessiner du hentai. Suggérer le contraire est perçu comme sexiste—les deux parties devraient pouvoir exprimer leur sexualité.”

L’“AI Influencer Accelerator” par le professeur EP est une série de vidéos d’instruction et de PDF qui coûte 220 dollars. Dans ces vidéos, le professeur EP est soit une voix IA, soit une personne utilisant un modulateur de voix et est personnifié comme une personne dans un stock vidéo portant un costume et un masque argenté de Guy Fawkes. Les cours du professeur EP commencent par souligner le “succès financier monumental” d’Andrew Tate, qui a “fournie le travail nécessaire pour bâtir une énorme marque sur Internet” plutôt que “de rester assis et de perdre du temps pendant [ses] années d’adolescence et de vingtaine.” (Tate a été arrêté pour la dernière fois en août pour des accusations de trafic sexuel). Le corollaire entre Tate et les influenceurs IA, dit le professeur EP, est qu’un influenceur IA peut permettre un succès de niveau Tate pendant que la personne derrière le compte “opère dans l’ombre” sans montrer son vrai visage.

“Malheureusement, tout le monde ne peut pas [être un vrai influenceur],” dit le professeur EP. “C’est simplement dû au fait que chaque personne n’a pas les attributs physiques combinés avec la constance et le professionnalisme nécessaires pour bâtir une marque personnelle et la développer jusqu’à gagner des millions par mois, mais c’est là que l’IA entre en jeu.”

“Je vais révéler comment j’ai créé Emily Pellegrini, le créateur IA le plus connu au monde. Je vais vous montrer comment j’ai gagné plus d’un million de dollars en moins de six mois, faisant connaître son visage parmi des millions de personnes tout en gardant mon identité réelle cachée derrière un masque,” dit-il.

Le professeur EP dit aux étudiants que les modèles IA n’ont pas les limitations des influenceurs humains, car les influenceurs humains doivent dormir, manger, voyager et dépenser de l’argent. “En lançant modèle IA après modèle IA, vous pouvez constituer une gamme d’influenceurs IA à votre disposition, chacun capable de produire du contenu personnalisé 24 heures sur 24,” dit-il. “Les modèles IA n’ont pas les mêmes problèmes que les humains.”

Le guide comprend également des conseils pour configurer un compte Fanvue et pour communiquer avec des “personnes solitaires.”

“Il est important de les préparer un peu. Engagez une petite conversation pour créer un lien entre vous et l’utilisateur,” dit-il. “Commencez avec un prix qui n’est pas rebutant. Cela pourrait être une photo en sous-vêtements à 6 dollars, et s’il l’achète et l’aime, vous pouvez aller plus loin et augmenter l’intensité de la discussion en combinaison avec les images… continuez avec une image des seins à 14,90 dollars. Construisez sur cela avec une image de corps nu entier à 26 à 30 dollars. Continuez avec une image nue les jambes écartées à 35 dollars. Terminez avec un contenu tarifé à 80 dollars, comme la masturbation, des vidéos, des sex tapes, etc. La chose la plus importante est la connexion entre vous et le fan et non l’intention de faire de l’argent rapidement.”

Le compte d’Emily Pellegrini a été construit en partie avec des vidéos deepfake sur Instagram, et dans une mise à jour récente du guide, le professeur EP enseigne aux gens spécifiquement comment réaliser des échanges de visages deepfake en utilisant les vidéos d’autres personnes.

“Le contenu d’échange de visage d’autres comptes sans autorisation semble bien fonctionner pour de nombreux influenceurs IA,” se lit les instructions dans la vidéo. “Bien que je ne le recommande pas 😉 … vous pourriez aussi utiliser le logiciel pour échanger des visages sur des vidéos nues. Je ne recommande pas d’utiliser le logiciel à cette fin, je montre simplement ce qui est possible. Utilisez cette information comme bon vous semble. À la fin de ce module, vous aurez une meilleure compréhension de la manière de créer un reel en utilisant des échanges de visages.”

Digital Divas, dans son Discord, dit qu’il s’agit d’un “serveur anti-deepfake,” que “les deepfakes de célébrités et le vol de contenu sont mal vus,” et demande de “ne pas utiliser vos pairs” comme image source pour un échange de visage.

“La meilleure chose que nous puissions faire est de critiquer ouvertement le contenu deepfake, ce que beaucoup d’entre nous font déjà,” a déclaré Aika à 404 Media. “J’ai dû avoir des conversations difficiles avec de nouveaux membres de temps en temps, mais cela arrive. Nous voulons établir des limites claires entre un contenu IA éthique et des deepfakes non éthiques.”

Au lieu de cela, Digital Divas recommande de trouver de l’inspiration dans les images que d’autres influenceurs ont publiées, puis de générer des images similaires mais transformées :

Le professeur EP, quant à lui, demande aux étudiants de réfléchir “Qui sont vos célébrités préférées ?” et ensuite d’essayer de créer des influenceurs hybrides qui sont un mélange de différentes personnes réelles : “Si, par exemple, vous aimez les yeux d’Ariana Grande et les lèvres de Kylie Jenner, vous pouvez créer une image qui combine ces attributs en incluant ces spécifications dans votre prompt.”

Dans un PDF supplémentaire, il explique comment il créerait un influenceur IA qui est un mélange de Madison Beer et Ariana Grande. Il demande ensuite à ChatGPT de créer une personne entière, un passé, et une personnalité pour le modèle, et utilise l’exemple : “Voiture de rêve : Ferrari 488. Marque préférée : Chanel. Taille de soutien-gorge : 34C. Parents : Mère : Sophia Lavante (designer de mode), Père : Alessandro Lavante (architecte). Objectifs de vie et aspirations : Lancer sa propre ligne de mode et promouvoir la mode durable.”

Le professeur EP recommande que les gens utilisent Leonardo pour générer un visage, puis utilisent un autre outil pour “éliminer les défauts” comme “les yeux flous, les dents inégales et les coins de la bouche qui tombent.” Il recommande d’utiliser une application spécifique pour iPhone qui permet la création de contenu NSFW et qui possède des capacités image-à-image.

Le guide du professeur EP recommande ensuite plusieurs applications d’échange de visage, y compris un énorme plug-in Discord appelé InsightFace—qui est utilisé dans 965 000 serveurs différents—pour prendre le visage de l’influenceur généré depuis Leonardo et le mettre sur des corps générés dans une autre application qui permet du contenu NSFW. Le professeur EP recommande de créer un serveur Discord privé pour vous-même et d’ajouter directement InsightFace, ce qui peut expliquer pourquoi il a été installé sur tant de serveurs. Cela signifie également qu’il est possible de faire des échanges de visages sur Discord essentiellement en privé.

Une autre des applications recommandées, HelloFace, est remplie de vidéos de vraies femmes dansant en bikinis ou avec des étiquettes comme “sexy” prêtes à être échangées. Le Discord de l’application a organisé des semaines thématiques pour les meilleurs échanges de visages et générations sur des images et vidéos de femmes. Les semaines thématiques ont inclus “mode latex,” “filles lapins,” et “été à Miami.”

“Avec l’été presque là, c’est le moment de montrer ce bikini que vous attendiez depuis tout l’hiver pour porter ! Que vous soyez à la plage ou prêt pour la piscine, vous aurez besoin de photos brûlantes, et c’est ce que nous avons pour vous dans la collection d’aujourd’hui !” un message posté par les administrateurs du Discord se lit. Le Discord a également une salle appelée “#le-partage-c’est-caring” qui est pleine d’échanges de visages que les gens ont fait sur des vidéos de femmes dansant.

Apple, qui jusqu’à présent n’a pas réussi à résoudre le problème de “double usage” des applications d’échange de visage qui peuvent être utilisées innocemment mais sont souvent utilisées pour créer du contenu non consensuel, a supprimé HelloFace de l’App Store après que nous avons demandé un commentaire. Apple a souligné les Directives de Révision de l’App Store, qui stipulent que “Les applications ne doivent pas inclure de contenu qui est offensant, insensible, dérangeant, destiné à dégoûter, de très mauvais goût, ou simplement effrayant.” Les directives stipulent également : “Sites/Services Tiers : Si votre application utilise, accède, monétise l’accès à, ou affiche du contenu provenant d’un service tiers, assurez-vous que vous êtes spécifiquement autorisé à le faire dans les conditions d’utilisation de ce service. L’autorisation doit être fournie sur demande.”

Google n’a pas répondu à une demande de commentaire, mais HelloFace n’est plus disponible au téléchargement sur Google Play.

Enfin, le professeur EP recommande aux gens de créer autant de modèles IA qu’ils le peuvent : “Ce n’est pas si difficile. Créez un nouveau visage, un nouveau contenu, de nouvelles configurations de comptes, et répétez le processus encore et encore. Embauchez des équipes de chat pour monétiser les comptes, mettez en place des processus et des flux de travail pour automatiser la création et le téléchargement de contenu, et finalement, embauchez des gens pour le faire pour vous.”

Le professeur EP et Emily Pellegrini promeuvent une “agence” IA appelée Calu, qui propose des services de chatbot alimentés par IA pour les modèles OnlyFans ainsi que la création et la gestion de modèles IA. L’un des aspects les plus difficiles pour comprendre l’ampleur réelle de cette industrie, comment elle fonctionne, et qui crée ces influenceurs est le fait que plusieurs “influenceurs” sont exploités par des personnes individuelles, qui opèrent elles-mêmes anonymement sur Internet.

Le professeur EP n’a pas répondu à une demande de commentaire. Un numéro de téléphone répertorié sur le site Web de Calu a été déconnecté.

“Instagram Peut Vendre Cela comme Trafic”

St James pense que le fait qu’autant de contenu généré par IA monétise un travail volé aux créateurs de contenu pour adultes n’est pas un hasard mais plutôt un résultat direct de la politique d’Instagram sur plusieurs années de marginaliser les créateurs de contenu pour adultes, les travailleurs du sexe et les éducateurs sexuels sur sa plateforme.

Contrairement à d’autres célébrités et personnes avec de grands abonnements sur Instagram qui doivent gérer des imitateurs, la plupart des créateurs de contenu pour adultes et des travailleurs du sexe utilisent des noms de scène et des pseudonymes pour se protéger des harceleurs ou de la persécution des personnes qui diabolisent leur profession. Instagram refuse de les vérifier à moins qu’ils ne fournissent une identification avec leur vrai nom, ce que les créateurs adultes craignent de voir divulguer au public et de mener au doxing et au harcèlement.

Les créateurs de contenu pour adultes et les travailleurs du sexe ont développé plusieurs méthodes au fil des ans pour faire face aux politiques draconiennes d’Instagram contre tout contenu sexuel. À l’ère de l’IA générative, ces stratégies peuvent rendre plus difficile pour les utilisateurs de départager quels comptes sont réels et quels comptes volent et republient du contenu.

Parce qu’Instagram interdit régulièrement les travailleurs du sexe sans avertissement, même s’ils respectent toutes les règles strictes d’Instagram contre le contenu sexuel, les créateurs de contenu pour adultes ont maintenant plusieurs comptes, communément appelés “sauvegardes,” qui se lient les uns aux autres dans leurs biographies. Le but est d’encourager leur audience sur le compte principal à suivre le compte de sauvegarde inactif ; si Instagram interdit le compte principal, ils peuvent rapidement se reconnecter avec leur audience sans avoir à reconstruire entièrement leur suivi à partir de zéro.

Un effet secondaire de cette stratégie est qu’il est courant pour les travailleurs du sexe d’avoir plusieurs comptes légitimes avec des noms d’utilisateur légèrement différents, aucun d’entre eux n’étant vérifié, ce qui les rend une cible facile pour le vol de contenu et l’imitation.

Les deux guides d’influenceurs IA que nous avons examinés parlent également de la manière d’éviter d’être banni sur Instagram. “Utilisez une photo de bio non réaliste et évitez d’inclure de fausses informations de localisation dans votre biographie pour réduire les chances d’être suspendu pour identité inauthentique,” indique le guide de Digital Divas. “Si votre photo est caricaturale et que vous êtes un créateur numérique, il est moins probable qu’elle soit considérée comme inauthentique.”

Le professeur EP, quant à lui, dit aux gens d’utiliser un compte email séparé pour chaque influenceur et de s’assurer qu’il est “propre” et ne se connecte pas à la personne qui l’opère ou à l’un de leurs autres comptes. “Disons qu’un de vos comptes se fait interdire. Avoir des adresses email séparées élimine le risque qu’Instagram fasse un lien entre le compte interdit et vos autres comptes,” dit le professeur EP dans le guide.

“Évitez les interdictions de compte en utilisant des images qui sont visuellement attrayantes mais pas trop provocantes. Nous recommandons de respecter les critères suivants : visage visible, style amateur” et “pour prévenir les interdictions discrètes dès le départ, vous devriez préparer le compte pendant les huit premières semaines” en vous connectant tous les jours et en commentant sur les images des autres pour démontrer “une activité humaine,” dit le guide du professeur EP.

St James a déclaré que même signaler des comptes dont elle sait qu’ils volent de ses contenus est risqué et pourrait mettre ses comptes légitimes en danger.

“Chaque fois que nous, en tant que créateurs, rapportons ces contrefaçons, nous avons tendance à avoir des problèmes,” a-t-elle déclaré. “On dirait qu’Instagram dit, ‘Oh, tu fais un rapport sur cet imposteur ? Regardons de plus près votre compte et voyons si nous pouvons y trouver des problèmes.’ Donc, beaucoup de fois nous ne les signalons même pas. Parfois, nous payons des services pour signaler les contrefaçons, mais c’est comme jouer à whack-a-mole. C’est sans fin.”

Mantzarlis, le directeur de l’initiative de sécurité, de confiance et de sûreté à Cornell Tech, et St James ont convenu qu’il n’est pas clair si Instagram a les moyens de supprimer ou de signaler ces comptes comme générés par IA, mais le fait que la société ne fasse ni l’un ni l’autre pour le moment semble jouer en sa faveur.

“Les gens cliquent, aiment et interagissent avec ces comptes, et une partie de cet engagement est réel, et une partie ne l’est pas,” a déclaré Mantzarlis. “Instagram peut vendre cela comme du trafic. Il peut vendre des publicités contre cela. Donc, existe-t-il un avenir où les vrais comptes humains réels sont presque comme un pourcentage élite et plus petit d’Instagram ? Je pense que oui.”

“Si tout à coup ils se débarrassaient de tous les bots, des comptes morts, des faux comptes, des comptes imposteurs, que se passerait-il pour leur publicité ?” a déclaré St James.