D’où vient cette nana flippante qui hante les images générées par une IA ?
Les générateurs d’images créées par une IA tels que DALL-E et Midjourney sont devenus un sujet particulièrement brûlant ces derniers temps, et on comprend facilement pourquoi. Grâce à des modèles d’apprentissage automatiques basés sur des milliards d’images, ces systèmes sont en mesure de créer des œuvres à la fois insolites et étrangement familières. Naturellement, ce phénomène constitue un terrain fertile pour toutes sortes de légendes urbaines, puisque personne ne peut vraiment expliquer comment les réseaux neuronaux complexes décident des images qu’ils créent. Le dernier exemple en date est celui d’un artiste de l’IA nommé Supercomposite, qui a publié les images inquiétantes et grotesques d’une femme qui semble se manifester en réponse à différentes requêtes. Publicité La femme, que l’artiste appelle « Loab », a été découverte grâce à une technique appelée « signal de poids négatif » : un utilisateur demande au système d’intelligence artificielle de générer le contraire de ce qu’il tape dans le moteur de recherche. Dans ce cas, l’utilisation du signal de poids négatif sur le mot « Brando » a donné l’image d’un logo représentant la ligne d’horizon d’une ville et les mots « DIGITA PNTICS ». Lorsque Supercomposite a utilisé la technique de signal de poids négatif sur les mots du logo, Loab est apparu. « Puisque Loab a été découverte à l’aide de poids négatifs, sa forme est faite d’une collection de traits très éloignés de quelque chose », a expliqué Supercomposite dans un fil de discussion sur Twitter. « Mais ses traits combinés constituent toujours un concept cohésif pour l’IA, et presque toutes les images dérivées contiennent une Loab parfaitement identifiable. » « Par une sorte d’accident statistique, quelque chose associe cette femme à une imagerie extrêmement gore et macabre dans la distribution de la connaissance du monde de l’IA. » Les images ont rapidement fait le buzz sur les…