Les écrivains les plus populaires sur Substack gagnent jusqu’à sept chiffres chaque année principalement en persuadant les lecteurs de payer pour leur travail. Le modèle économique basé sur les abonnements de la plateforme de newsletters offre aux créateurs des incitations différentes de celles de plateformes comme Facebook ou YouTube, où le trafic et l’engagement sont rois. En théorie, cela devrait aider à protéger Substack de la vague de contenu généré par IA cherchant à attirer des clics qui inonde Internet. Mais une nouvelle analyse partagée exclusivement avec WIRED indique que Substack héberge de nombreux écrits générés par l’IA, dont certains sont publiés dans des newsletters comptant des centaines de milliers d’abonnés.

La startup de détection de l’IA GPTZero a analysé de 25 à 30 publications récentes publiées par les 100 newsletters les plus populaires sur Substack pour voir si elles contenaient du contenu généré par l’IA. Elle a estimé que 10 des publications utilisent probablement l’IA d’une manière ou d’une autre, tandis que sept « dépendent largement » de celle-ci dans leur production écrite. (GPTZero a payé pour des abonnements à des newsletters Substack qui sont fortement payantes.) Quatre des newsletters que GPTZero a identifiées comme utilisant largement l’IA ont confirmé à WIRED que des outils d’intelligence artificielle font partie de leur processus d’écriture, tandis que les trois autres n’ont pas répondu aux demandes de commentaire.

De nombreuses newsletters que GPTZero a signalées comme publiant des écrits générés par l’IA se concentrent sur le partage d’actualités économiques et des conseils financiers personnels. Bien qu’aucun service de détection de l’IA ne soit parfait – beaucoup, y compris GPTZero, peuvent produire de faux positifs – l’analyse suggère que des centaines de milliers de personnes consomment désormais régulièrement du contenu généré ou assisté par l’IA auquel elles s’abonnent spécifiquement pour le lire. Dans certains cas, elles paient même pour cela.

« Il est difficile de ne pas être un peu surpris, » déclare Alex Cui, cofondateur et CTO de GPTZero à propos des résultats. « Ce sont tous des auteurs éminents. » En comparaison, Cui a cité une autre analyse que GPTZero a réalisée sur Wikipédia plus tôt cette année, estimant qu’environ un article sur 20 sur le site est probablement généré par l’IA, soit environ la moitié de la fréquence des publications que GPTZero a examinées sur Substack.

Tout le monde n’est pas choqué par la fréquence d’utilisation de l’intelligence artificielle générative dans certaines poches de la plateforme. « Cela a tout son sens pour moi, » déclare Max Read, auteur de la newsletter Substack sur Internet et technologie Read Max, qui considère certaines publications d’actualités financières sur Substack comme « la version légèrement haut de gamme des YouTubers de la culture de l’effort. »

Helen Tobin, responsable des communications de Substack, a décliné de commenter directement les conclusions de GPTZero. « Nous avons plusieurs mécanismes en place pour détecter et atténuer les activités de spam inauthentiques ou coordonnées, telles que le copypasta, le contenu en double, le spam SEO, la phishing et l’activité de bot – dont beaucoup peuvent impliquer du contenu généré par l’IA, » a déclaré Tobin à WIRED par e-mail. « Cependant, nous ne surveillons pas ou ne retirons pas proactivement le contenu uniquement sur la base de ses origines IA, car il existe de nombreuses applications valides et constructives pour la création de contenu assistée par IA. »

Substack n’a pas de politique officielle régissant l’utilisation de l’IA. L’un des cofondateurs de Substack, Hamish McKenzie, a décrit le boom de l’IA générative comme un changement de fond auquel les écrivains devront faire face, quelles que soient leurs opinions personnelles sur la technologie : « Que vous soyez en faveur ou contre ce développement n’a finalement pas d’importance. Cela se produit, » a-t-il écrit dans un post Substack l’année dernière.

Plusieurs des auteurs de Substack à qui WIRED s’est entretenu ont souligné qu’ils utilisaient l’IA pour peaufiner leur prose plutôt que pour générer des posts entiers toute d’un coup. David Skilling, un PDG d’agence sportive qui dirige la populaire newsletter de football Original Football (plus de 630 000 abonnés), a déclaré à WIRED qu’il voit l’IA comme un éditeur de substitution. « J’utilise fièrement des outils modernes pour la productivité dans mes entreprises, » déclare Skilling. « Les outils de détection de l’IA peuvent détecter l’utilisation de l’IA, mais il y a une énorme différence entre généré par l’IA et assisté par l’IA. »

Subham Panda, l’un des écrivains de Spotlight by Xartup (plus de 668 000 abonnés), qui couvre les nouvelles sur les startups à travers le monde, a déclaré que son équipe utilise l’IA comme un « moyen d’assistance pour nous aider à curer du contenu de haute qualité plus rapidement. » Il a souligné que la newsletter compte principalement sur l’IA pour créer des images et agréger des informations et que les écrivains sont responsables des « détails et de la synthèse » contenus dans leurs publications.

Max Avery, un écrivain pour la newsletter financière Strategic Wealth Briefing With Jake Claver (plus de 549 000 abonnés), dit qu’il utilise des logiciels d’écriture par IA comme Hemingway Editor Plus pour peaufiner ses ébauches. Il dit que ces outils l’aident à « accomplir plus de travail sur le front de la création de contenu. »

L’entrepreneur financier Josh Belanger dit qu’il utilise également ChatGPT pour rationaliser le processus d’écriture de sa newsletter, Belanger Trading (plus de 350 000 abonnés), et dépend du chatbot Claude pour l’aider à faire de la révision. « Je vais écrire mes pensées, ma recherche, les choses que je veux inclure, et je vais les plugger, » dit-il. Belanger crée également des GPT personnalisés (versions de ChatGPT adaptées à des tâches spécifiques) pour l’aider à peaufiner des écrits plus techniques qui comprennent un jargon spécifique, ce qui, selon lui, réduit le nombre d’hallucinations produites par le chatbot. « Pour publier dans la finance ou le trading, il y a beaucoup de nuances… l’IA ne va pas savoir, donc je dois la guider, » dit-il.

Comparé à certains de ses concurrents, Substack semble avoir une quantité relativement basse d’écrits générés par l’IA. Par exemple, deux autres entreprises de détection de l’IA ont récemment constaté que près de 40 % des contenus sur la plateforme de blogging Medium étaient générés à l’aide d’outils d’intelligence artificielle. Mais une grande partie du contenu suspecté d’être généré par l’IA sur Medium avait peu d’engagement ou de lectorat, tandis que l’écriture par IA sur Substack est publiée par des comptes puissants.

Substack est souvent présenté comme une alternative aux médias traditionnels, mais la présence d’écritures générées par l’IA est quelque chose qu’il partage avec de nombreux sites d’actualités traditionnels. Dans certains cas, dans des publications telles que Sports Illustrated, CNET et l’AV Club, des lecteurs et d’autres journalistes ont découvert des articles qui semblaient être entièrement rédigés par l’IA. L’IA générative a également été intégrée dans de nombreux produits d’actualités d’autres manières ; plus récemment, le Wall Street Journal a annoncé qu’il testait des résumés d’articles générés par l’IA, et l’Associated Press a utilisé une forme d’IA pour des types d’histoires spécifiques pendant une décennie.

Certains lecteurs ne remarquent pas ou n’êtes pas dérangés lorsque les écrivains qu’ils aiment adoptent des outils IA. Les résultats de GPTZero indiquent que de nombreuses personnes consomment et apprécient des newsletters écrites avec l’aide de l’IA, et d’autres écrivains pourraient bientôt essayer de reproduire leur succès en adoptant la technologie également.

Mais cela ne signifie pas qu’il n’y aura pas de réaction ou de contre-coup. GPTZero lance un badge « certifié humain » gratuit que les blogueurs peuvent afficher, anticipant un futur où garantir que vous n’utilisez pas l’IA devient un point de vente important. Ce type de désistement apparaît déjà dans d’autres industries créatives. Les crédits du nouveau film d’horreur A24 Heretic, par exemple, incluaient une divulgation : « Aucune IA générative n’a été utilisée dans la réalisation de ce film. »

Au cours des prochaines années, des badges et des sceaux similaires affirmant que les œuvres créatives sont 100 % humaines pourraient se répandre largement. Ils pourraient faire en sorte que les consommateurs inquiets se sentent comme s’ils faisaient un choix plus éthique, mais semblent peu susceptibles de ralentir l’infiltration constante de l’IA dans les industries des médias et du cinéma.