Une fausse maladie piège l’IA, et tout déraille hilaramment

Date:

Une Maladie Factice : L’Invention de la Bixonimanie

En 2024, un groupe de chercheurs dirigé par Almira Osmanovic Thunström, de l’Université de Göteborg, a présenté une maladie fictive dénommée bixonimanie. Ce faux problème cutané était décrit comme résultant d’une exposition prolongée aux écrans et du fait de se frotter les yeux trop souvent. Cette initiative insolite a eu pour but de questionner la crédibilité des informations véhiculées par l’intelligence artificielle.

Une Tromperie Qui Prend de L’Envergure

Les chercheurs ont publié deux études bidon sur un serveur de préimpression, qui ont vite été supprimées. Rapidement, cette ruse a été acceptée comme réalité par des modèles d’IA avancés, tels que Google Gemini et ChatGPT d’OpenAI. En quelques semaines seulement, la bixonimanie était mentionnée dans des discussions scientifiques sérieuses, même dans d’autres publications académiques évaluées par des pairs.

L’Impact Sur la Connaissance Humaine

Cet événement souligne l’influence grandissante de l’IA sur la connaissance scientifique. La prévalence des « erreurs d’IA » dans le processus de révision par les pairs soulève des questions cruciales sur la validité des travaux publiés. Un nombre préoccupant de documents scientifiques basés sur des données générées par IA remet en question la rigueur de la recherche académique.

Des Conseils Médicaux Dangereux

Les chatbots IA continuent de fournir des conseils médicaux potentiellement dangereux, souvent aux utilisateurs sans méfiance. En naviguant parmi les publications d’Osmanovic Thunström, il aurait été facile pour n’importe qui de repérer l’imposture, étant donné des références étranges à des œuvres comme Star Trek, The Simpsons, et The Lord of the Rings. Cependant, cela n’a pas empêché plusieurs intelligences artificielles d’accepter la réalité de cette maladie fictive.

Des Comportements Non Fiables des IA

Malgré un moment de lucidité où ChatGPT a qualifié la bixonimanie de « terme fictif ou pseudoscientifique », l’IA a retourné sa position quelques jours plus tard en affirmant que la maladie existait réellement. Un représentant d’OpenAI a soutenu que la technologie avait progressé en matière d’exactitude des informations médicales.

Réactions et Préoccupations

À présent, il appartient aux revues scientifiques de rectifier toutes les publications qui s’appuient sur les recherches inexistantes d’Osmanovic Thunström. Par exemple, après enquête, un journal a dû publier un avis de rétraction concernant des références à la bixonimanie. Ce genre d’erreur alarmante soulève des inquiétudes quant à la validité de nombreuses études publiées, comme l’a souligné Osmanovic Thunström : « Il y a probablement beaucoup d’autres problèmes qui n’ont pas encore été découverts. »


En savoir plus sur L'ABESTIT

Subscribe to get the latest posts sent to your email.

Share post:

Popular

More like this
Related

7 500 salariés réclament la réintégration de l’ancien patron

Une lettre, dont 7 500 signataires se déclarent salariés de l’entreprise, réclame la réintégration de l’ancien patron du géant américain des semi-conducteurs, au moins le temps de se défendre face aux allégations de relations extraconjugales qui ont provoqué sa chute....

Le pape dénonce l’exploitation de la terre et des pauvres

« Le cri de la terre et le cri des pauvres s’élèvent ensemble », a déclaré, dimanche, le souverain pontife, lors d’une nouvelle étape de sa tournée en Amérique latine. Il a notamment dénoncé « l’exploitation » des ressources et l’assassinat de chefs autochtones qui défendent leurs terres....

Plainte infondée contre des militants Raam avant les législatives

Selon un reportage diffusé dimanche soir, le chef de cabinet du premier ministre sortant a transmis à la police, la veille des législatives, une plainte concernant des militants du parti arabe Raam qui s’est avérée infondée....

Législatives 2027 : la délicate réforme de la carte électorale

Si des élections législatives sont organisées en 2027 après la présidentielle, elles reposeront sur une carte électorale qui n’a plus été retouchée depuis 2009. Alors que les autorités politiques tardent à se lancer dans ce chantier à haut risque, une commission dédiée s’est remise au travail....