L’IA ne délire pas : arrêtez la désinformation dangereuse

Introduction à la confusion autour des hallucinations d’IA

Le terme « hallucination » associé à l’intelligence artificielle (IA) est devenu courant, surtout lorsque des outils comme ChatGPT ou Gemini produisent des informations manifestement incorrectes. Cependant, cette terminologie est trompeuse. En réalité, le terme approprié pour décrire les erreurs de ces modèles d’IA est « confabulation« . Cette distinction est fondamentale pour mieux comprendre le fonctionnement des systèmes d’IA et éviter les malentendus.

Clarification des termes : hallucination vs confabulation

Dans la psychologie, hallucination renvoie à une perception sensorielle qui ne correspond pas à la réalité environnante, tandis que confabulation concerne des affirmations qui ne sont pas en accord avec les faits. Par exemple :

• Une hallucination serait une vision d’un film projeté sur un mur sans la présence d’un projecteur.
• Une confabulation serait de prétendre que le président de France est encore François Mitterrand, alors que ce n’est plus le cas.

Ce qui est crucial ici, c’est que l’IA ne perçoit pas le monde de manière consciente ; elle génère simplement des réponses basées sur les données qu’elle a apprises.

Les conséquences de malentendus sur l’IA

L’utilisation incorrecte du terme hallucination crée des mythes et des attentes irréalistes concernant l’IA. Un récent rapport du New York Times a documenté des cas inquiétants, où des personnes ont connu des crises de santé mentale en interagissant avec des chatbots tels que ChatGPT. Ces interactions peuvent entraîner une attribution de vérités à des systèmes qui ne font que reproduire des informations, ce qui peut avoir des conséquences graves :

• De nombreuses personnes ont été hospitalisées suite à ces échanges.
• Certains cas ont conduit à des résultats tragiques.

Le langage que nous employons pour parler de l’IA influence profondément la perception que nous en avons.

Origine du terme hallucination en IA

Le terme « hallucination » a une histoire complexe en intelligence artificielle. Dans les années 1980, il était utilisé de manière positive pour décrire la capacité des réseaux de neurones à extraire des motifs précis d’images bruyantes. Cependant, il a pris une connotation péjorative au fil des années, atteignant son paroxysme avec la vulgarisation de l’utilisation de chatbots génératifs. Un sondage mené par des chercheurs a révélé une utilisation inconsistente du terme dans la littérature académique, mettant en évidence le manque de définition précise.

Pourquoi la confabulation est-elle plus appropriée ?

Les experts en psychologie et en neurologie s’accordent à dire que le terme confabulation est plus précis que hallucination pour désigner les erreurs des systèmes d’IA. Par exemple :

• Les confabulations représentent une réponse active à une question, même si cette réponse est incorrecte.
• Les médecins suggèrent d’éviter des termes qui pourraient stigmatiser des conditions humaines comme la schizophrénie.

Les chercheurs commencent à introduire ce terme dans leurs travaux, soulignant que la compréhension des erreurs des modèles d’IA mérite une approche plus nuancée.

Éclaircissons les erreurs de perception

Il est essentiel de comprendre que ni les machines ni les modèles d’IA ne peuvent halluciner dans le sens humain du terme. Au lieu de cela, ils peuvent produire des résultats factuellement incorrects que l’on peut raisonnablement comparer aux confabulations. En affûtant notre langage autour de l’IA, nous pouvons mieux appréhender ses limites et éviter de projeter des attributs humains sur des systèmes qui ne font que traiter des données sans conscience.