L’IA est incapable de travail fonctionnel, révèle une étude.

Les Limites Inhérentes des Modèles de Langage

Une étude récemment mise en avant dans Wired apporte un éclairage fascinant sur les capacités des modèles de langage. Selon cette recherche, menée par Vishal Sikka et son fils Varin Sikka, il a été mathématiquement prouvé que ces modèles sont incapables d’exécuter des tâches computationnelles complexes. Ce plafond de complexité, loin d’être impressionnant, soulève des questions sur l’avenir de l’intelligence artificielle.

Des Auteurs Reconnaissables dans le Domaine

Vishal Sikka, ancien CTO de SAP, possède une solide expérience en intelligence artificielle, ayant étudié sous la direction de John McCarthy, l’un des pionniers du secteur. Leur étude non examinée par des pairs met en question la fiabilité des algorithmes d’IA actuels, laissant entendre qu’« il n’y a aucun moyen qu’ils puissent être fiables », selon Sikka.

Une Réflexion sur les Promesses Non Tenues

Cette recherche remet en question les affirmations audacieuses des dirigeants de l’industrie technologique concernant les capacités des agents d’IA, notamment dans des domaines sensibles comme la gestion des centrales nucléaires. L’enthousiasme autour des agents d’IA, censés travailler de manière autonome, semble infondé lorsque l’on considère la complexité des tâches qu’ils sont réellement capables d’accomplir.

Les Limitations des « Hallucinations » des IA

Les hallucinations, ou la tendance des modèles de langage à produire des informations erronées avec assurance, demeurent un problème majeur même dans les systèmes avancés. Par exemple, les chercheurs d’OpenAI ont admis que la précision des modèles « n’atteindrait jamais 100 % ». Cela soulève des doutes sur la viabilité des agents d’IA, qui ont souvent été jugés insuffisants pour remplacer des travailleurs humains.

Lutte Contre les Hallucinations : Un Défi Persistant

Les leaders du secteur affirment que des mesures de contrôle externes pourraient potentiellement atténuer les effets des hallucinations. Bien qu’il soit probable que les modèles continuent à faire des erreurs, un taux d’erreur suffisamment bas pourrait finalement rassurer les entreprises. Cependant, la majorité des chatbots actuels ne montrent pas la capacité de s’abstenir de répondre lorsqu’ils ne sont pas certains de leurs connaissances, augmentant ainsi leur attrait pour les utilisateurs.

Vers un Avenir Prometteur malgré les Limites

Vishal Sikka reconnaît l’existence de ces limites tout en soulignant que des composants supplémentaires pourraient être intégrés autour des LLM pour surmonter leurs contraintes. Cela suggère qu’il est possible de développer des technologies d’IA plus robustes, même si elles doivent encore prouver leur fiabilité. Cette réflexion invite à une approche plus nuancée et pragmatique de l’IA dans le futur.