La crise de la désinformation due à l’IA de Google
Les IA de Google, notamment à travers leurs résumés générés, sont devenues des acteurs majeurs de la désinformation. Un rapport récent de la startup Oumi, publié par le New York Times, révèle que ces résumés, bien qu’exacts à 91% du temps, contribuent néanmoins à semer la confusion parmi les utilisateurs. Cela soulève des questions sur la fiabilité des informations diffusées par ces outils.
Une quantité alarmante de fausses réponses
Google traite environ cinq trillions de requêtes par an. Cette immense échelle se traduit par des dizaines de millions de mauvaises réponses fournies chaque heure par les IA Overviews. En effet, l’analyse d’Oumi estime que des centaines de milliers de réponses incorrectes sont générées chaque minute, intensifiant ainsi la crise de la désinformation.
La confiance aveugle envers les IA
Un fait inquiétant est que les utilisateurs ont tendance à croire les AI sans vérification. Une étude a révélé que seulement 8% des utilisateurs prennent le temps de vérifier les réponses fournies par l’IA. De plus, il a été observé que près de 80% des personnes continuaient à faire confiance à l’IA, même après avoir reçu une mauvaise réponse, un phénomène que les chercheurs appellent “surrender cognitif”.
Les performances des modèles IA de Google
L’analyse effectuée par Oumi a employé le test SimpleQA, servant de référence pour l’exactitude des IA dans le secteur. Les résultats indiquent que le modèle Gemini 3, testé en février, a atteint une précision de 91%, tandis que son prédécesseur, Gemini 2, n’en avait que 85%. Cela soulève des interrogations sur les modèles que Google a mis à la disposition de ses utilisateurs.
Les failles du système et la réponse de Google
Malgré les prétentions de Google concernant l’amélioration de leurs modèles, des études internes montrent que Gemini 3 produisait des informations incorrectes à hauteur de 28%. Google a contesté l’analyse d’Oumi, la qualifiant de flawed, tout en affirmant que les IA Overviews étaient plus exactes car basées sur les résultats de recherche de Google. Toutefois, l’analyse a révélé que le pourcentage de réponses « non fondées » avait augmenté, passant de 37% à 56%, rendant la vérification des faits encore plus ardue.
Réflexions sur l’avenir de l’IA et la désinformation
La situation actuelle soulève des questions sur le rôle croissant des IA dans notre consommation d’information. Avec l’augmentation du contenu généré par l’IA, il est impératif que les utilisateurs développent des compétences critiques pour évaluer l’exactitude des informations. Les entreprises technologiques, telles que Google, doivent également prendre conscience de leur responsabilité dans la diffusion d’informations fiables.
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.
