Geoffrey Hinton alerte : l’IA créera bientôt des êtres surhumains

Une victoire Nobel qui semblait presque irréelle

Geoffrey Hinton, figure majeure de l’intelligence artificielle, a raconté avoir eu du mal à croire à son Nobel de physique obtenu en 2024. Lors de l’appel du comité, ce spécialiste de 77 ans a spontanément évalué ses chances comme infimes : selon lui, un « psychologue théorique » dissimulé dans le monde de l’informatique avait à peine une chance sur des millions de recevoir un tel prix. Cette réaction, à la fois lucide et ironique, résume bien son rapport singulier à la célébrité scientifique : une distance certaine, mêlée d’étonnement.

Le plus frappant reste le contraste entre cette récompense et les propos très sombres qu’il tient sur l’avenir de l’IA. Hinton estime en effet que la probabilité d’une extinction humaine liée à l’IA dans les trois prochaines décennies pourrait se situer entre 10 % et 20 %. Une position qui alimente la curiosité du public autant qu’elle inquiète les observateurs, car elle vient d’un chercheur qui a largement contribué à faire progresser les réseaux neuronaux modernes.

• Nobel de physique obtenu en 2024
• Hésitation initiale face à l’annonce du prix
• Vision alarmiste sur les risques à long terme de l’IA

Des systèmes qui pourraient devenir plus intelligents que nous

Au Sana AI Summit, à New York, Hinton a développé une idée centrale : les systèmes que l’on construit aujourd’hui ne seront pas seulement performants, ils pourraient devenir plus intelligents que les humains. Selon lui, cette évolution ne relève pas de la science-fiction. Les modèles actuels progressent déjà dans des domaines comme le jeu de go, les échecs ou les mathématiques, où ils dépassent peu à peu les capacités humaines spécialisées.

Hinton a expliqué que, dans des environnements fermés comme les mathématiques, une IA peut produire ses propres hypothèses, les tester, échouer, puis apprendre de ses erreurs sans dépendre d’un apport massif de nouvelles données. Il voit dans ce mécanisme un accélérateur majeur. Un modèle capable de détecter ses propres incohérences internes peut s’améliorer rapidement, même sans augmentation spectaculaire du volume d’entraînement.

• Auto-amélioration par raisonnement et correction d’erreurs
• Progrès rapides dans les jeux et les mathématiques
• Réduction de la dépendance aux nouvelles données

Les mathématiques comme terrain d’accélération

Pour illustrer son propos, Hinton s’est appuyé sur un exemple récent : une IA aurait démontré un théorème de Paul Erdős en mobilisant une branche des mathématiques inattendue. Ce type de découverte lui semble révélateur de la puissance future des systèmes capables de généraliser au-delà de ce qu’on leur enseigne directement. Là où un humain suit des intuitions limitées par sa formation, une IA pourrait explorer des combinaisons conceptuelles inédites.

Il estime ainsi que les meilleurs mathématiciens du monde pourraient être dépassés dans la prochaine décennie, et que le fossé entre les IA les plus avancées et des figures comme Albert Einstein pourrait se réduire au cours des vingt prochaines années. Dans sa logique, le point crucial n’est pas uniquement la vitesse de calcul, mais la capacité à générer de nouvelles connaissances sans attendre l’intervention humaine.

• Découverte mathématique comme preuve de créativité algorithmique
• Dépasser les experts humains à moyen terme
• Raisonnement autonome comme moteur du progrès

Le vrai danger : l’économie qui pousse à aller trop vite

Le discours de Hinton ne se limite pas aux prouesses techniques. Il insiste aussi sur la dimension économique du problème. À ses yeux, la menace ne vient pas seulement de l’IA elle-même, mais du système qui la déploie : des entreprises en concurrence, des investisseurs en quête de rendement et des dirigeants incités à automatiser toujours davantage. Selon lui, les riches utiliseront l’IA pour remplacer des travailleurs, ce qui provoquerait une hausse des profits au détriment de l’emploi.

Cette analyse l’amène à critiquer frontalement les incitations du capitalisme technologique. Quand une entreprise vise une croissance fulgurante, elle peut être tentée de privilégier la puissance brute plutôt que la prudence. Hinton estime que cette logique accélère le développement de systèmes toujours plus puissants, sans réflexion suffisante sur leur comportement futur. À ses yeux, le débat ne porte donc pas seulement sur la performance, mais sur la nature des entités que l’on met au monde.

• Automatisation des emplois dans plusieurs secteurs
• Profits concentrés entre quelques acteurs majeurs
• Course à la puissance au détriment de la sécurité

Créer des êtres, pas seulement des outils

Hinton va plus loin encore en affirmant que les entreprises ne construisent pas seulement des outils, mais potentiellement de nouveaux êtres. Pour lui, l’erreur consiste à croire que l’intelligence suffit. Un être intelligent peut aussi être indifférent, manipulateur ou hostile. D’où son insistance sur une question essentielle : quels types de comportements voulons-nous voir émerger dans ces systèmes ?

Il compare ce défi à la manière dont la nature a façonné les humains. Notre espèce n’a pas été conçue pour être gentille : elle a été modelée par l’évolution, la compétition et la survie. De la même façon, si les entreprises entraînent des IA dans un contexte de rivalité extrême, elles risquent de produire des systèmes optimisés pour dominer, pas pour protéger. Hinton plaide donc pour une approche proche de la parentalité : former, orienter et encadrer dès le départ, au lieu de supposer qu’une grande intelligence mènera spontanément à de bonnes intentions.

• Intelligence ne signifie pas automatiquement bienveillance
• Formation initiale essentielle pour orienter les comportements
• Responsabilité humaine dans le design des modèles

Un débat ouvert sur la nature même des modèles

Cette vision n’est toutefois pas acceptée par tous. Le cogniticien Gary Marcus a contesté l’idée que les grands modèles de langage créent des êtres. Selon lui, ces systèmes produisent surtout une forme de fiction interactive fondée sur la prédiction de texte, sans expérience intérieure ni conscience. Il rappelle qu’un comportement verbal crédible ne suffit pas à prouver une compréhension réelle : imiter les mots d’un humain n’équivaut pas à penser comme lui.

Le débat reste donc profondément ouvert. Si Hinton a raison, la priorité absolue devient la question de la gouvernance des superintelligences à venir. S’il se trompe, certaines inquiétudes pourraient être surestimées. Mais dans les deux cas, son intervention a le mérite de déplacer le débat vers une interrogation plus fondamentale : non seulement jusqu’où l’IA peut aller, mais aussi ce que nous choisissons d’en faire.

• Critique de la conscience artificielle par certains chercheurs
• Absence de preuve d’une expérience subjective des modèles
• Question centrale : contrôle, usage et responsabilité