Eric Schmidt s’oppose à un projet colossal pour l’IA générale

Une nouvelle vision pour l’intelligence artificielle

Dans un document de politique publié récemment, des figures influentes du secteur de l’IA, comme l’ancien PDG de Google Eric Schmidt et le directeur du Center for AI Safety Dan Hendrycks, mettent en garde contre une approche à la Manhattan Project pour le développement des systèmes d’intelligence artificielle à “superintelligence”, également connus sous le nom d’AGI. Leurs réflexions soulignent qu’un tel projet pourrait engendrer des répercussions négatives, notamment en termes de relations internationales.

Les dangers d’une course à l’armement en IA

Le document intitulé “Superintelligence Strategy” conteste l’idée selon laquelle une pression agressive des États-Unis pour contrôler exclusivement l’AGI pourrait ne pas être perçue comme une menace par d’autres nations, en particulier par la Chine. Les co-auteurs avertissent qu’un tel déséquilibre pourrait susciter des représailles violentes, y compris des cyberattaques.

Un retour sur le Manhattan Project

Ce débat prend de l’ampleur après qu’une commission du Congrès américain a évoqué un programme à la Manhattan Project pour financer le développement de l’AGI. Schmidt et ses co-auteurs soulignent que la recherche d’un monopole sur des systèmes d’IA puissants pourrait non seulement déclencher une escalade de tensions entre puissances, mais aussi compromettre la stabilité mondiale que l’on souhaite établir.

Mutual Assured AI Malfunction (MAIM)

Pour contrer cette dynamique potentiellement dangereuse, les auteurs introduisent le concept de Mutual Assured AI Malfunction, incitant les gouvernements à anticiper et désactiver proactivement les projets d’IA menaçants, au lieu d’attendre qu’un adversaire prenne les devants. Ce changement d’orientation stratégique pourrait permettre de sécuriser l’avenir de l’IA tout en maintenant un équilibre global.

Une approche équilibrée face à l’AGI

Davantage que de simplement espérer que les choses s’arrangent, Schmidt, Wang et Hendrycks suggèrent d’adopter une approche mesurée qui priorise les stratégies de défense plutôt que l’accélération du développement de l’AGI. Ils plaident pour que les États-Unis diversifient leur arsenal en matière de cyberattaques pour désactiver les projets menaçants d’autres nations.

Vers une nouvelle ère de la politique d’IA

Le document se positionne ainsi entre les partis “doomers” et “ostriches” de la politique de l’IA, offrant une troisième voie qui décrit un équilibre entre la mise en œuvre de stratégies de sécurité et l’innovation technologique. Alors que les États-Unis poursuivent leur processus de développement de l’IA, Schmidt et ses associés suggèrent qu’un changement d’approche vers la défense pourrait s’avérer plus sage pour l’avenir de l’intelligence artificielle.