Un Appel à la Prudence : Une Lettre sur l’Intelligence Artificielle
Récemment, des centaines de personnalités publiques, comprenant plusieurs pionniers de l’IA, ont signé une lettre pour demander une interdiction de la création d’une superintelligence artificielle. Cette initiative, connue sous le nom de « Déclaration sur la Superintelligence », émane du Future of Life Institute (FLI) et souligne la nécessité d’un consensus scientifique avant de poursuivre le développement de technologies puissantes en matière d’IA.
Un Message Clair : Protéger l’Humanité
Le contenu de la lettre est concis, appelant à une prohibition du développement de la superintelligence jusqu’à ce qu’il existe une garantie de sécurité et de contrôle. Les signataires affirment que cette interdiction ne doit pas être levée avant d’avoir obtenu l’accord du public et d’avoir réussi à prouver que la conduite de l’IA est sans risque.
Une Opinion Publique Révélatrice
Des sondages effectués par le FLI révèlent des résultats frappants : seulement 5% des Américains soutiennent un développement rapide et non régulé de l’IA, tandis que plus de 73% préconisent des actions réglementaires robustes. De plus, environ 64% des personnes interrogées estiment que la superintelligence ne devrait pas être construite tant que sa sécurité n’est pas démontrée.
Des Signataires Étonnants et Diversifiés
Les signataires de cette lettre incluent des figures emblématiques de la technologie et des affaires, tels que Steve Wozniak (cofondateur d’Apple) et Richard Branson, ainsi que des personnalités influentes du paysage médiatique et culturel. La liste des signataires reflète une diversité d’idéologies unies par la conviction que la réglementation de l’IA est essentielle.
Le Débat sur les Risques : Vers une Superintelligence?
Des experts comme Yoshua Bengio et Geoffrey Hinton, souvent appelés les « pères de l’IA », ont exprimé leurs préoccupations. Bengio souligne que les systèmes d’IA avancés pourraient surpasser l’intelligence humaine dans plusieurs domaines d’ici peu d’années, et avertit des risques significatifs liés à ces avancées. La lettre stipule également que la superintelligence est réalisable, un point de vue qui suscite des scepticismes parmi certains professionnels du secteur.
Une Transformation Nécessaire du Développement de l’IA
La lettre met en lumière l’importance d’un processus de développement démocratique pour l’IA, où le public devrait avoir voix au chapitre sur les décisions qui façonneront notre avenir technologique. Anthony Aguirre, cofondateur du FLI, insiste sur le fait que le parcours actuel des entreprises d’IA, visant à développer des systèmes dépassant l’intelligence humaine sans tenir compte des préoccupations publiques, est déphasé par rapport aux besoins de notre société. Le débat sur les risques associés à ces technologies est plus pertinent que jamais, et soulève la question de la responsabilité dans leur développement.





