Scott Wiener : son combat pour révéler les dangers de l’IA

Un Nouvel Élan pour la Réglementation de l’IA

Le sénateur californien Scott Wiener ne fait pas ses débuts dans la lutte contre les dangers de l’intelligence artificielle (IA). Après l’échec de son projet de loi précédent, SB 1047, qui visait à rendre les entreprises technologiques responsables des potentielles nuisances causées par leurs systèmes d’IA, il revient avec un nouveau projet, le SB 53, actuellement sur le bureau du gouverneur Gavin Newsom en attente d’une signature.

Réactions de la Silicon Valley

La réaction au SB 53 semble plus favorable que celle réservée au projet précédent. Des entreprises telles qu’Anthropic ont publiquement exprimé leur soutien, tandis que Meta a souligné que le projet progressait dans la direction d’une réglementation équilibrée. Cela indique un changement notable dans l’attitude de la Silicon Valley face à la réglementation de l’IA.

Les Exigences de Reporting Sécuritaires

Si SB 53 est adopté, il mettrait en place certaines des premières exigences de reporting en matière de sécurité pour les géants de l’IA comme OpenAI, Anthropic, et Google. Actuellement, ces entreprises ne sont pas tenues de divulguer leurs méthodes de test de leurs systèmes d’IA. Voici quelques points clés de cette législation :

• Les laboratoires d’IA générant plus de 500 millions de dollars de revenus devront publier des rapports de sécurité.
• Le projet se concentre sur les risques les plus graves, comme les décès humains et les cyberattaques.
• Il prévoit des canaux protégés pour permettre aux employés de signaler des inquiétudes directement aux autorités.

Une Réglementation Moins Contraignante

Comparé à SB 1047, qui imposait la responsabilité des entreprises face aux dommages causés par leurs modèles d’IA, SB 53 privilégie la transparence et l’auto-reporting. Ce projet s’applique principalement aux grandes entreprises, et non aux start-ups, potentiellement réduisant la résistance rencontrée précédemment.

Le Rôle de l’État vs. le Fédéralisme

Des figures influentes de l’industrie technologique plaident pour que la réglementation de l’IA soit gérée au niveau fédéral. Toutefois, Scott Wiener estime que les gouvernements des États doivent assumer un rôle proactif, citant une confiance limitée envers le gouvernement fédéral pour établir des régulations significatives sur l’IA.

Un Objectif Altruiste

Dans un entretien, Wiener a souligné qu’il cherchait à établir un équilibre entre innovation et sécurité publique. Selon lui, la conversation autour de la sécurité de l’IA est cruciale pour l’avenir. Il conclut : « Il est essentiel de veiller à ce que la technologie profite à l’humanité, tout en minimisant les risques. » Son message aux décideurs ? Adopter une approche réfléchie pour promouvoir l’innovation sans compromettre la sécurité.