Contexte de la négociation
Le 9 mars 2026, Anthropic a intenté un procès contre le Département de la Défense, suite à sa désignation en tant que risque pour la chaîne d’approvisionnement. Cette décision a suscité des inquiétudes parmi les professionnels du secteur, entraînant la soumission d’un amicus brief par près de 40 employés d’OpenAI et Google, dont Jeff Dean. Ces derniers ont exprimé leurs préoccupations concernant les impacts de cette désignation sur la technologie et la sécurité nationale.
Les enjeux de la désignation de risque
La décision du gouvernement a été perçue comme une réaction inappropriée au refus d’Anthropic d’accepter l’utilisation de sa technologie à des fins de surveillance de masse ou d’armements autonomes létaux. Ces points de désaccord ont conduit à des négociations conflictuelles, avec des insultes publiques échangées et d’autres entreprises d’IA intervenant pour signer des contrats aux conditions moins restrictives.
Conséquences pour Anthropic
Être classé comme risque de chaîne d’approvisionnement a des répercussions notables pour Anthropic, en l’empêchant de collaborer sur des contrats militaires. Ceci a des implications pour les entreprises qui utilisent sa technologie, les poussant à abandonner les outils d’Anthropic afin de maintenir leurs intérêts contractuels. Toutefois, malgré cette désignation, les outils d’Anthropic ont joué un rôle crucial dans certaines opérations militaires des États-Unis.
Réponse juridique et préoccupations éthiques
L’amicus brief soumis par les employés intervient pour affirmer que cette désignation est une forme de représailles inappropriée nuisant à l’intérêt public. Les signataires soulignent l’importance d’évaluer les risques de technologies d’IA pour la surveillance et les systèmes d’armement autonomes, coûts qui peuvent dépasser les avantages potentiels en matière de sécurité.
Surveillance de masse et technologies d’IA
Les signataires du brief soulignent que bien que des données sur les citoyens américains soient largement disponibles, l’intégration de ces informations avec des technologies d’IA pourrait créer un appareil de surveillance en temps réel, augmentant considérablement les risques pour la gouvernance démocratique. Les dangers d’une surveillance de masse alimentée par l’IA nécessitent des discussions urgentes et des régulations.
Risques des systèmes d’armement autonomes
Concernant les systèmes d’armement autonomes, le groupe a averti que ces technologies ne peuvent pas être pleinement fiables dans des situations nouvelles. Elles doivent impérativement être supervisées par des humains afin de prévenir des erreurs tragiques, notamment en raison du risque de hallucination des systèmes d’IA. Les experts insistent sur la nécessité d’établir des garde-fous technologiques ou des restrictions d’utilisation pour prévenir des défaillances catastrophiques.
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.
