L’angoisse d’OpenAI face aux usages militaires de l’IA

1. Une experte des droits humains au cœur d’OpenAI

En juin, Sarah Yager a rejoint OpenAI dans un rôle inédit : responsable des droits humains et du déploiement responsable. Forte de près de 30 ans d’expérience sur les enjeux liés aux usages militaires, elle s’intéresse en priorité à la façon dont l’IA s’insère dans les systèmes de défense, un domaine devenu central depuis le partenariat entre OpenAI et le Department of War. Cette nomination place une spécialiste des normes internationales au plus près des décisions techniques.

2. L’IA militaire, entre promesses et inquiétudes

Lors de la conférence ScaleUp:AI à New York, Yager a exprimé ses préoccupations sur l’usage de l’IA dans les conflits armés. Son inquiétude porte notamment sur le ciblage, les armes autonomes et la vitesse à laquelle les armées du monde entier intègrent ces technologies dans leurs opérations. Les drones, les robots et les systèmes d’aide à la décision transforment déjà les modes d’action, mais ils posent aussi des questions majeures de responsabilité et de contrôle.

• Ciblage assisté par IA : risque d’erreurs dans l’identification des objectifs.
• Armes autonomes : interrogation sur le degré de décision laissé aux machines.
• Conflits armés : difficulté à respecter les règles du droit international dans des situations rapides et complexes.

3. Un poste stratégique pour peser de l’intérieur

Sarah Yager n’a pas accepté ce poste à la légère. Elle a d’abord craint d’être utilisée comme une simple vitrine, une forme de branding responsable sans pouvoir réel sur la technologie. Elle a donc mené ses propres vérifications en échangeant avec des employés, en particulier de jeunes chercheurs et ingénieurs préoccupés par ce qu’ils construisent. Elle a fini par accepter, avec l’idée claire d’influencer les choix de l’entreprise de l’intérieur et de déplacer les lignes sur les usages sensibles.

Ce contexte est d’autant plus important qu’OpenAI a remporté un contrat avec le Department of War après une rupture publique entre ce dernier et Anthropic. Cette dernière voulait imposer des limites strictes, notamment sur la surveillance de masse et les armes entièrement autonomes. OpenAI affirme, de son côté, avoir obtenu des garde-fous similaires dans l’accord final.

4. Des améliorations concrètes sur les modèles d’IA

Depuis son arrivée, Yager dit avoir obtenu des résultats tangibles. Elle travaille directement avec des chercheurs et des ingénieurs pour ajuster les modèles et améliorer leurs réponses face à des situations à haut risque. Un exemple marquant concerne l’intégration des Conventions de Genève et des règles du droit de la guerre, adoptées après la Seconde Guerre mondiale. Des experts internationaux ont même été invités à tester les systèmes en saisissant des instructions complexes, afin d’observer les réactions du modèle et d’affiner ses réponses.

• Tests par des experts sur des scénarios sensibles.
• Ajustement des réponses des modèles selon les principes du droit international.
• Travail direct avec les équipes techniques pour corriger les failles.

Pour Yager, ce type de collaboration démontre qu’un encadrement sérieux est possible, à condition d’accepter que les choix techniques ne soient pas laissés à l’auto-régulation seule.

5. Droits humains, pas “droits des IA”

La responsable insiste sur un point essentiel : les entreprises technologiques ne devraient pas redéfinir seules ce qui est bon, juste ou moral. Selon elle, les sociétés ont déjà établi des repères solides à travers les droits humains. Elle rejette donc l’idée que l’industrie puisse inventer ses propres normes de manière isolée. Dans son raisonnement, les cadres existants doivent rester la base de référence, surtout lorsqu’il s’agit d’usages militaires où l’erreur peut avoir des conséquences graves.

Elle se montre aussi prudente face aux débats de la Silicon Valley sur les éventuels droits des agents d’IA. Elle reconnaît que ces discussions sur leur statut juridique, fiscal ou social peuvent être importantes, mais elle rappelle qu’elles ne relèvent pas des droits humains. Son message est clair : il faut remettre l’accent sur l’humain, sur les personnes touchées par les décisions automatisées, et non sur une éventuelle personnalité des systèmes.

6. Représentation, pouvoir et contrôle démocratique

Yager alerte également sur la composition très homogène des groupes qui façonnent l’IA. Elle a notamment souligné le caractère très masculin des réunions réunissant des responsables politiques et des dirigeants du secteur, où les communautés concernées sont rarement présentes. Pour elle, ce déséquilibre est problématique, car l’IA modifie la répartition du pouvoir à l’échelle mondiale sans toujours intégrer les voix de ceux qui en subissent les effets.

Elle estime enfin que les institutions publiques doivent disposer d’outils solides pour surveiller ces technologies. Elle accompagne ainsi des organismes comme le Government Accountability Office et l’Office of Inspector General dans la mise au point de mécanismes de contrôle. Cet encadrement, dit-elle, est essentiel pour la démocratie, car il permet de suivre l’usage réel de l’IA par l’État, d’identifier les dérives éventuelles et de préserver la responsabilité publique.