Un échange Claude qui a déclenché une arrestation en Floride
En Floride, une femme a été arrêtée après qu’Anthropic a signalé aux autorités une conversation tenue avec Claude. Selon le rapport d’arrestation, elle aurait écrit qu’elle allait “shoot up” le bureau du shérif du comté de Lee, une formule comprise comme une menace de fusillade. L’information, relayée par la presse locale, montre comment un échange avec une IA peut rapidement basculer dans le domaine judiciaire lorsqu’il contient des propos perçus comme dangereux.
Des propos jugés inquiétants et transmis à des humains
D’après les enquêteurs, la déclaration a été formulée le 26 septembre, puis suivie le lendemain d’un message indiquant qu’elle avait obtenu une nouvelle arme. Les systèmes de modération d’Anthropic, conçus pour détecter des phrases-clés et des contenus menaçants, auraient repéré le niveau de gravité du message. Le dossier précise ensuite que l’alerte a été examinée par une équipe humaine, laquelle a estimé nécessaire de transmettre l’affaire à la police.
- 26 septembre : publication du message menaçant
- 27 septembre : mention d’une nouvelle arme
- Signalement : analyse humaine après détection automatisée
- Intervention : remise du dossier aux forces de l’ordre
Une arrestation à domicile et une accusation grave
Les adjoints du shérif ont interpellé la suspecte à son domicile sans incident. L’enquête a ensuite été reprise par un détective spécialisé en renseignement au sein du bureau du shérif. Le shérif Carmine Marceno a expliqué à la télévision locale que l’intéressée décrivait l’usage de l’IA comme un “journal intime”, ce qui illustre la manière dont certains utilisateurs confient à ces outils des pensées très personnelles, parfois sans mesurer les conséquences juridiques de leurs paroles.
Les documents judiciaires mentionnent une inculpation criminelle déposée le 30 septembre en vertu de la Florida Statute 836.10, une loi qui couvre les menaces écrites ou électroniques liées à une tuerie de masse ou à un acte de terrorisme. La prévenue a bénéficié d’un avocat commis d’office, et son audience de mise en accusation a été fixée au 2 novembre.
Ce que disent les règles d’Anthropic sur la sécurité et la confidentialité
La politique de confidentialité d’Anthropic, en vigueur depuis le 10 septembre, précise que l’entreprise peut partager des données personnelles avec les autorités lorsqu’elle estime de bonne foi qu’une divulgation est raisonnablement nécessaire pour prévenir un préjudice grave à une personne ou à un bien. Cette formulation donne à l’entreprise une marge d’action dans les situations jugées urgentes ou potentiellement violentes.
Par ailleurs, sa politique relative aux demandes gouvernementales indique que les informations utilisateur ne sont communiquées que dans le cadre d’une procédure légale valide, sauf en cas d’urgence susceptible d’entraîner une mort ou un dommage physique imminent. Autrement dit, l’idée d’une conversation “privée” avec une IA n’équivaut pas à une confidentialité absolue, surtout lorsque des menaces explicites apparaissent.
Des précédents qui montrent une vigilance accrue
Cette affaire n’est pas isolée. Selon des recoupements de presse, au moins deux autres conversations Claude auraient déjà conduit à un signalement policier depuis août. À San Antonio, un homme de 22 ans aurait interrogé un chat IA d’Anthropic au sujet d’une attaque contre une école primaire, avant d’être arrêté après alerte du FBI. À San Francisco, un autre utilisateur aurait menacé le dirigeant d’Anthropic, Dario Amodei, en affirmant avoir acheté un AR-15 ; il aurait été signalé mais non arrêté ni inculpé.
- San Antonio : arrestation après une menace visant une école
- San Francisco : menace contre le PDG d’Anthropic, sans poursuites immédiates
- Point commun : détection d’un contenu à risque dans un chat IA
- Enjeu : intervention rapide avant passage à l’acte
Un débat plus large sur les IA, les alertes et la responsabilité
Le sujet dépasse le seul cas de Claude. OpenAI a également transmis des informations aux forces de l’ordre dans certaines affaires. Au printemps, un homme de Floride aurait écrit à ChatGPT à propos du meurtre de son ex-compagne ; l’entreprise aurait averti le FBI, et l’intéressé a ensuite plaidé coupable avant d’être condamné à une longue probation. Dans un autre dossier très médiatisé, des critiques ont reproché à OpenAI de ne pas avoir alerté la police au sujet de l’auteur d’une fusillade à Tumbler Ridge, un épisode qui a ravivé les débats sur la capacité des plateformes à détecter le danger.
Dans ce contexte, la ligne de partage est délicate : protéger la vie humaine tout en respectant la confidentialité des utilisateurs. Les entreprises d’IA doivent arbitrer entre surveillance des menaces, protection des données et coopération judiciaire. Ce dossier illustre surtout une réalité devenue centrale : lorsqu’un utilisateur transforme une conversation avec une IA en espace de menace, l’outil cesse d’être un simple assistant et devient potentiellement une pièce à conviction.
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.
