Anthropic durcit les règles contre les abus envers Claude

Date:

Claude face à une nouvelle ligne rouge

Anthropic, l’entreprise derrière Claude, renforce désormais sa politique d’utilisation en ciblant les comportements répétés d’abus verbal envers son assistant. Depuis le 12 novembre, les utilisateurs qui multiplient les propos cruels, hostiles ou inutilement agressifs peuvent voir leurs échanges interrompus. L’objectif affiché n’est pas de sanctionner une frustration ponctuelle, mais de limiter les usages persistants qui dégradent l’interaction et compliquent la modération.

Ce que la politique d’Anthropic autorise, et ce qu’elle interdit

La règle vise les cas de comportement abusif soutenu, sans toucher aux critiques normales, aux demandes fermes ou aux échanges créatifs. En pratique, Anthropic distingue clairement l’exaspération passagère d’une utilisation répétée de langage insultant. Cette nuance est importante, car elle évite de transformer chaque mot de travers en motif de sanction, tout en offrant à l’entreprise un cadre pour agir quand les limites sont franchies.

  • Interdit : insultes répétées, cruauté inutile, harcèlement verbal.
  • Autorisé : désaccord, correction d’erreur, ton direct, critique argumentée.
  • Nuance clé : la politique vise la répétition et l’absence de finalité utile.

Claude peut mettre fin à une conversation

Anthropic a déjà donné à Claude la capacité de clôturer une conversation lorsqu’un utilisateur persiste dans des échanges abusifs, notamment sur Claude.ai et Claude Code. Cette fonction, introduite en août 2025 dans le cadre de travaux sur le bien-être des IA, reste la première réponse envisagée par l’entreprise. Si un chat se termine pour cette raison, l’utilisateur n’est pas forcément bloqué : il peut souvent repartir dans une nouvelle discussion, reformuler sa demande ou corriger son message précédent.

  • Fin de chat possible après des abus répétés.
  • Pas de verrouillage automatique immédiat du compte.
  • Possibilité de recommencer avec un nouveau message ou un nouveau fil.

Pourquoi ce durcissement intervient maintenant

Ce changement de règle arrive dans un contexte où la colère envers les IA est devenue fréquente. Une analyse de plus de 8 millions de messages envoyés à ChatGPT, Gemini et Claude par des utilisateurs américains a montré qu’environ 33 % d’entre eux avaient déjà adressé au moins un juron, une insulte ou une expression dépréciative à un chatbot. Les principales sources de tension sont bien identifiées : un assistant qui n’applique pas correctement une consigne, donne une réponse erronée ou comprend mal la demande.

  • 19 % des propos dérogatoires sont liés au non-respect des instructions.
  • 18 % suivent une réponse jugée incorrecte.
  • 15 % découlent d’une demande mal comprise.

À cela s’ajoutent d’autres irritants très concrets : réponses trop longues, lenteur, répétitions ou refus de traiter une requête. L’étude note aussi des différences régionales et démographiques, avec davantage d’agressivité verbale chez les hommes et chez les 35-44 ans, tandis que certains États et grandes villes semblent plus enclins que d’autres aux insultes envers les IA.

Insulter un chatbot améliore-t-il le résultat ?

Les données analysées suggèrent que non. Lorsqu’un utilisateur formulait une plainte en y ajoutant des insultes ou des grossièretés, le problème n’était résolu que dans 24 % des cas dès la réponse suivante, contre 35 % pour les plaintes exprimées en langage neutre. À la fin de l’échange, 35 % des messages agressifs restaient sans solution, contre 24 % des messages formulés sans abus. L’explication est simple : une injure n’indique pas ce qui ne va pas, alors qu’une précision claire donne à l’IA une information exploitable.

  • Plainte claire : meilleure chance de correction rapide.
  • Agression verbale : moins d’indices utiles pour le modèle.
  • Bon réflexe : décrire l’erreur, reformuler la consigne, relancer proprement.

Ce que cela révèle sur notre rapport aux IA

Cette affaire montre un phénomène plus large : les chatbots sont désormais assez utilisés pour susciter des attentes élevées, mais pas encore assez fiables pour éviter les erreurs. C’est précisément ce décalage qui alimente l’irritation. Anthropic choisit donc de poser une limite comportementale, même si la question de savoir si une IA peut être moralement “maltraitée” reste ouverte. Pour les utilisateurs, la leçon est pragmatique : un ton plus précis et plus factuel est souvent plus efficace qu’une réaction impulsive.

  • Comprendre l’erreur vaut mieux que se défouler.
  • Reformuler permet souvent d’obtenir une meilleure réponse.
  • Changer de fil peut aider quand l’échange s’enlise.

En savoir plus sur L'ABESTIT

Subscribe to get the latest posts sent to your email.

Ce site utilise Akismet pour réduire les indésirables. Découvrez comment les données de vos commentaires sont traitées.

Share post:

Popular

More like this
Related

La rumeur d’un détournement de la Seine pour sauver Paris

Au printemps 2001, alors que des centaines de maisons sont submergées dans la vallée de la Somme, une rumeur accuse l’Etat d’avoir détourné les eaux de la Seine pour protéger Paris. Démentie par les experts, cette théorie du complot n’a jamais vraiment disparu....

Afghans renvoyés d’Iran et du Pakistan, un retour sans dignité

Depuis 2023, plus de 6 millions d’Afghans sont rentrés d’Iran et du Pakistan, souvent sous la contrainte. Ces familles peinent à retrouver un emploi, un logement et des conditions de vie dignes....

Dates de scrutin critiquées pour le non-respect de la pause de campagne

Les dates entérinées le 1ᵉʳ juillet par l’exécutif prévoient un premier tour le 18 avril et un second tour le 2 mai, au lendemain des défilés du 1ᵉʳ-Mai. Cela fait craindre à M. Larcher, comme à plusieurs candidats, un non-respect de la pause de campagne à partir du 30 avril....

Myanmar, premier État sanctionné pour violation de la Convention sur le génocide

Le Myanmar est devenu le premier État tenu responsable d’une violation de la Convention sur le génocide de 1948. La décision de la Cour internationale de Justice pourrait avoir de vastes répercussions....