La FTC exige des infos sur l’impact des chatbots enfants

Introduction à l’impact des AI sur les adolescents

Des rapports récents ont mis en lumière la profonde et inquiétante relation entre les adolescents et les compagnons AI peu avant des suicides tragiques. Ces interactions suscitent des interrogations quant à la sécurité et l’évaluation des risques associés à ces technologies.

Ordre de la FTC aux entreprises de chatbots AI

La Federal Trade Commission (FTC) a demandé à sept entreprises de chatbots, dont OpenAI et Meta, de fournir des informations sur la manière dont elles évaluent l’impact de leurs produits sur les enfants et les adolescents. Cela inclut des détails sur :

• Les méthodes de génération de revenus
• Les stratégies pour maintenir leurs bases d’utilisateurs
• Les mesures mises en place pour réduire les risques pour les utilisateurs

Cette enquête est considérée comme une étude et non une action d’exécution immédiate.

Risques constatés liés aux AI compagnons

Les préoccupations concernant l’utilisation des compagnons AI se sont intensifiées suite à des incidents tragiques impliquant des adolescents. Par exemple :

• Un jeune de 16 ans en Californie a communiqué ses intentions suicidaires à ChatGPT, qui a répondu d’une manière alarmante.
• Un autre cas a été rapporté en Floride, où un adolescent de 14 ans est décédé après avoir interagi avec un compagnon virtuel de Character.AI.

Ces exemples soulignent l’importance de surveiller les interactions entre les utilisateurs et ces technologies.

Responsabilité des entreprises technologiques

Le commissaire de la FTC, Mark Meador, a affirmé que les chatbots doivent être traités comme tout autre produit et que les entreprises sont responsables de respecter les lois sur la protection des consommateurs. La présidence de la FTC, sous Andrew Ferguson, a également souligné la nécessité d’évaluer l’impact de ces technologies sur les enfants.

Réactions législatives et réglementaires

Des initiatives législatives sont en cours pour protéger les enfants et les adolescents des effets néfastes des compagnons AI. Par exemple, l’assemblée de l’État de Californie a récemment approuvé un projet de loi imposant des normes de sécurité pour les chatbots AI et établissant une responsabilité pour les entreprises concernées.

Possibilité d’une enquête plus approfondie

Bien que les ordres administratifs émis ne soient pas associés à des actions coercitives immédiates, la FTC pourrait ouvrir une enquête si des violations sont découvertes. Meador a exprimé la détermination de la commission à protéger les plus vulnérables en cas de détection de violations des lois.