Suspect fusillade école Tumbler Ridge partage scénarios violents ChatGPT

Un Incident Troublant à Tumbler Ridge

Le massacre de Tumbler Ridge</, en Colombie-Britannique, a révélé des signaux d’alarme concernant le suspect, Jesse Van Rootselaar. Avant la tragédie, des employés d’OpenAI avaient exprimé leurs inquiétudes quant à des discussions qu’il avait eues avec ChatGPT, évoquant une violence armée. Ces échanges avaient déclenché le système de révision automatisé du chatbot, suscitant des craintes parmi les employés.

Une Préoccupation Ignorée

Malgré ces alarmes, OpenAI a choisi de ne pas alerter les forces de l’ordre. Les employés ont poussé à une action rapide en raison de la nature inquiétante des contenus partagés, mais leur demande n’a pas été entendue. La décision de ne pas intervenir soulève des questions sur la responsabilité des entreprises technologiques dans la prévention de la violence.

Réponse d’OpenAI

Kayla Wood, porte-parole d’OpenAI, a déclaré que l’analyse de la situation avait amené l’entreprise à conclure qu’il n’y avait pas de risque imminent de dommages. Bien que le compte de Rootselaar ait été banni, aucune mesure préventive supplémentaire n’a été mise en place à ce moment-là. L’entreprise a, par la suite, contacté les autorités canadiennes pour partager des informations concernant les utilisations de ChatGPT par Rootselaar.

Les Détails du Tragique Événement

Le 10 février, le massacre a fait neuf victimes et 27 blessés, marquant l’incident de violence le plus meurtrier au Canada depuis 2020. Rootselaar, qui s’est également blessé mortellement sur les lieux de l’incident à l’école secondaire de Tumbler Ridge, a ainsi causé une tragédie d’une ampleur dévastatrice.

Réflexions sur les Choix d’OpenAI

Les décisions d’OpenAI de ne pas alerter les forces de l’ordre sont désormais scrutées. En affirmant qu’ils tentaient d’atteindre un équilibre entre la confidentialité et la sécurité, l’entreprise a justifié son choix par la peur de provoquer des dommages collatéraux avec une utilisation excessive des références aux forces de l’ordre. Ce choix, à la lumière des événements tragiques, semble de plus en plus contestable.

Engagement envers la Sécurité

OpenAI a exprimé ses pensées envers toutes les personnes touchées par cette tragédie. Ils ont affirmé leur volonté de cooperer avec les autorités canadiennes dans l’enquête en cours. Cet incident met en lumière l’importance d’une réponse rapide et réfléchie face à des signaux d’alarme, surtout dans le contexte du développement technologique et des interactions avec l’intelligence artificielle.