La tireuse de Tumbler Ridge avait un deuxième compte ChatGPT, dit OpenAI

SAN FRANCISCO — La société d'intelligence artificielle OpenAI affirme que la tireuse impliquée dans la tuerie à Tumbler Ridge, en Colombie-Britannique, a contourné l'interdiction d'utiliser ChatGPT en raison de propos problématiques en créant un deuxième compte.

Cette révélation a été faite dans une lettre envoyée au ministre de l'Intelligence artificielle, Evan Solomon, dans laquelle l'entreprise décrit une série de «mesures immédiates» qu'elle prend en réponse à la tuerie et indique que si celles-ci avaient été en place, la police aurait été informée de l'activité sur le compte.

Ann O'Leary, vice-présidente d'OpenAI responsable de la politique mondiale, affirme que l'entreprise n'a découvert l'existence du deuxième compte qu'après l'annonce du nom de Jesse Van Rootselaar par la GRC.

Elle ajoute que la tireuse qui a tué huit personnes avant de se suicider le 10 février a réussi à contourner les systèmes empêchant les utilisateurs bannis de créer de nouveaux comptes, et que le deuxième compte de Van Rootselaar a été communiqué aux forces de l'ordre dès sa découverte.

Dans la lettre au ministre Solomon, OpenAI s'engage à renforcer ses systèmes de détection afin de mieux prévenir les tentatives de contournement de ses mesures de sécurité et de «donner la priorité à l'identification des délinquants présentant le plus grand risque».

Mme O'Leary précise que l'entreprise renforcera également ses protocoles concernant la prise de contact avec la police «lorsque les conversations franchissent la ligne rouge et présentent un risque imminent et crédible», et qu'elle mettra en place un point de contact direct avec les forces de l'ordre canadiennes.

La Presse Canadienne