Santé mentale chez les jeunes: des experts se penchent sur la sécurité de l'IA

MONTRÉAL — Dans le contexte où les jeunes utilisent de plus en plus des agents conversationnels pour parler de ce qu’ils vivent, l'Institut québécois d’intelligence artificielle Mila organise un événement national afin de documenter, tester et concevoir des technologies qui visent à réduire les risques de préjudices en santé mentale lorsque l'intelligence artificielle (IA) est impliquée.

L'événement est un marathon de programmation (''hackathon''), qui est un processus fréquemment utilisé dans le domaine numérique. Cela consiste à rassembler des experts pour développer des programmes sur un thème déterminé. L'événement de Mila se consacre au développement sécuritaire des agents d’IA conversationnelle en contexte de santé mentale chez les jeunes.

Les experts réunis se concentreront notamment sur les garde-fous utilisés pour détecter la détresse psychologique. Selon des données préliminaires d'un sondage de l'organisme Recherche en santé mentale Canada (RSMC), qui n'ont pas encore été publiées, 76 % des gens trouvent que l'IA est efficace en matière de soutien à leur santé mentale.

«Il y a une drôle de dichotomie, pointe en entrevue Simona Gandrabur, responsable de studio, sécurité IA, chez Mila. Il y a d'une part le fait qu'il y a 900 millions de personnes qui utilisent juste ChatGPT sur une base hebdomadaire.»

De l'autre côté, seuls 14 % des gens font confiance à l'IA pour leur apporter un soutien sûr en matière de santé mentale (selon les données préliminaires de RSMC). Or, Mme Gandrabur fait valoir que douter est positif. «C'est même sain, je dirais. Il faut être prudent et il faut être conscient des dangers de l'utilisation de cette technologie, mais ne pas s'en priver cependant.»

Selon Mme Gandrabur, il y a deux enjeux majeurs avec les garde-fous en IA. «Soit qu'ils ne sont pas assez efficaces pour détecter la détresse lorsqu'elle est exprimée avec des euphémismes ou avec un langage qui est typique aux jeunes ou dans une spécificité de contexte inhabituelle. Ou, s'ils sont efficaces [...] on préfère garder le client engagé. Donc, il y a d'autres considérations pour maximiser l'engagement qui prennent le dessus», explique l'experte.

Le cas de la tuerie de Tumblr Ridge

Nous ne sommes pas au fait de l'ampleur des risques et des impacts de l'IA en santé mentale, affirme Mme Gandrabur. «Il n'y a pas eu de travaux encore d'une rigueur de calibre médical, disons, pour prouver la valeur ou le risque de ces applications. Il y a un besoin fondamental d'appuyer nos propos avec des analyses objectives qui nous permettent de mesurer ces risques et ces impacts.»

La préparation du marathon de programmation a commencé en octobre dernier. «Ç'a été motivé par les multiples cas de suicides qui ont été documentés l'année passée et la tragédie de Tumblr Ridge ne fait que montrer à quel point cet événement est d'actualité et opportun», a-t-elle souligné, faisant référence à la tuerie de masse qui a eu lieu le 10 février dans une école secondaire et une maison de Tumbler Ridge, en Colombie-Britannique.

La tuerie a fait neuf morts, dont la tireuse. L'agent conversationnel d'OpenAI aurait aidé la tireuse à planifier et à commettre les meurtres.

«Il y a un drapeau rouge qui a été levé, mais peut-être qu'il a été levé un peu tard. Il faudrait voir les conversations qui ont eu lieu avant que ce drapeau-là soit levé. C'est la première chose. La deuxième, c'est que, oui, le drapeau a été levé, mais après ça, il y avait des politiques internes, des humains en fait, qui ont décidé que le risque n'était pas assez immédiat pour justifier une alerte des autorités», a fait valoir Mme Gandrabur.

Cet événement tragique met en lumière l'importance des garde-fous, ces filtres qui permettent de détecter la détresse et les enjeux plus sérieux de santé mentale.

Le marathon de programmation de Mila se déroule du 16 au 23 mars et est une collaboration avec Bell Canada, Buzz HPC et Jeunesse, J’écoute.

—

La couverture en santé de La Presse Canadienne est soutenue par un partenariat avec l'Association médicale canadienne. La Presse Canadienne est seule responsable de ce contenu journalistique.

Katrine Desautels, La Presse Canadienne