Meta Platforms — l’entreprise derrière Facebook, Instagram, WhatsApp et Messenger — affirme avoir lancé de nouveaux outils destinés à alerter les parents et les premiers répondants canadiens lorsque des jeunes présentent un risque de suicide ou d’automutilation, mais au moins une experte estime que ces outils ne sont pas infaillibles.

Ces nouvelles mesures permettent d’alerter les parents, par les outils de contrôle parental d’Instagram, si leur adolescent aborde le sujet du suicide ou de l’automutilation avec l’agent conversationnel Meta AI.

Le géant technologique met également en place un système permettant de contacter les services d’urgence lorsque les conversations entre adultes et adolescents avec Meta AI laissent penser qu’ils pourraient être en danger de se donner la mort.

Shauna Pomerantz, professeure spécialisée dans les études sur l’enfance et la jeunesse à l’université Brock, estime que ces mesures constituent un pas dans la bonne direction, car on a recensé plusieurs cas de jeunes utilisant les réseaux sociaux pour parler d’automutilation.

Elle ajoute toutefois que les jeunes sont débrouillards et soupçonne qu’ils trouveront le moyen de contourner ces mesures en utilisant un langage codé en ligne.

Les nouvelles fonctionnalités de Meta interviennent alors que le gouvernement fédéral s’apprête à adopter une nouvelle législation visant à établir des exigences de sécurité pour les réseaux sociaux et les services d’agents conversationnels basés sur l’intelligence artificielle (IA).

———

Si vous ou l’un de vos proches avez des pensées suicidaires, une aide est disponible 24 heures sur 24 et 7 jours sur 7 en appelant ou en envoyant un texto au 988 (1-866-APPELLE au Québec), la ligne d’écoute nationale canadienne de prévention du suicide.

Tara Deschamps, La Presse Canadienne