T.-N.-L. encadre l'utilisation de l'IA pour l'exécution de contrats publics

ST. JOHN'S — Le gouvernement de Terre-Neuve-et-Labrador a revu son processus d'attribution des contrats après que de fausses citations, vraisemblablement générées par l'intelligence artificielle (IA), aient été découvertes dans deux rapports, dont un préparé par Deloitte Canada.

Les fournisseurs qui soumissionnent pour des travaux pour le gouvernement provincial doivent désormais indiquer s'ils ont l'intention d'utiliser l'intelligence artificielle pour exécuter le contrat, a déclaré Barry Petten, ministre progressiste-conservateur responsable des marchés publics.

La province peut également contrôler l'utilisation de l'IA par une entreprise, a-t-il ajouté.

Ces changements ont été introduits après que les fausses citations contenues dans les rapports soumis au gouvernement de Terre-Neuve-et-Labrador aient attiré l'attention de tout le pays, dans un contexte de surveillance accrue des grands modèles linguistiques et de leur utilisation.

Les nouveaux critères semblent également positionner Terre-Neuve-et-Labrador comme une province pionnière en matière de mise en place de garde-fous sur l'utilisation de l'intelligence artificielle par les entrepreneurs, selon une analyse des autres juridictions réalisée par La Presse Canadienne.

«Nous devions faire quelque chose, a affirmé M. Petten lors d'une récente entrevue. Nous essayons simplement de combler les lacunes.»

Pendant ce temps, le gouvernement «examine les options en matière d'indemnisation» pour les erreurs contenues dans le rapport Deloitte, a assuré Jennifer Konieczny, porte-parole du ministère provincial de la Santé, dans un courriel.

Comme l'ont rapporté respectivement Radio-Canada et le site d'information en ligne The Independent l'année dernière, des citations faisant référence à des sources qui semblaient inexistantes ont été trouvées dans des rapports soumis à l'ancien gouvernement libéral.

L'un d'entre eux avait été préparé par l'équipe gouvernementale chargée de l'Accord sur l'éducation, qui avait pour mission d'élaborer un plan décennal visant à améliorer l'éducation dans la province. L'autre, un plan de ressources humaines pour le personnel de santé, avait été préparé pour le ministère provincial de la Santé par le cabinet de conseil Deloitte Canada.

Dans un courriel, Deloitte a déclaré à La Presse Canadienne qu'elle soutenait les recommandations du rapport sur les ressources humaines en santé et qu'il n'avait pas été rédigé à l'aide de l'IA. La société a utilisé l'IA «pour étayer un petit nombre de citations de recherche» et a révisé le document en apportant quelques corrections aux citations, peut-on lire dans la déclaration de l'entreprise.

En vertu de la loi sur l'accès à l'information, La Presse Canadienne a obtenu une copie du contrat relatif à l'étude sur les ressources humaines signé par le précédent gouvernement libéral et Deloitte en 2023. Ce contrat ne contenait aucune disposition concernant l'utilisation éventuelle de l'intelligence artificielle par la société ou la manière dont elle pouvait être utilisée.

La province a payé environ 1,6 million $ pour ce rapport, taxes comprises, a indiqué le ministère de la Santé.

Le ministre Petten a expliqué que son gouvernement avait modifié les formulaires utilisés pour les appels d'offres afin d'indiquer clairement les politiques de la province en matière d'intelligence artificielle. Les entreprises qui répondent doivent indiquer si elles ont l'intention d'utiliser l'IA et comment, et la province peut examiner cette utilisation à tout moment, a-t-il précisé.

«Nous pouvons enquêter, approuver, refuser ou modifier l'utilisation prévue de l'IA par un fournisseur, et nous pouvons également contrôler l'utilisation de l'IA par ce fournisseur, a détaillé M. Petten. Ce sont des changements importants.»

Tom Cooper, professeur de commerce à l'université Memorial, a déclaré que les gouvernements devraient partir du principe que les sociétés de conseil, telles que Deloitte, utilisent l'intelligence artificielle, et qu'ils devraient préciser d'emblée dans leurs contrats quelle utilisation est acceptable.

Les gouvernements devraient également s'attendre à de meilleurs rapports, car les outils d'intelligence artificielle, tels que les grands modèles linguistiques, peuvent faire gagner du temps et de l'argent aux prestataires, a-t-il ajouté.

«Les rapports devraient être de bien meilleure qualité. Ils devraient être plus complets, comporter davantage d'entretiens, la méthodologie devrait être mieux définie et il devrait y avoir davantage d'analyses juridictionnelles», a fait valoir M. Cooper en entrevue.

«Si vous obtenez le même rapport (en termes de qualité), alors il y a un problème», a-t-il affirmé.

Ailleurs au Canada

La Presse Canadienne a demandé à chaque province si elle avait inclus des lignes directrices ou des dispositions relatives à l'utilisation de l'IA dans ses documents d'approvisionnement, comme le fait Terre-Neuve-et-Labrador. L'Alberta demande aux entreprises d'être en mesure d'expliquer comment elles utilisent l'IA et de conserver une documentation minutieuse au cas où le gouvernement contrôlerait cette utilisation, selon un porte-parole du gouvernement.

La Saskatchewan et la Nouvelle-Écosse ont établi des règles pour les contrats liés aux technologies de l'information, exigeant des fournisseurs qu'ils fassent preuve de transparence quant à leur utilisation de l'IA, ont affirmé les porte-parole de ces provinces.

Le Nouveau-Brunswick énumère les exigences en matière de confidentialité et de sécurité relatives à l'IA dans ses documents d'appel d'offres pour les services ou produits informatiques, a déclaré un porte-parole.

D'autres provinces, notamment l'Ontario, le Manitoba et la Colombie-Britannique, n'ont prévu aucune disposition à cet égard.

M. Petten a mentionné que Terre-Neuve-et-Labrador avait commencé à modifier ses documents d'appel d'offres en décembre.

«C'est en cours, nous apprenons au fur et à mesure, a-t-il déclaré. Et j'espère que nous nous améliorerons avec le temps.»

Sarah Smellie, La Presse Canadienne