Ottawa fixe des règles sur l'intelligence artificielle dans les ministères

Publié le 05/03/2019 à 06:50

Ottawa fixe des règles sur l'intelligence artificielle dans les ministères

Publié le 05/03/2019 à 06:50

Par La Presse Canadienne

Le ministère qui supervise le filet de sécurité sociale fédéral a discrètement commencé à tester des systèmes d'intelligence artificielle qui pourraient un jour faciliter et accélérer l'obtention de réponses sur les prestations et les services.


Une petite équipe d'Emploi et Développement social Canada expérimente des moyens de simplifier la navigation dans l'un des plus grands organismes de services au pays, en matière de gestion des prestations de retraites publiques, de l'assurance-emploi, des prestations familiales et des régimes d'invalidité. Le ministère comprend des bureaux, des centres d'appels et des centres de correspondance.


L'équipe espère en arriver à ce que les gens interagissent directement avec des robots plutôt que des humains, notamment lors de discussions en ligne pour obtenir des informations sur des programmes gouvernementaux.


Une première ébauche de la stratégie d'intelligence artificielle du ministère, obtenue par La Presse canadienne en vertu des lois sur l'accès à l'information, laisse entendre que les risques associés aux agents conversationnels incluent: «fournir des informations incorrectes aux Canadiens», «produire un contenu incohérent» ou «reproduire un comportement indésirable».


Le pire des cas? À l'interne, un agent conversationnel pourrait dire à un employé «d'envisager une action "catastrophique"» — tel un ordre de type Terminator de tuer tous les humains — tandis que sur le réseau externe, il pourrait commencer à reproduire un discours de haine.


Un robot Twitter créé par Microsoft a fait précisément cela il y a trois ans, après avoir interagi avec suffisamment d'utilisateurs et «appris» à imiter leurs écrits. Cette réaction du robot a été provoquée délibérément par des utilisateurs étant arrivés à leurs fins en une seule journée.


La stratégie souligne que le ministère doit gérer les risques juridiques, les questions éthiques et les problèmes logistiques, sans parler de la «perception du public» — et des avancées technologiques rapides qui signifient que «les réponses à ces risques sont des cibles mouvantes».


Le gouvernement fédéral a fixé des règles de base sur la manière dont les ministères et agences peuvent utiliser l'intelligence artificielle pour prendre des décisions sur les prestations et les services.


Dans une allocution, lundi matin — quelques heures avant sa démission du cabinet —, lors d'une conférence de fonctionnaires, la présidente du Conseil du trésor, Jane Philpott, a affirmé que l'ère de l'intelligence artificielle était bel et bien amorcée.


«Quand les gens vont en ligne et font leurs achats de Noël, l'intelligence artificielle influence leur manière de faire leurs achats de Noël», a-t-elle souligné. «Au gouvernement, nous voulons nous assurer de tirer parti des mêmes types d'outils pour fournir de bons services aux personnes, mais nous devons être extrêmement transparents dans la manière de procéder.»


Au ministère, une équipe a commencé modestement en essayant de créer des services utilisés par les employés du gouvernement eux-mêmes, de manière à ce que les procédés puissent être testés avec soin avant d'être utilisés auprès de la population.


Les ministères étudient déjà des moyens d'utiliser l'intelligence artificielle et l'«apprentissage automatique» pour automatiser certaines tâches et pour mener des projets à long terme, dont la préservation et l'enseignement des langues autochtones.


En établissant de nouvelles règles, les ministères devront être en mesure d'expliquer pourquoi une décision a été prise sur un dossier en particulier — et ne pourront pas se contenter de répondre que cette tâche a été effectuée par un ordinateur, a indiqué la ministre Philpott.


Selon elle, le potentiel d'amélioration des services fédéraux est illimité, mais cela pose également des problèmes d'éthique et de responsabilité pour le gouvernement.


Les humains ne seront pas complètement éliminés du processus, a assuré la ministre: le gouvernement veillera également à ce que les décisions prises par des machines soient justes, équitables et cohérentes.


image

Femmes Leaders

Mercredi 24 avril


image

Gestion agile

Mercredi 08 mai


image

Usine 4.0

Mardi 24 septembre


image

Impartition TI

Mercredi 09 octobre

Sur le même sujet

Le prix «unique» est mort, vive le prix personnalisé !

Édition du 06 Avril 2019 | Laura O'Laughlin

EXPERTE INVITÉE. La combinaison de données personnelles avec des algorithmes d'apprentissage automatique a de vastes ...

Intelligence artificielle: Yoshua Bengio, Yann LeCun et Geoffrey Hinton reçoivent le prix Turing

Mis à jour le 27/03/2019 | La Presse Canadienne

Trois chercheurs, dont Yoshua Bengio, recevront en juin le prix Turing de l'Association for Computing Machinery (ACM).

À la une

Le dangereux déclin des classes moyennes

19/04/2019 | François Normand

ANALYSE - Depuis 40 ans, la classe moyenne a reculé dans les 36 pays de l'OCDE. Voici les causes et les solutions.

Le parti communiste perdra-t-il le monopole du pouvoir en Chine?

19/04/2019 | François Normand

BALADO - Quatre scénarios sont possibles pour l'avenir de la Chine, selon un récent livre. Lequel est le plus probable?

Déjà-vu: Metro a tout pour plaire, sauf son évaluation

BLOGUE. Metro performe bien, mais son évaluation est plus élevée qu'avant place la barre encore plus haute.