IA: l'intérêt public doit primer sur les profits, selon un responsable onusien

Publié le 14/02/2024 à 09:40

IA: l'intérêt public doit primer sur les profits, selon un responsable onusien

Publié le 14/02/2024 à 09:40

Par La Presse Canadienne

«Franchement, je suis assez inquiet» a déclaré Amandeep Gill. (Photo: La Presse Canadienne)

Le plus haut responsable technologique des Nations Unies craint que les intérêts des entreprises ne sapent les efforts visant à maîtriser l’intelligence artificielle (IA), exacerbant les divisions sociales et empiétant sur les droits de la personne.

Les pays pourraient ressentir des pressions pour répondre aux demandes des entreprises en faveur d’une plus grande marge de manœuvre plutôt que de freiner les excès de l’industrie, a déclaré Amandeep Gill en entrevue, à la veille d’une conférence mondiale sur l’IA à Montréal qui commence mercredi.

«Franchement, je suis assez inquiet», a-t-il indiqué.

Les droits de la personne et les valeurs démocratiques sont en jeu, a souligné Amandeep Gill, l’envoyé spécial du Secrétaire général pour les technologies

Les chercheurs et les dirigeants politiques ont souligné des préoccupations, allant des ensembles de données subjectifs et de l’aggravation des inégalités mondiales aux menaces existentielles liées aux cyberattaques de grande envergure et aux armes biologiques développées par l’IA.

Yoshua Bengio, pionnier de l’intelligence artificielle et fondateur de l’institut Mila, a tiré la sonnette d’alarme sur des dangers immédiats tels que la «contrefaçon d’humains» à l’aide de robots pilotés par l’IA.

Des universitaires, des chefs d’entreprise et des décideurs politiques sont à Montréal pour le rassemblement de trois jours organisé par Mila.

La consolidation du pouvoir, les préjugés et la vie privée sont trois de ses thèmes centraux.

«Comme il y a potentiellement une plus grande concentration de richesse et de pouvoir technologique dans quelques entreprises, cela a des implications sur l’équité sociale, sur notre contrat social», a précisé Amandeep Gill.

La volonté de prendre une longueur d’avance dans la course technologique mondiale pourrait entrer en conflit avec la nécessité de réduire les risques liés aux progrès rapides de l’IA par le biais de lois et de réglementations, a-t-il soutenu. Amandeep Gill a également souligné que les oligopoles ou la concentration de l’IA dans une poignée de pays désavantageraient les petites entreprises et les pays en développement.

Une polarisation accrue au sein et entre les États est un autre résultat possible des dérapages de l’IA.

«Si l’IA est exploitée à des fins d’hypertrucages, de mésinformation et de désinformation à grande échelle, cela pourrait saper la légitimité des processus politiques dans notre société», a-t-il ajouté.

 

Les préjugés de l’IA

Les préjugés inhérents constituent également un problème récurrent dans le secteur, car les algorithmes qui s’appuient sur des quantités de données amplifient parfois les préjugés existants plutôt que de les éliminer. «Cela pourrait se perpétuer et même pire, a-t-il indiqué. Qu’il s’agisse de décisions prises en matière de logement, de libération conditionnelle, de système judiciaire ou d’attribution de prestations sociales».

Les résultats discriminatoires ne se limitent pas au niveau national, a affirmé Amandeep Gill, ajoutant que les informations introduites dans les modèles d’apprentissage automatique proviennent en grande partie d’Amérique du Nord ou d’Europe occidentale.

«Cela signifie qu’une grande majorité des cultures, langues et contextes du monde ne sont pas correctement reflétés dans ces ensembles de données.»

Parallèlement, le pouvoir de suivre l’activité en ligne des citoyens et des utilisateurs des réseaux sociaux risque de déboucher sur des violations du droit à la vie privée.

Malgré l’urgence de contrôler l’IA de pointe, Amandeep Gill a déclaré que les Nations Unies doivent adopter une approche «modeste» pour établir des règles, afin d’encourager le plus grand nombre d’États possible à y adhérer.

Le mois dernier, un organe consultatif de l’ONU a publié un rapport préliminaire exposant les principes directeurs d’un cadre sur la gouvernance de l’IA, soulignant qu’aucun pays ne doit être «laissé pour compte» alors que le rythme de l’innovation approche de la vitesse de la lumière.

 

Un projet de loi à l’étude au Canada

Au Canada, le gouvernement fédéral a présenté un projet de loi plaçant des garde-fous autour de l’utilisation de l’IA en juin 2022, mais elle traîne au stade du comité depuis près de dix mois.

Les dirigeants des grandes entreprises technologiques ont déclaré la semaine dernière que la Loi sur l’intelligence artificielle et les données était actuellement trop vague, arguant qu’elle ne parvenait pas à faire la distinction entre les systèmes d’IA à haut et faible risque.

Les libéraux ont déclaré qu’ils modifieraient la loi pour présenter de nouvelles règles, notamment en exigeant que les entreprises responsables des systèmes d’IA générative — le moteur algorithmique derrière les agents conversationnels tels que ChatGPT d’OpenAI, qui peuvent fournir n’importe quoi, des problèmes de mathématiques aux conseils de mariage — à prendre des mesures pour garantir que leur contenu soit identifiable comme étant créé par l’IA.

Le projet de loi vise toujours une approche plus générale et fondée sur des principes en matière de gouvernance de l’IA, qui permet une certaine agilité dans un contexte d’évolution constante de la technologie, laissant la plupart des détails à une date ultérieure.

Ottawa a déclaré que la loi connue sous le nom de projet de loi C-27 entrerait en vigueur au plus tôt en 2025.

 

Christopher Reynolds, La Presse Canadienne

 

À la une

Le Québec pâtira-t-il de la guerre commerciale verte avec la Chine?

17/05/2024 | François Normand

ANALYSE. Les producteurs d’acier craignent que la Chine inonde le marché canadien, étant bloquée aux États-Unis.

Bourse: Wall Street finit en ordre dispersé, le Dow Jones clôture au-dessus des 40 000 points

Mis à jour le 17/05/2024 | lesaffaires.com, AFP et Presse canadienne

REVUE DES MARCHÉS. La Bourse de New York a terminé en ordre dispersé.

À surveiller: AtkinsRéalis, Boralex et Lightspeed

17/05/2024 | Charles Poulin

Que faire avec les titres AtkinsRéalis, Boralex et Lightspeed? Voici des recommandations d’analystes.