Yoshua Bengio: «Le moratoire n'a pas eu lieu»

Publié le 27/09/2023 à 12:06

Yoshua Bengio: «Le moratoire n'a pas eu lieu»

Publié le 27/09/2023 à 12:06

Par Dominique Talbot

Yoshua Bengio (Photo: courtoisie)

Alors que All In, l’événement le plus important de l’année au Canada sur l’intelligence artificielle (IA) s’est ouvert mercredi matin à Montréal, force est de constater que le moratoire de six mois la recherche de certains systèmes avancés, demandés par une centaine d’experts, n’a pas été respecté.

«Le moratoire demandé n’a pas eu lieu et ça m’inquiète toujours. C’est toujours d’actualité de mettre les freins pour protéger le public», a concédé Yoshua Bengio, fondateur de l’Institut québécois en intelligence artificielle (MILA), en entrevue avec Les Affaires.

En mars dernier, aux côtés de centaines de grands noms de l’IA et de chefs d’entreprises comme Elon Musk et Steve Wozniak (fondateur d’Apple), le chercheur de renommée mondiale avait cosigné une lettre ouverte qui avait fait grand vent.

Mais six mois plus tard, force est de constater que la demande de moratoire est restée lettre morte et la recherche et le développement de systèmes plus puissants que GPT-4 semble plutôt avoir le vent dans les voiles.

«Je ne m’attendais pas vraiment à ce que les compagnies s’arrêtent. Mais à l’intérieur de ces compagnies, on discute de ces questions. Alors je pense que ç’a vraiment été un succès» relativise Yoshua Bengio.

Il n’en demeure pas moins qu’au milieu de l’effervescence et l’enthousiasme entourant le développement de l’IA, le fondateur de MILA semble toujours aussi inquiet par rapport aux avancées dans son domaine.

«Certainement je suis nerveux. Il faut augmenter la compréhension des risques au fur et à mesure où l’intelligence artificielle devient puissante pour qu’elle ne soit pas mal utilisée et qu’on en perde le contrôle», dit-il à Les Affaires.

«Pour l’instant, on est encore en dessous du seuil. Mais j’anticipe au cours des prochaines années qu’il faut commencer à travailler là-dessus.» Questionné à savoir quel était ce seuil, Yoshua Bengio n’a pas voulu préciser.

«Je ne le sais pas. Il y a de l’incertitude. Il faut justement s’en occuper à cause de ça», s’est-il contenté de dire.

Rappelons que dans la lettre ouverte du mois de mars dernier, les signataires avaient sonné l’alarme en disant que «Dans les derniers mois, les laboratoires d’intelligence artificielle se sont engagé dans une course effrénée pour développer et déployer des systèmes numériques toujours plus puissants que personne — pas même leurs créateurs — ne peut comprendre, prédire ou contrôler de manière fiable.»

Malgré tout, entre autres exemples de la difficulté à contenir la machine de l’IA, Open AI a annoncé cette semaine que son programme ChatGPT serait bientôt doté de la parole et de la vision. L’interface d’intelligence générative pourra notamment traiter des requêtes contenant des images et discuter oralement avec les utilisateurs.

 

À la une

L'Asie du Sud-Est, la meilleure solution de rechange à la Chine

ANALYSE. Le Canada a tout intérêt à se rapprocher de ce marché de consommateurs.

Calendrier de l'avent - Pour ou contre le télétravail: les employés vident leur sac le 9 décembre

Retrouvez chaque jour une citation bonbon dans notre calendrier de l’avent.

Vos réseaux sociaux sont-ils sécurisés?

08/12/2023 | Emmanuel Martinez

Il est essentiel de sécuriser ses comptes de réseaux sociaux pour éviter le piratage.