Yoshua Bengio et David Lennie. (Photo: Shopify)
À mesure que les algorithmes sont adoptés par les entreprises de toute sorte pour automatiser leurs processus, on s’aperçoit d’un réel problème à leur égard : ils ne sont pas aussi neutres et objectifs qu’on le souhaiterait.
À LIRE ÉGALEMENT: La solution au dur virage numérique des détaillants traditionnels
Et même si leurs créateurs mettent au point des processus machines dénués des préjugés d’un humain effectuant la même fonction, c’est au moment de l’accumulation et l’interprétation des données accumulées pour développer son expertise que cette même machine peut devenir biaisée malgré elle.
Et si ces travers n’ont pas de conséquences réellement graves quand vient le temps de recommander des produits connexes sur un site transactionnel, ça le devient de plus en plus à mesure que ces processus prennent en charge des tâches critiques d’une entreprise.
«Quand vient le temps d’aider à acheter une maison ou de postuler pour un emploi, ça change littéralement une vie», illustre David Lennie, vice-président science et ingénierie des données de Shopify. D’où l’importance, pour les entreprises de toute taille, de prendre le temps de réfléchir sur les enjeux éthiques entourant l’émergence de l’intelligence artificielle tandis qu’il est encore tôt dans leur adoption.
«Les enjeux liés à l’intelligence artificielle sont l’affaire de tout le monde. Les gouvernements qui dictent les règles à suivre, les entreprises qui la développent et qui l’utilisent, et même les étudiants en informatique, qui doivent être bien formés à propos de l’éthique», ajoute Yoshua Bengio, le professeur de l’Université de Montréal bien connu pour son rôle pivot dans l’IA au pays.
En début de semaine, MM. Bengio et Lennie ont pris le micro pour échanger sur la question de l’éthique de l’IA, devant des employés du bureau montréalais de Shopify.
«Nous souhaitons être encore en affaires dans 100 ans. Nous utilisons déjà l’IA dans notre design et dans les applications que nous offrons aux PME qui sont nos clientes. Nous croyons qu’il est important de bien comprendre la technologie», explique M. Lennie.
Une question de confiance
Shopify est de plusieurs façons une société technologique. Elle fournit des outils transactionnels à des PME qui, elles, ne veulent probablement pas se casser la tête avec la quincaillerie qui leur permet de vendre leurs produits ou services au grand public.
Mais si cette quincaillerie comprend des outils d’intelligence artificielle qui font une bourde, pour le client, c’est la PME qui sera pointée du doigt. Celle-ci blâmera ensuite son fournisseur, et ainsi de suite. D’où l’importance, si on ne comprend pas nécessairement bien tous les engrenages de l’apprentissage machine et de ses applications, d’au moins en saisir les contours pour éviter les erreurs.
«Ça prend un minimum de formation pour savoir bien utiliser ces nouveaux outils. Sinon, le public perdra confiance dans les entreprises qui l’utilisent, puis dans la technologie elle-même. C’est comme ce qui s’est produit avec Facebook ces derniers temps», avertit Yoshua Bengio. «Quand on déploie une IA au sein de son entreprise, il faut d’abord établir quelques principes : est-ce qu’on respecte la vie privée du public, est-ce que cette technologie améliore le bien-être des gens?»
C’est cette même démarche qui est derrière la Déclaration de Montréal pour le développement responsable de l’IA, qui est présentement en train d’être élaborée par plusieurs intervenants du milieu scientifique et informatique local. Ces derniers procéderont au cours de l’été à diverses consultations afin de tâter le pouls d’un peu tout le monde à l’égard du rôle de l’IA
«Quelle seront les conséquences de l’intelligence artificielle?» demande David Lennie. «C’est la même question pour les gens d’affaires : quelles seront les conséquences d’utiliser l’IA? Est-ce que ça ouvrira les portes de votre entreprise, ou est-ce que ça les fermera?»
Une question importante, cela va de soi. Qui semble assez simple, au premier coup d’œil, mais qui, comme l’IA, cache des questions éthiques et décisionnelles importantes derrière elle.
À LIRE ÉGALEMENT: La révolution ne passera pas par la blockchain, mais par le courriel
Suivez-moi sur Facebook:
Suivez-moi sur Twitter:
