Des charmes aussi envoûteurs que périlleux... Photo: DR
L'anecdote est incroyable, mais vraie. Un programmeur s'est récemment confessé anonymement sur le site The Workplace, sa conscience ne cessant de le tarauder... Il a été embauché à temps plein il y a de cela 18 mois par une grande entreprise, pour un salaire annuel de 95 000 $US à faire essentiellement de la saisie de données depuis chez lui, «une tâche on ne peut plus ennuyeuse», dit-il.
Qu'a-t-il fait pour combattre l'ennui ? Il a créé un algorithme capable de faire 100 % de son travail, en veillant à ce qu'il tourne au ralenti et fasse quelques erreurs ici et là, pour «faire humain». «Au lieu d'effectuer mes 40 heures de travail par semaine, je ne travaille que 20 minutes par jour, pour répondre aux courriels, raconte-t-il. Je passe ainsi la journée entière avec mon enfant en bas âge.» Et de partager son dilemme moral avec les internautes : «Je suis maintenant coincé. Si je leur dis la vérité, je perds mon emploi ; ils vont me remplacer par un programme d'intelligence artificielle (IA). Si je ne leur dis rien, je vais finir par me sentir horriblement mal, comme un sale arnaqueur, même si le travail que je dois faire pour eux est effectué à la perfection.»
Que traduit cette anecdote ? Avant tout, un acte de résistance. Un employé réalise dans un premier temps que l'IA peut améliorer grandement sa vie, et dans un second temps, qu'elle peut lui faire perdre son emploi, ce qui l'amène à trouver une ruse pour que cela n'arrive pas. En conséquence, devons-nous accueillir à bras ouverts les merveilles annoncées de l'IA ou, au contraire, résister sagement à ses charmes envoûteurs ? De toute évidence, une réflexion éthique s'impose...
Sur le même sujet : Devrait-on dérouler le tapis rouge à un avenir automatisé?
C'est justement ce qui vient d'être amorcé à Montréal, à l'occasion du Forum IA responsable organisé en novembre par les Fonds de recherche du Québec et l'Université de Montréal. Les quelque 400 participants ont réfléchi ensemble à des questions comme : «Est-il contraire à l'éthique qu'une IA réponde à votre place à vos courriels ?» et autres «Tay, l'assistant virtuel "raciste" de Microsoft, peut-il être moralement blâmable et responsable ?» Ils ont rédigé également le préambule de la Déclaration de Montréal, qui souligne l'importance vitale de «créer des machines éthiques, dont la mission ultime consisterait à viser le bien-être de tous les êtres sentients (capables d'éprouver du plaisir, de la douleur et des émotions)».
La question saute aux yeux : comment s'assurer qu'il ne s'agit pas là que de voeux pieux ? Et donc, que les chercheurs et les entreprises qui se jettent aujourd'hui corps et âme dans l'IA ne se délestent pas demain de leurs responsabilités éthiques sur la société ? C'est qu'il y a de quoi s'alarmer, comme en témoigne un tout nouveau rapport du Sénat du Canada sur l'impact prévisible de l'IA sur nos systèmes de soins de santé...
La médecine sera bouleversée de fond en comble, car les robots intelligents sont sur le point de devenir plus performants que les êtres humains dans nombre de domaines : «diagnostics plus précis, soins directs aux patients plus efficients, chirurgies plus sécuritaires, etc.» Un exemple lumineux : les aidants artificiels. Il s'agit de robots capables d'aider un patient dans son quotidien (pour se laver, se vêtir, préparer un repas, stimuler ses fonctions cognitives...), qui sont si efficaces que le rapport considère qu'ils vont supplanter les aides personnelles dans les maisons privées «d'ici les dix prochaines années», leur coût devant être alors «inférieur à 5 000 $».
«Éthiquement inacceptable»
Le hic ? Cette avancée technologique s'accompagne de la disparition de la vie privée. AJung Moon, la fondatrice de l'Open Roboethics Institute, a confié aux rapporteurs que le «concept traditionnel de la protection des renseignements personnels ne pourrait plus s'appliquer ici». Le robot étant en permanence en présence du patient, il enregistre inévitablement une foule ahurissante de données à son sujet, histoire d'améliorer sans cesse ses services. Et le rapport de conclure que, dans certains cas, l'IA pouvait se révéler «éthiquement inacceptable», sans indiquer quoi que ce soit pour corriger le tir.
Que faire, donc ? Innover radicalement, en créant au plus vite... une convention de citoyens ! Le principe, né au Danemark à la fin des années 1980, est simple. Une quinzaine de personnes sont tirées au sort sur les listes électorales et se réunissent durant trois fins de semaine pour débattre et émettre un avis sur un enjeu précis de société, en l'occurence la pertinence des aidants artificiels.
La première fin de semaine, ces profanes suivent une formation neutre sur le sujet ; la deuxième, ils entendent et questionnent des experts aux points de vue complémentaires ; et la troisième, ils auditionnent, en public, les spécialistes de leur choix, auxquels le comité organisateur n'avait pas pensé, puis ils se retirent à huis clos pour débattre, rédiger leur avis et en voter chacun des points, sous la supervision d'un coach soucieux de favoriser les discussions et éviter les tensions. Les parties prenantes sont dès lors contraintes de se plier à l'avis des citoyens.
«L'intérêt de cette approche du progrès, c'est qu'elle empêche les scientifiques de s'enfermer dans leur tour d'ivoire et de considérer que c'est à la société de se débrouiller avec leurs découvertes», indique dans son livre L'humanitude au pouvoir, Jacques Testart, un pionnier français des méthodes de procréation assistée qui, horrifié par l'eugénisme résultant de ses travaux, se consacre maintenant à démocratiser la science. Et de marteler : «Il faut prendre le mal à la racine, c'est-à-dire au chapitre de la recherche elle-même, pour faire enfin entendre la voix des citoyens».
*****
Un rendez-vous hebdomadaire dans Les affaires et Lesaffaires.com, dans lequel Olivier Schmouker éclaire l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui, quitte à renverser quelques idées reçues.
Découvrez les précédents billets d'Espressonomie
La page Facebook d'Espressonomie
Et mon dernier livre : 11 choses que Mark Zuckerberg fait autrement
