Jia Jia, humanoïde sortie de l'Université en sciences et technologie de Chine. (Photo: Getty)
L’émergence des robots et de l’IA n’est peut-être pas une si bonne chose que ça, en fin de compte. Dans l’empressement du moment à adopter toutes les technologies étiquetées «intelligentes», on a tendance à tourner un peu les coins ronds en ce qui a trait aux conséquences qu’elles pourraient réellement avoir. Voici donc quelques risques non négligeables de l’IA qui devraient faire réfléchir.
L’IA n’est ni bonne ni mauvaise, mais…
Si vous pensez que tous ne rêvent que de jours meilleurs, détrompez-vous: les pourriels, les cyberattaques, les fausses nouvelles, et quoi encore. Il a bien fallu que quelqu’un les crée. Ces mêmes personnes, ou leurs émules, n’hésiteront pas à utiliser des algorithmes issus de l’IA afin de faire des mauvais coups. Pourra-t-on seulement s’en prémunir?
Pour le découvrir, deux vétérans américains de l’IA ont réuni le mois dernier une quarantaine de chercheurs pour un week-end au chaud, en Arizona, afin de tester la théorie suivante: l’IA est-elle bonne ou méchante? D’une part, des chercheurs devaient concevoir des menaces à notre mode de vie à l’aide de cette technologie. De l’autre, le reste du groupe devait trouver des façons d’éliminer ces menaces. Au programme: manipulation de cotes boursières, résultats électoraux falsifiés, lancement de missiles et déclenchement d’hostilités armées, etc.
Résultat? Contrairement aux films d’action, les méchants ont gagné la plupart de leurs combats. La défense, impuissante, a suggéré qu’on pourrait prévoir ces mauvais coups en identifiant des pointes de trafic sur Internet. Leurs opposants estiment qu’au contraire, en se cachant derrière des événements générant eux-mêmes beaucoup d’effervescence sur les serveurs (pensez à des compétitions de sport électronique), on pourrait facilement passer sous le radar.
Céder le contrôle du mobilier urbain
Imaginez des feux de circulation connectés. Des lampadaires à commande à distance automatisés. Des bornes mécanisées (les fameux «bollards» qui ferment des tronçons de rue afin d’empêcher les gros véhicules d’y circuler) elles aussi confiées à un serveur central. Confiez le contrôle de tout ce mobilier urbain à une telle intelligence artificielle.
C’est en train de se faire. Pas mal tout le monde connait l’application Waze. Chaque jour, elle permet à des automobilistes de nombreuses villes dans le monde, dont Montréal, de contourner les bouchons de circulation. À Boston, on a pu réduire de 18 %, en moyenne, le temps de voyagement des automobilistes en heure de pointe grâce aux données provenant de Waze. D’autres villes, dont Montréal, ont signé des partenariats avec Waze en vue d’en profiter tout autant. «Il y a 10 ans, on espérait faire économiser 5 minutes aux utilisateurs. Aujourd’hui, on s’intègre aux programmes de villes intelligentes pour aider les municipalités à gérer leurs services d’urgence, et leurs feux de circulation, notamment», explique Julie Mossler, porte-parole pour Waze.
Rappelez-vous combien il est facile, en ce moment, de prendre les commandes des appareils connectés déjà existants : caméras WiFi, automobiles connectées, etc. Et essayez de vous convaincre que personne ne tentera de dérégler ces systèmes, ne serait-ce que pour le simple plaisir de mettre un peu de pagaille dans le quotidien de millions de gens.
L’attrait de la propriété intellectuelle
Google, Amazon, Facebook et Apple. Les fameuses «GAFA». Certains diront, les quatre sociétés technologiques les plus puissantes sur la planète. Quatre des plus actives dans le secteur de l’apprentissage machine et de l’intelligence artificielle. Et si Google, notamment, a pris l’habitude de publier le fruit de ses recherches afin d’aider la communauté scientifique, ce n’est pas aussi vrai pour les autres entreprises engagées dans l’IA.
Apple est reconnue pour faire une tonne de recherche en vase clos. En fait, Cupertino a une politique si sévère en matière de propriété intellectuelle que les chercheurs qui sortent de ses labos afin d’aller travailler ailleurs doivent tout laisser sur leur bureau. Tout, incluant le matériel, les données et même les cahiers de notes.
Il y a déjà une certaine friction entre la recherche publique et la recherche privée, mais l’enjeu n’est pas encore crucial. Il suffit qu’on fasse une trouvaille d’envergure majeure, pour que les disputes légales se mettent à débouler comme elles le font déjà dans d’autres secteurs gravitant autour de l’IA. Apple, Google, Microsoft, Nokia et Samsung sont régulièrement en cour pour débattre de telle ou telle fonction sur leurs produits.
Flairant le coup d'argent rapide, les chasseurs de brevets, ces gens qui accumulent la propriété sur des bouts de codes afin de faire des sous sur les produits des autres, pourraient être tentés eux aussi par l'IA.
«On n’est pas en train de guérir le cancer»
La plus grande trouvaille du moment en IA est la reconnaissance visuelle. Un ordinateur peut regarder une image et en identifier des éléments évidents («un chien»), ou d’autres, bien plus complexes («un polype cancéreux dans le côlon d’un patient»). En combinant la reconnaissance visuelle à l’ingestion éclair de mégadonnées, on pourrait donc théoriquement créer un super médecin capable de guérir, ou au moins de prévenir, une foule de maladies.
Non?
«On n’est pas en train de guérir le cancer», nuance Guillaume Chicoisne, directeur des programmes scientifiques pour IVADO, l’Institut de valorisation des données de l’Université de Montréal-HÉC-Polytechnique. Dans le cadre du Printemps numérique, un regroupement d’événements et de conférences ayant lieu à Montréal ces jours-ci afin de familiariser les gens d’ici et d’ailleurs à la créativité numérique locale, M. Chicoisne et trois autres chercheurs étaient invités à répondre, le mois dernier, à une question simple. «L’IA : faut-il en avoir peur? »
En médecine, comme ailleurs, les enjeux éthiques font partie des inquiétudes qui font douter du rôle des robots dans la pratique. Qui est responsable en cas d’erreur?
Il semble qu’il soit trop tôt pour poser la question. «Les robots comme Watson [d’IBM] feront d’excellents assistants aux médecins», précise le chercheur montréalais. Watson peut ainsi ingurgiter toutes les études et recherchezspubliées par la communauté médicale afin de prodiguer conseils et meilleures pratiques aux professionnels.
«Pour un humain normal, c’est l’équivalent de 9000 heures de formation, plus 29 heures de nouvelle information quotidiennement pour simplement être à jour.» Comme c’est inhumain, c’est une tâche qui gagne à être confiée à une machine… Laquelle pourra ensuite aider dans la prise de décision.
«En IA, c’est l’autre moitié de l’équation, avec l’apprentissage machine. C’est celle qui a le moins de visibilité», observe M. Chicoisne. «Mais elle est au moins importante, sinon plus, que l’autre moitié.»
Effectivement. Car si la bonne décision peut sauver des vies, la mauvaise décision, elle…
Craindre l’IA ou craindre le «hype»?
L’intelligence artificielle est la suite logique de l’informatique, appliquée aux nombreuses données générées par cette dernière. C’est froid, dit comme ça, et ce n’est pas aussi excitant que de parler de robots ou d’intelligence machine.
Appuyées par 50 ans de science-fiction, ces expressions frappent l’imaginaire. Leur potentiel est grand, si seulement on l’exploite convenablement. Pour y arriver, ça prend parfois du temps. La reconnaissance visuelle comme celle développée chez Facebook semble sortie de nulle part, mais des chercheurs travaillaient sur la «vision informatique» depuis les années 70.
On peut donc imaginer que les applications concrètes et positives de l’IA prendront du temps à voir le jour, et que leur utilité pourrait être constatée à plus long terme seulement, dans des produits ou des entreprises qui n’existent pas encore.
Autrement dit, il est peut-être prématuré de craindre l’émergence des robots (sauf s'ils sont quantiques...). Mais il n’est certainement pas mauvais de craindre l'engouement entourant ce phénomène. Ce genre d’enthousiasme excessif qui a entraîné l’éclatement de plus d’une bulle technologique ou financière, ces dernières années…
«Il y a toujours le risque qu’on vive une telle effervescence», acquiesce Guillaume Chicoisne. «Les attentes sont-elles trop élevées?»
Peut-être. En même temps, peut-être pas : «Pour une fois, je dirais que la technologie livre la marchandise avant même de faire des promesses. Et que les aspects bénéfiques vont dépasser les risques», conclut le directeur de l'IVADO.
Suivez-moi sur Twitter:
Suivez-moi sur Facebook:
