Ils sont tout autour de nous, sans qu'on s'en rende compte... Photo: DR
Mine de rien, des robots envahissent notre quotidien et mettent en péril notre existence même. Peut-être croyez-vous que j'exagère ; laissez-moi vous parler d'une toute nouvelle sorte d'automates, les robots sociaux...
Dans les années 1950, Alan Turing, l'un des inventeurs de l'informatique, avait imaginé qu'un beau jour les robots seraient capables de tenir une conversation avec les êtres humains. C'est aujourd'hui chose faite, du moins sur les médias sociaux : des algorithmes sont capables d'y produire du contenu et d'y interagir avec les êtres humains (répondre à une question, fournir un lien pertinent, etc.) sans que ceux-ci se rendent compte que leur interlocuteur est, en vérité, un robot social.
Cela peut, certes, présenter certains avantages financiers : par exemple, une entreprise est ainsi en mesure de répondre à un flux considérable de requêtes de la part de ses clients, sans avoir à recruter des dizaines de personnes pour ce faire. Toutefois, cela se révèle surtout un terrible danger économique, politique et donc sociétal. Explication.
Le 15 avril 2013, deux bombes ont explosé à l'arrivée du marathon de Boston, tuant 3 personnes et en blessant 264. Immédiatement, des informations non fondées se sont mises à circuler sur Twitter concernant les possibles responsables de ce drame, ce qui a mené les forces de l'ordre sur autant de fausses pistes. Résultat : il leur a fallu plusieurs jours pour identifier les frères Tsarnaïev. Ce que l'on a appris depuis, grâce à une étude de Christopher Cassa et de ses collègues, c'est que le blâme ne revient pas aux gens qui pensaient bien faire en signalant des coupables potentiels sur les médias sociaux, mais aux robots sociaux qui ont massivement relayé toutes ces rumeurs. Du coup, ces robots ont semé la panique au sein des services d'enquête, qui ne savaient plus où donner de la tête.
Les robots sociaux peuvent également manipuler les cours de la Bourse. Un exemple frappant est celui de la campagne en faveur de la start-up Cynk, qui affirme pouvoir faire le lien entre les internautes et les célébrités.
En juillet 2014, des robots sociaux se sont mis à discuter entre eux à propos de la start-up, histoire de l'encenser. Ces conversations ont aussitôt été repérées par les algorithmes des maisons de courtage, qui sont responsables de surveiller l'actualité des entreprises cotées en Bourse et qui ont vite donné l'ordre d'acheter à tout-va. En quelques instants, le titre de Cynk a augmenté de 24 000 %, élevant la valeur de la firme à 5 milliards de dollars. Le temps que les êtres humains réalisent l'erreur de leurs robots, il était trop tard : les pertes se sont chiffrées en milliards.
Même chose à l'occasion de l'élection présidentielle américaine de 2016. De mi-septembre à mi-octobre, quelque 20 millions de tweets ont été produits en lien avec la campagne, émis par environ 2,8 millions d'utilisateurs distincts. Or, une étude d'Alessandro Bessi et d'Emilio Ferrara a mis au jour le fait que 20% de ces tweets avaient été composés et diffusés par des algorithmes, pour un total de 3,8 millions de tweets émis par 400 000 robots sociaux. «Ça suffit amplement pour manipuler l'opinion des gens, qui ignoraient que tous les tweets qu'ils recevaient pour défendre un même camp provenaient non pas d'électeurs comme eux, mais de robots sociaux programmés pour les influencer», notent les chercheurs, en soulignant que «cela a sûrement pesé sur le résultat final de l'élection» et peut, à terme, «mettre carrément en péril la démocratie».
C'est clair, l'heure est grave. D'autant plus que de récentes avancées en matière d'intelligence artificielle permettent aux robots sociaux de voler l'identité d'un internaute et de cloner son comportement en ligne, à son insu. Autrement dit, si un tel robot prenait le contrôle de vos fils Facebook et Twitter, vos amis virtuels n'y verraient que du feu.
Que faire ? Réagir au plus vite à l'échelle gouvernementale, selon plusieurs chercheurs engagés dans l'initiative lancée discrètement en 2015 par la DARPA, l'agence du département américain de la Défense chargée des avancées technologiques à usage militaire. L'idée est simple : concocter des algorithmes capables de détecter les robots sociaux les plus sophistiqués, puis les supprimer sans pitié après avoir repéré leurs «maîtres». Cela permettrait de résoudre ensuite le problème à la source (emprisonner les cybercriminels, condamner les politiciens malveillants, etc.).
*****
Un rendez-vous hebdomadaire dans Les affaires et Lesaffaires.com, dans lequel Olivier Schmouker éclaire l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui, quitte à renverser quelques idées reçues.
Découvrez les précédents billets d'Espressonomie
La page Facebook d'Espressonomie
Et mon dernier livre : 11 choses que Mark Zuckerberg fait autrement
