Des hackers russes, nord-coréens ou chinois se servent de ChatGPT

Publié le 14/02/2024 à 15:47

Des hackers russes, nord-coréens ou chinois se servent de ChatGPT

Publié le 14/02/2024 à 15:47

Par AFP

Emerald Sleet, groupe de hackers nord-coréens, et Crimson Sandstorm, associé aux Gardiens de la Révolution iraniens, se sont servis du robot conversationnel pour générer des documents susceptibles d’être utilisés pour du «phishing». (Photo: 123RF)

Des pirates informatiques affiliés aux gouvernements russe, chinois, iranien ou nord-coréen utilisent ChatGPT pour identifier des vulnérabilités dans les systèmes informatiques, préparer des opérations de «phishing» ou désactiver des logiciels antivirus, rapportent OpenAI et Microsoft dans des documents publiés mercredi. 

Dans un message posté sur son site, OpenAI indique avoir «perturbé» l’utilisation de l’intelligence artificielle (IA) générative par ces acteurs paragouvernementaux, avec la collaboration de Microsoft Threat Intelligence, cellule qui répertorie les menaces posées aux entreprises en matière de cybersécurité.

«Les comptes OpenAI identifiés comme affiliés à ces acteurs ont été clôturés», a précisé le créateur de l’interface d’IA générative ChatGPT. 

Emerald Sleet, groupe de hackers nord-coréens, et Crimson Sandstorm, associé aux Gardiens de la Révolution iraniens, se sont servis du robot conversationnel pour générer des documents susceptibles d’être utilisés pour du «phishing», selon l’étude.

Le «phishing» consiste à se présenter à un internaute sous une fausse identité pour obtenir de lui l’accès, illégal, à des mots de passe, codes, identifiants, ou directement à des informations et documents non publics.

Crimson Sandstorm a également utilisé des modèles de langage (LLM), à la base des interfaces d’IA générative, pour mieux comprendre comment désactiver des logiciels antivirus, selon Microsoft.

Quant au groupe Charcoal Typhoon, considéré comme proche des autorités chinoises, il a eu recours à ChatGPT pour tenter de détecter des vulnérabilités en prévision de possibles attaques informatiques.

«L’objectif du partenariat entre Microsoft et OpenAI est de s’assurer de l’utilisation sûre et responsable des technologies appuyées sur l’intelligence artificielle, comme ChatGPT, selon Microsoft.

Le groupe de Redmond (État de Washington) indique avoir contribué à renforcer la protection des modèles de langage (LLM) d’OpenAI.

Le rapport relève que l’interface a refusé d’aider un autre groupe de pirates proche du gouvernement chinois, Salmon Typhoon, à générer du code informatique à des fins de piratage, «adhérant ainsi aux règles éthiques» intégrées au logiciel.

«Comprendre comment les acteurs malveillants les plus avancés utilisent nos programmes à des fins malveillantes nous renseigne sur des pratiques qui pourraient devenir plus répandues à l’avenir», explique OpenAI.

«Nous ne parviendrons pas à bloquer toute tentative» mal intentionnée, prévient OpenAI. «Mais en continuant à innover, collaborer et partager, nous compliquons la tâche des acteurs malveillants qui veulent passer inaperçus.»

 

 

Sur le même sujet

Le patron d'OpenAI, Sam Altman, est milliardaire, selon Forbes

Mis à jour le 08/04/2024 | AFP

L'entrepreneur de 38 ans doit ses premiers millions à la revente, en 2012, du réseau social Loopt.

Washington alerte sur l’écart entre grandes et petites banques face à l’IA

27/03/2024 | AFP

L’intelligence artificielle est déjà largement présente au quotidien, des smartphones aux aéroports.

À la une

Oatbox à l’assaut de l’Ontario avec le Fonds de solidarité FTQ

Le fabriquant de boisson d'avoine montréalais Oatbox a reçu 5M$ du Fonds de solidarité FTQ.

Bourse: Toronto perd près de 1%

Mis à jour à 19:27 | lesaffaires.com, AFP et Presse canadienne

REVUE DES MARCHÉS. Les tensions géopolitiques et l’inflation ont déprimé les investisseurs à la Bourse de New York.

Bourse: les gagnants et les perdants du 12 avril

Mis à jour à 19:29 | LesAffaires.com et La Presse Canadienne

Voici les titres d'entreprises qui ont le plus marqué l'indice S&P/TSX aujourd'hui.