La ruée vers l'utilisation de ChatGPT pour la cybercriminalité a vu une multiplication par sept des forums du dark web où les pirates discutent de la manière de manipuler le chatbot. C'est selon une nouvelle étude de la société de cybersécurité NordVPN.
Selon la recherche, le nombre de nouveaux messages sur les forums du dark web concernant l'outil d'IA est passé de 120 en janvier à 870 en février, soit une augmentation de 625 %. Les messages sur le forum liés à ChatGPT ont augmenté de 145 %, passant de 37 à 91 en un mois, les discussions entourant l'abus du bot étant devenues le sujet le plus brûlant sur le dark web.
ChatGPT est conçu pour produire des logiciels malveillants et des scripts
Début janvier, de nombreux fils de discussion se concentraient sur la façon dont des acteurs malveillants pouvaient inciter ChatGPT à produire des logiciels malveillants simples, une vulnérabilité qui a depuis été corrigée. Un mois plus tard, la tendance dans la communauté des hackers était vers des mesures plus agressives. Les messages décrivent les plans pour prendre le contrôle du chatbot et l'utiliser pour faire des ravages. Les titres des forums du Dark Web (qui sont masqués des moteurs de recherche normaux et visités par des pirates anonymes du monde entier) incluaient "Comment casser ChatGPT", "ChatGPT jailbreak 2.0, ChatGPT - progression des logiciels malveillants" et "ChatGPT en tant qu'outils de phishing".
Avec ChatGPT, les criminels pourraient utiliser son intelligence artificielle pour arrêter les escroqueries - comme par ex. B. Love Scams - à réaliser à l'échelle industrielle et à attaquer plusieurs victimes en même temps. Une fois qu'un pirate a pris le contrôle du chatbot, il peut supprimer ses restrictions de sécurité et l'utiliser pour créer des logiciels malveillants et des e-mails de phishing, diffuser des discours de haine ou même diffuser de la propagande.
De nombreuses nouvelles façons avec ChatGPT
"ChatGPT a ouvert de nombreuses portes vers de nouveaux mondes et transforme le monde du travail, de l'éducation et la façon dont nous utilisons l'information. Comme toute nouvelle technologie, elle peut être exploitée pour des utilisations positives, telles que la détection de vulnérabilités dans les contrats intelligents.
Dans le même temps, les dangers pour les utilisateurs ne sont pas négligeables. C'est également ce que montre l'enquête de NordVPN sur l'augmentation des publications sur les forums du dark web. Cela permet aux criminels d'utiliser la détection de vulnérabilités basée sur l'IA à des fins malveillantes. Cela inclut également l'utilisation abusive de la recherche et de la synthèse rapides d'informations personnelles afin d'attaquer des entreprises et des personnes de manière plus ciblée. Il est encore plus dangereux de contourner les contrôles de sécurité et les filtres de ChatGPT et d'autres fournisseurs d'IA pour inciter le programme à faire des déclarations racistes ou haineuses », a déclaré Marvin Petzolt, expert en cybersécurité chez Nord Security.
Plus sur Nordsecurity.com
À propos de Sécurité Nord
Fondée en 2012, Nord Security abrite des solutions de sécurité avancées qui portent la marque Nord. Nous construisons des outils de cybersécurité robustes pour un usage personnel et professionnel, y compris le service VPN le plus rapide au monde, NordVPN.