En plus de l'IA Gemini de Google, DarkGemini est désormais apparu et répond aux souhaits des cyber-gangsters et des auteurs de logiciels malveillants. Les premières éditions ne sont pas encore particulièrement bonnes, selon certains chercheurs en sécurité. Mais les autres services d’IA ne l’étaient pas non plus au début. Le développement se poursuit dangereusement.
Lorsque ChatGPT a été ouvert fin 2022 et introduit dans le monde, il n’a pas fallu longtemps pour que les premiers rapports faisant état d’une utilisation abusive de l’outil GenKI fassent le tour. Un an plus tard, les premiers outils d'IA pouvant être utilisés par les cybercriminels ont été divulgués, à savoir FraudGPT, WormGPT and Co. Tous des programmes qui ne sont pas basés sur des considérations éthiques, mais ont la capacité de fournir des informations malveillantes en réponse aux demandes correspondantes. Avec l’introduction de nouveaux grands modèles linguistiques (LLM), les modèles contraires à l’éthique correspondants ne sont qu’une question de temps.
En plus de Google Gemini, il existe désormais Dark Gemini
C'était une histoire similaire avec la présentation du Gemini de Google, comme des nouvelles de... Gémeaux sombres la ronde. Comment Lecture sombre écrit, le service frontal malveillant piloté par l'IA a probablement modifié les requêtes envoyées aux LLM légitimes pour contourner les restrictions sur l'écriture de programmes malveillants et la géolocalisation des personnes sur les photos.
Le succès des créateurs derrière Dark Gemini ne doit pas être sous-estimé, ni la menace qu'il représente. Bien que, comme l'ont dit certains chercheurs en sécurité, le programme d'IA ne soit en réalité pas un énorme succès, il montre tout ce qui est possible avec peu d'effort. Un petit service frontal suffit à enfreindre partiellement les politiques de sécurité conçues pour empêcher l'utilisation criminelle des grands modèles linguistiques (LLM), tels que ChatGPT et Google Gemini.
Quand l’IA aide les criminels
Si vous augmentez cela et pensez aux grands gangs de hackers avec leurs compétences et leurs capacités, vous réalisez alors ce que ce chatbot de hackers apparemment insignifiant du Dark Web signifie réellement pour les logiciels d'IA. Il est aujourd’hui d’autant plus important que, d’une part, par la législation et, d’autre part, par l’adaptation des défenses informatiques, tant les possibilités d’utilisation de l’IA pour faciliter le travail, l’optimisation des processus et le renforcement de la sécurité informatique, ainsi que à mesure que les menaces posées par l’utilisation abusive de l’IA sont prises en compte. Un tel expert.
Plus sur CheckPoint.com
À propos du point de contrôle Check Point Software Technologies GmbH (www.checkpoint.com/de) est l'un des principaux fournisseurs de solutions de cybersécurité pour les administrations publiques et les entreprises du monde entier. Les solutions protègent les clients contre les cyberattaques avec un taux de détection des logiciels malveillants, des rançongiciels et d'autres types d'attaques à la pointe du secteur. Check Point propose une architecture de sécurité multicouche qui protège les informations de l'entreprise sur le cloud, le réseau et les appareils mobiles, ainsi que le système de gestion de la sécurité « à un seul point de contrôle » le plus complet et le plus intuitif. Check Point protège plus de 100.000 XNUMX entreprises de toutes tailles.