Selon des chercheurs en sécurité en Israël, les gangs de hackers utilisent déjà l'intelligence artificielle (IA) pour former leurs nouveaux membres. Ils sont également assistés par l'IA pour améliorer les logiciels malveillants, automatiser les attaques et exécuter généralement leurs opérations criminelles en douceur.
D'autre part, les consultants en gestion de McKinsey ont découvert grâce à une enquête pour l'année 2022 que 50 % des entreprises interrogées utilisent l'IA pour soutenir le travail dans au moins un domaine d'activité - en 2017, ce n'était que 20 %. Selon le magazine Forbes, jusqu'à 60 % des entrepreneurs interrogés pensent que l'IA augmentera la productivité de leur entreprise en général, 64 % pensant à une augmentation de la productivité opérationnelle, tandis que 42 % se rapportent à l'amélioration des processus de travail.
Cette juxtaposition montre bien comment une seule et même technologie peut être utilisée ici à de bonnes et de mauvaises fins. La préoccupation qui anime le plus la population actuellement : l'IA peut-elle savoir quels domaines d'application sont bons ou mauvais afin d'éviter par elle-même les abus ?
ChatGPT et Google Bard aident les pirates
- Cyber attaques automatisées : Depuis que les deux outils sont sur le marché, nos chercheurs en sécurité ont constaté une prolifération de bots qui contrôlent à distance les ordinateurs infectés et d'autres systèmes automatisés. Ceux-ci sont idéaux pour les attaques DDoS, qui peuvent paralyser un serveur ou un système entier avec un nombre énorme de demandes d'accès. C'est également pour cette raison que les attaques informatiques ont augmenté de 38 % dans le monde l'année dernière.
- Aide à la création de logiciels malveillants, les e-mails de phishing, les deepfakes et la conception de cyberattaques : les pirates ont reconnu très tôt que ChatGPT pouvait créer des lignes de commande pour les logiciels malveillants ou écrire des e-mails de phishing - ces derniers dans un meilleur anglais ou allemand que les criminels ne pouvaient souvent écrire eux-mêmes. De plus, puisque ChatGPT et Google Bard apprennent à chaque entrée, ils peuvent même créer du contenu compliqué, comme des images, des vidéos ou même des enregistrements sonores. C'est là que le danger des deepfakes entre en jeu. Cela signifie des films qui montrent et parlent d'une personne spécifique de la manière dont nous sommes habitués, même s'il s'agit d'un faux. La technologie moderne permet la falsification des expressions faciales, des gestes et de la voix. Barack Obama, Joe Biden, Volodymyr Zelenskyy et Vladimir Poutine ont déjà été victimes de tels deepfakes.
- petits criminels sans grande capacité de programmation peuvent devenir des hackers : Avec l'aide de ces chatbots pilotés par l'IA, les gangs de hackers peuvent, comme mentionné ci-dessus, former leurs nouveaux membres, ou les personnes ayant des tendances criminelles peuvent rapidement bricoler et lancer une petite attaque informatique. Cela conduit à un flot de, pour ainsi dire, de mini-attaques et de nouveaux groupes de hackers.
Afin d'empêcher cet abus, le fabricant de ChatGPT, la société OpenAI, a installé des dispositifs de sécurité et exclu des pays de l'utilisation, mais cela n'a pas duré longtemps : d'abord, les blocages de requêtes ont été contournés en demandant intelligemment au chatbot, puis les restrictions de pays ont été annulées, puis des comptes premium ont été volés et vendus à grande échelle, et maintenant même des clones de ChatGPT sont proposés sur le Darknet sous la forme d'interfaces API.
Une façon de rendre l'IA elle-même moins vulnérable aux abus est de former l'IA elle-même. Les ingénieurs conviennent qu'il est impossible de supprimer les connaissances apprises d'une IA, donc une sorte de catalogue d'éthique devrait être enseigné à l'IA dès le départ afin qu'elle s'en tienne à certaines règles par elle-même. Cela serait également possible avec des lois qui interdisent simplement certaines actions.
Plus sur Checkpoint.com
À propos du point de contrôle Check Point Software Technologies GmbH (www.checkpoint.com/de) est l'un des principaux fournisseurs de solutions de cybersécurité pour les administrations publiques et les entreprises du monde entier. Les solutions protègent les clients contre les cyberattaques avec un taux de détection des logiciels malveillants, des rançongiciels et d'autres types d'attaques à la pointe du secteur. Check Point propose une architecture de sécurité multicouche qui protège les informations de l'entreprise sur le cloud, le réseau et les appareils mobiles, ainsi que le système de gestion de la sécurité « à un seul point de contrôle » le plus complet et le plus intuitif. Check Point protège plus de 100.000 XNUMX entreprises de toutes tailles.