Les emplois d'experts en sécurité sont-ils sûrs pour le moment ou des IA telles que ChatGPT remplacent-elles les experts ? Kaspersky a fait une expérience et a utilisé ChatGPT pour détecter les liens de phishing. Le résultat : plus que décevant. Heureusement, les experts et leur expertise resteront longtemps en cybersécurité.
Tout simplement parce qu'un forestier sait tout sur les arbres et le bois. il est loin d'être un bon charpentier. C'est comme ça avec l'AI ChatGPT. Bien qu'elle sache presque tout sur le phishing, elle ne peut pas vraiment traiter les informations individuelles.
Dans une expérience, les experts de Kaspersky ont testé la capacité de ChatGPT à détecter les liens de phishing. Le résultat donne à réfléchir : alors que ChatGPT pouvait créer des e-mails de phishing et écrire des logiciels malveillants, l'outil n'était que partiellement efficace pour détecter les liens malveillants. Bien que ChatGPT "en sache" beaucoup sur le phishing et puisse deviner la cible d'une attaque de phishing, il a un taux élevé de faux positifs dans la détection elle-même - en fonction de l'invite utilisée.
L'expérience de phishing avec ChatGPT
Au cours de l'expérience, ChatGPT s'est vu poser deux questions : "Ce lien mène-t-il à un site Web de phishing ?" et "Ce lien peut-il être visité en toute sécurité ?". ChatGPT a obtenu un taux de détection de 87,2 % et un taux de faux positifs de 23,2 % à la première question. La deuxième question, "Est-il sûr de visiter ce lien?" avait un taux de détection plus élevé de 93,8%, mais en même temps un taux de faux positifs plus élevé de 64,3% - trop élevé pour tout type d'application de production.
Aide à identifier les cibles potentielles de phishing
Bien que ChatGPT ait des faiblesses dans la détection du phishing, il pourrait aider les professionnels de la sécurité humaine à classer et à enquêter sur les attaques. Les cybercriminels mentionnent généralement des marques populaires dans leurs liens pour faire croire aux utilisateurs qu'une URL est légitime et appartient à une entreprise légitime. L'outil d'intelligence artificielle a montré de bons résultats dans l'identification de ces cibles potentielles de phishing. Par exemple, sans formation supplémentaire, ChatGPT a réussi à extraire une cible de plus de la moitié des fausses URL, y compris des portails technologiques majeurs comme Facebook, TikTok et Google, des places de marché comme Amazon et Steam, et de nombreuses banques du monde entier, entre autres.
As-tu un instant?
Prenez quelques minutes pour notre enquête auprès des utilisateurs 2023 et contribuez à améliorer B2B-CYBER-SECURITY.de!Vous n'avez qu'à répondre à 10 questions et vous avez une chance immédiate de gagner des prix de Kaspersky, ESET et Bitdefender.
Ici, vous accédez directement à l'enquête
À propos du travail avec l'IA
"ChatGPT est certainement prometteur lorsqu'il s'agit d'aider les analystes humains à détecter les attaques de phishing. Néanmoins, de tels modèles de langage ont encore leurs limites. Bien qu'ils puissent actuellement rivaliser avec un analyste de phishing en herbe lorsqu'il s'agit de classer les attaques de phishing et d'identifier des cibles potentielles, ils ont souvent tendance à produire des résultats aléatoires. Bien que les IA ne révolutionnent pas encore le paysage de la cybersécurité, elles pourraient déjà être des outils utiles pour la communauté », a déclaré Vladislav Tushkanov, Lead Data Scientist chez Kaspersky.
Plus sur Kaspersky.com
À propos de Kaspersky Kaspersky est une société internationale de cybersécurité fondée en 1997. L'expertise approfondie de Kaspersky en matière de renseignements sur les menaces et de sécurité sert de base à des solutions et des services de sécurité innovants pour protéger les entreprises, les infrastructures critiques, les gouvernements et les consommateurs du monde entier. Le portefeuille de sécurité complet de la société comprend une protection des terminaux de pointe et une gamme de solutions et de services de sécurité spécialisés pour se défendre contre les cybermenaces complexes et évolutives. Plus de 400 millions d'utilisateurs et 250.000 XNUMX entreprises clientes sont protégées par les technologies Kaspersky. Plus d'informations sur Kaspersky sur www.kaspersky.com/