¿Los trabajos de los expertos en seguridad son seguros por ahora o las IA como ChatGPT están reemplazando a los expertos? Kaspersky hizo un experimento y usó ChatGPT para detectar enlaces de phishing. El resultado: más que aleccionador. Afortunadamente, los expertos y su experiencia permanecerán en ciberseguridad durante mucho tiempo.
Solo porque un guardabosques sabe todo sobre árboles y madera. está lejos de ser un buen carpintero. Así es con el AI ChatGPT. Aunque sabe casi todo sobre el phishing, en realidad no puede procesar los datos individuales.
En un experimento, los expertos de Kaspersky probaron la capacidad de ChatGPT para detectar enlaces de phishing. El resultado es aleccionador: si bien ChatGPT podía crear correos electrónicos de phishing y escribir malware, la herramienta solo era parcialmente eficiente en la detección de enlaces maliciosos. Aunque ChatGPT "sabe" mucho sobre phishing y puede adivinar el objetivo de un ataque de phishing, tiene una alta tasa de falsos positivos en la detección en sí, según el aviso utilizado.
El experimento de phishing con ChatGPT
En el experimento, a ChatGPT se le hicieron dos preguntas: "¿Este enlace conduce a un sitio web de phishing?" y "¿Es seguro visitar este enlace?". ChatGPT obtuvo una tasa de detección del 87,2 % y una tasa de falsos positivos del 23,2 % en la primera pregunta. La segunda pregunta, "¿Es seguro visitar este enlace?", tuvo una tasa de detección más alta del 93,8 %, pero al mismo tiempo una tasa de falsos positivos más alta del 64,3 %, demasiado alta para cualquier tipo de aplicación de producción.
Ayudar a identificar posibles objetivos de phishing
Si bien ChatGPT tiene debilidades en la detección de phishing, podría ayudar a los profesionales de la seguridad humana a clasificar e investigar los ataques. Los ciberdelincuentes suelen mencionar marcas populares en sus enlaces para engañar a los usuarios haciéndoles creer que una URL es legítima y pertenece a una empresa legítima. La herramienta de IA mostró buenos resultados en la identificación de tales posibles objetivos de phishing. Por ejemplo, sin capacitación adicional, ChatGPT extrajo con éxito un objetivo de más de la mitad de las URL falsas, incluidos los principales portales tecnológicos como Facebook, TikTok y Google, mercados como Amazon y Steam, y numerosos bancos de todo el mundo, entre otros.
¿Tienes un momento?
Tómese unos minutos para nuestra encuesta de usuarios de 2023 y ayude a mejorar B2B-CYBER-SECURITY.de!Solo tiene que responder 10 preguntas y tiene la oportunidad inmediata de ganar premios de Kaspersky, ESET y Bitdefender.
Aquí vas directo a la encuesta
Acerca de trabajar con IA
“ChatGPT ciertamente se muestra prometedor cuando se trata de ayudar a los analistas humanos a detectar ataques de phishing. Sin embargo, tales modelos de lenguaje todavía tienen sus limitaciones. Si bien actualmente pueden rivalizar con un analista de phishing en ciernes cuando se trata de clasificar los ataques de phishing e identificar objetivos potenciales, a menudo tienden a producir resultados aleatorios. Si bien las IA aún no están revolucionando el panorama de la ciberseguridad, ya podrían ser herramientas útiles para la comunidad”, dijo Vladislav Tushkanov, científico principal de datos de Kaspersky.
Más en Kaspersky.com
Acerca de Kaspersky Kaspersky es una empresa internacional de ciberseguridad fundada en 1997. La profunda inteligencia de amenazas y la experiencia en seguridad de Kaspersky sirven como base para soluciones y servicios de seguridad innovadores para proteger empresas, infraestructura crítica, gobiernos y consumidores en todo el mundo. La cartera de seguridad integral de la empresa incluye una protección líder para puntos finales y una variedad de soluciones y servicios de seguridad especializados para defenderse contra amenazas cibernéticas complejas y en constante evolución. Más de 400 millones de usuarios y 250.000 XNUMX clientes corporativos están protegidos por las tecnologías de Kaspersky. Más información sobre Kaspersky en www.kaspersky.com/