La lucha por usar ChatGPT para la ciberdelincuencia se ha multiplicado por siete en los foros de la web oscura donde los piratas informáticos discuten cómo manipular el chatbot. Eso es según un nuevo estudio de la empresa de ciberseguridad NordVPN.
Según la investigación, la cantidad de publicaciones nuevas en los foros de la dark web sobre la herramienta de inteligencia artificial aumentó de 120 en enero a 870 en febrero, un aumento del 625 por ciento. Las publicaciones del foro relacionadas con ChatGPT aumentaron un 145 % de 37 a 91 en un mes, ya que las discusiones sobre el abuso del bot se convirtieron en el tema más candente en la dark web.
ChatGPT está diseñado para producir malware y scripts
A principios de enero, muchos hilos se centraron en cómo los actores malintencionados podían engañar a ChatGPT para que produjera malware simple, una vulnerabilidad que ya se ha solucionado. Un mes después, la tendencia en la comunidad hacker fue hacia medidas más agresivas. Las publicaciones describen planes para tomar el control del chatbot y usarlo para causar estragos. Los títulos de los foros de la Dark Web (que están ocultos para los motores de búsqueda normales y son visitados por piratas informáticos anónimos de todo el mundo) incluyen "Cómo romper ChatGPT", "ChatGPT jailbreak 2.0, ChatGPT: progresión del malware" y "ChatGPT como herramienta de phishing".
Con ChatGPT, los delincuentes podrían usar su inteligencia artificial para detener las estafas, como p. B. Estafas de amor: para llevarse a cabo a escala industrial y para atacar a múltiples víctimas al mismo tiempo. Una vez que un pirata informático se ha apoderado del chatbot, puede eliminar sus restricciones de seguridad y usarlo para crear malware y correos electrónicos de phishing, difundir discursos de odio o incluso difundir propaganda.
Muchas formas nuevas con ChatGPT
“ChatGPT ha abierto muchas puertas a nuevos mundos y está transformando el mundo del trabajo, la educación y la forma en que usamos la información. Como cualquier tecnología nueva, se puede aprovechar para usos positivos, como la detección de vulnerabilidades en contratos inteligentes.
Al mismo tiempo, los peligros para los usuarios no son insignificantes. Esto también se muestra en la investigación de NordVPN sobre el aumento de las publicaciones en foros en la dark web. Esto permite a los delincuentes utilizar la detección de vulnerabilidades impulsada por IA con fines maliciosos. Esto también incluye el mal uso de encontrar y resumir rápidamente información personal para atacar a empresas y personas de una manera más específica. Aún más peligroso es eludir los controles y filtros de seguridad en ChatGPT y otros proveedores de IA para engañar al programa para que haga declaraciones racistas u odiosas”, dijo Marvin Petzolt, experto en seguridad cibernética de Nord Security.
Más en Nordsecurity.com
Acerca de Seguridad del Norte
Fundada en 2012, Nord Security alberga soluciones de seguridad avanzadas que llevan la marca Nord. Creamos sólidas herramientas de ciberseguridad para uso personal y comercial, incluido el servicio de VPN más rápido del mundo, NordVPN.