El modelo ChatGPT AI puede filtrar más fácilmente la actividad maliciosa en la telemetría XDR, mejorar los filtros de spam y simplificar el análisis de "Living Off the Land Binaries" ("LOLBins" para abreviar). Sophos ha publicado recientemente esto en un nuevo informe.
El tema es el modelo de lenguaje GPT-3, que está detrás del conocido marco ChatGPT, y cómo la industria de la ciberseguridad puede usar el modelo para defenderse de los atacantes. El informe actual "GPT para usted y para mí: aplicación del procesamiento de lenguaje de IA a las defensas cibernéticas" describe proyectos desarrollados por Sophos X-Ops que utilizan los extensos modelos de lenguaje de GPT-3. El objetivo es simplificar la búsqueda de actividades maliciosas en los registros de datos del software de seguridad, filtrar el spam con mayor precisión y rapidez, y analizar los ataques binarios (LOLBin) con mayor rapidez.
Usa la IA también para la defensa
“Desde que OpenAI presentó ChatGPT en noviembre de 2022, la industria de la seguridad se ha centrado en gran medida en los riesgos potenciales que podría traer esta nueva tecnología. ¿Puede la IA ayudar a los posibles atacantes a escribir malware o a los ciberdelincuentes a crear correos electrónicos de phishing más convincentes? Tal vez, pero en Sophos siempre hemos visto a la IA como un aliado, no como un enemigo, para la defensa, lo que la convierte en una tecnología fundamental para Sophos, y lo mismo ocurre con GPT-3. La industria de la seguridad no solo debe prestar atención a los riesgos potenciales de la tecnología, sino también a las posibles oportunidades”, dijo Sean Gallagher, investigador principal de amenazas en Sophos.
GPT-3 como asistente de ciberseguridad
Los investigadores de Sophos X-Ops están trabajando en tres proyectos prototipo que demuestran el potencial de GPT-3 como asistente para los defensores de la ciberseguridad. Los tres proyectos utilizan una técnica llamada "aprendizaje de pocos disparos" para entrenar el modelo de IA con solo unas pocas muestras de datos, lo que reduce la necesidad de recopilar una gran cantidad de datos preclasificados.
La primera aplicación que Sophos probó con el método de aprendizaje de pocas tomas fue una Interfaz de consulta de lenguaje natural para escanear la actividad maliciosa en la telemetría del software de seguridad. En particular, Sophos ha validado el modelo con su solución Endpoint Detection and Response. Con esta interfaz, los defensores pueden filtrar la telemetría con comandos simples en inglés sin tener que entender SQL o la estructura subyacente de una base de datos.
Nuevo filtro de spam con ChatGPT
🔎 ChatGPT puede detectar el spam con mayor precisión (Imagen: Sophos).
A continuación, Sophos probó un nuevo filtro de spam con ChatGPT y encontró que el filtro con GPT-3 fue significativamente más preciso en comparación con otros modelos de aprendizaje automático para el filtrado de spam. Finalmente, los investigadores de Sophos pudieron crear un programa que facilita la ingeniería inversa de las líneas de comando de LOLBins. Tal ingeniería inversa es notoriamente difícil, pero también fundamental para comprender el comportamiento de LOLBin y prevenir este tipo de ataques en el futuro.
Los SOC obtienen una gran ayuda
“Una de las preocupaciones crecientes en los SOC (Centros de operaciones de seguridad) es el gran volumen de 'ruido' que ingresa. Simplemente hay demasiadas alertas y detecciones para clasificar, y muchas organizaciones están luchando con recursos limitados. Hemos demostrado que con GPT-3 podemos simplificar ciertos procesos que requieren mucha mano de obra y devolverles a los defensores un tiempo valioso. Ya estamos trabajando en la integración de algunos de los prototipos anteriores en nuestros productos y hemos puesto a disposición los resultados de nuestros esfuerzos en nuestro GitHub para aquellos interesados en probar GPT-3 en sus propios entornos de análisis. Creemos que GPT-3 puede muy bien convertirse en un copiloto para los profesionales de la seguridad en el futuro”, dijo Gallagher.
Más en Sophos.com
Acerca de Sophos Sophos cuenta con la confianza de más de 100 millones de usuarios en 150 países. Ofrecemos la mejor protección contra amenazas informáticas complejas y pérdida de datos. Nuestras soluciones integrales de seguridad son fáciles de implementar, usar y administrar. Ofrecen el costo total de propiedad más bajo de la industria. Sophos ofrece soluciones de cifrado galardonadas, soluciones de seguridad para terminales, redes, dispositivos móviles, correo electrónico y web. También cuenta con el soporte de SophosLabs, nuestra red global de centros de análisis patentados. Las oficinas centrales de Sophos se encuentran en Boston, EE. UU. y Oxford, Reino Unido.