El mayor desarrollo de las redes neuronales, la IA y el aprendizaje automático se está convirtiendo en un verdadero "cambio de juego". El chatbot ChatGPT actualmente lo está dejando más que claro. Sophos AI utiliza la tecnología GPT avanzada para realizar aplicaciones de seguridad aún mejores.
A medida que aumenta la escala, las redes neuronales mejoran cada vez más. La base del programa es el modelo de procesamiento de lenguaje GPT-3.5, que también proviene de OpenAI. A escala de supercomputación y junto con el aprendizaje automático, Sophos AI utiliza esta tecnología avanzada para realizar aplicaciones de seguridad aún mejores. Porque sobre todo en el ámbito de la ciberseguridad destaca el enorme rendimiento frente a modelos anteriores más pequeños. Esto queda claro en varias series de pruebas exitosas que los expertos de Sophos realizaron con GPT-3 el año pasado.
GPT-3 ofrece un enorme potencial para la seguridad de TI
GPT-3 es un modelo de lenguaje a gran escala preentrenado que es innovador en su flexibilidad y precisión. Y aquí es exactamente donde se requiere la creatividad humana de Sophos AI, es decir, dónde y cómo se puede utilizar esta tecnología en la lucha contra el ciberdelito. Porque si los datos de entrada y salida se pueden convertir a texto, los usos de GPT-3 también son infinitos en esta área. Por ejemplo, podría pedirle a GPT-3 que escriba código de trabajo en Python a partir de una descripción de función, o cree una aplicación de clasificación con solo algunos ejemplos.
Sophos AI: quiero usar el potencial GPT-3
Los expertos en IA de Sophos ven un enorme potencial en GPT-3. Por ejemplo, encontrar un registro sin etiquetar es relativamente fácil; sin embargo, crear un conjunto de datos etiquetados para entrenar un modelo de aprendizaje automático tradicional suele llevar mucho tiempo y ser difícil. Los modelos tradicionales de aprendizaje automático que se entrenan con pocos ejemplos a menudo tienen problemas de sobreajuste. En otras palabras, no generalizan bien a ejemplos previamente inexistentes. Sin embargo, con GPT-3 "Few-Shot Learning", Sophos AI requiere solo unos pocos ejemplos de capacitación anotados y, por lo tanto, supera a los modelos convencionales. Debido a que GPT-3 ha sido autosupervisado y entrenado extensamente, se ha demostrado que funciona bien en varios problemas de clasificación con solo unos pocos ejemplos.
Dos ejemplos para la aplicación concreta
detección de spam
🔎 Solicitar una tarea de clasificación de spam (Imagen: Sophos).
Es un desafío entrenar un poderoso modelo de clasificación de spam con solo cuatro muestras no críticas y cuatro de spam. Los modelos de clasificación tradicionales a menudo requieren un gran conjunto de datos de entrenamiento para aprender suficientes señales. Sin embargo, dado que GPT-3 es un modelo de lenguaje entrenado en un gran conjunto de datos de texto, puede reconocer la intención de una tarea de clasificación y resolver la tarea con algunos ejemplos.
Cuando se aprende con algunos ejemplos, un paso importante es la ingeniería rápida, que implica diseñar el formato de los datos de entrada para las tareas de finalización de texto. La imagen muestra una tarea de clasificación de spam de este tipo.
El indicador incluye una declaración y algunos ejemplos con sus etiquetas como un conjunto de soporte, y se adjunta un ejemplo de consulta en la última sección. Luego se le pide a GPT-3 que genere una respuesta como una predicción de etiqueta a partir de la entrada.
Al comparar los resultados de la clasificación entre los modelos de ML tradicionales y el "aprendizaje de pocos disparos" con GPT-3, es fácil ver que claramente supera a los modelos de ML tradicionales como la regresión logística y el "bosque aleatorio". Esto se debe a que el aprendizaje de pocas tomas toma la información de contexto de los ejemplos dados y elige la etiqueta del ejemplo más similar como salida. Como resultado, GPT-3 no requiere reentrenamiento pero permite construir un poderoso modelo de clasificación con ingeniería simple y rápida.
Explicaciones legibles para código difícil de descifrar
Las líneas de comando de ingeniería inversa son una tarea difícil y que requiere mucho tiempo, incluso para los expertos en seguridad. Es aún más difícil entender los comandos de "vivir de la tierra" porque son largos y contienen cadenas que son difíciles de analizar. Los atacantes usan aplicaciones estándar y procesos estándar en las computadoras de sus víctimas para camuflar actividades de phishing, por ejemplo. GPT-3 puede traducir una línea de comando en una descripción comprensible, por ejemplo, escribir código Python o Java funcional a partir de una descripción dada del código. También es posible pedirle a GPT-3 que genere múltiples descripciones desde una línea de comando, y las descripciones de salida se tokenizarán con probabilidades a nivel de palabra para seleccionar el mejor candidato. El enfoque de Sophos AI para seleccionar la mejor descripción de múltiples variantes es utilizar un método de traducción inversa que selecciona la descripción que puede producir la línea de comando más similar a la línea de comando de entrada.
GPT-3: Hito de ciberseguridad
“GPT-3 es un hito en ciberseguridad porque puede detectar spam y analizar líneas de comando complejas con pocos ejemplos”, dicen los expertos del equipo de IA de Sophos. “La flexibilidad de GPT-3 es muy adecuada para combatir las amenazas cibernéticas en constante evolución. Suponemos que los problemas de ciberseguridad aún más difíciles pronto podrán abordarse con modelos de redes neuronales correspondientemente más grandes”.
Más en Sophos.com
Acerca de Sophos Sophos cuenta con la confianza de más de 100 millones de usuarios en 150 países. Ofrecemos la mejor protección contra amenazas informáticas complejas y pérdida de datos. Nuestras soluciones integrales de seguridad son fáciles de implementar, usar y administrar. Ofrecen el costo total de propiedad más bajo de la industria. Sophos ofrece soluciones de cifrado galardonadas, soluciones de seguridad para terminales, redes, dispositivos móviles, correo electrónico y web. También cuenta con el soporte de SophosLabs, nuestra red global de centros de análisis patentados. Las oficinas centrales de Sophos se encuentran en Boston, EE. UU. y Oxford, Reino Unido.