La IA generativa cambia los ataques y los hace significativamente más sofisticados que en el pasado. Requiere una nueva estrategia de defensa, preferiblemente con una IA de autoaprendizaje que también reconozca, aprenda e implemente inmediatamente patrones de comportamiento completamente nuevos. Una encuesta realizada por Darktrace a 6.700 empleados sobre cómo tratan el correo electrónico en las empresas.
El caso más reciente muestra lo que puede hacer una IA generativa: el colapso del Silicon Valley Bank (SVB) y la crisis bancaria resultante. Los atacantes utilizaron de inmediato la situación para forjar comunicaciones altamente confidenciales. Para ello, interceptaron mensajes legítimos que instruían a los destinatarios a actualizar sus datos bancarios para la nómina. Este incidente específico se corresponde con las cifras generales: el 62 % de los empleados de las empresas de servicios financieros han notado un aumento en los correos electrónicos y mensajes de texto fraudulentos en los últimos seis meses. La IA generativa en realidad significa cualquier tipo de inteligencia artificial (IA) que crea nuevos textos, imágenes, videos, audios, códigos o datos sintéticos.
IA del atacante vs IA del defensor
Por lo tanto, la IA generativa requiere una nueva estrategia de defensa basada en la IA de autoaprendizaje. A diferencia de todas las demás herramientas de seguridad de correo electrónico, en Darktrace Emails no se entrena en cómo se ven los "ataques", sino que aprende los patrones de comportamiento normales en cada empresa individual. Con un conocimiento profundo de la empresa y de cómo interactúa cada empleado con su bandeja de entrada, la IA puede determinar para cada correo electrónico si es sospechoso o legítimo. En particular, los correos electrónicos del CEO están mejor protegidos.
Los nuevos datos de Darktrace muestran que las soluciones de seguridad de correo electrónico, incluidas las herramientas de IA nativas, basadas en la nube y estáticas, tardan un promedio de trece días en detectar un ataque a una víctima. Luego, las empresas quedan desprotegidas durante casi dos semanas si confían únicamente en estas herramientas. La ingeniería social, en particular las campañas cibernéticas maliciosas por correo electrónico, como en el ejemplo bancario anterior, sigue siendo la causa principal de la vulnerabilidad de una organización a los ataques. El acceso generalizado a herramientas de inteligencia artificial generativa como ChatGPT, junto con la creciente sofisticación de los actores estatales, significa que las estafas por correo electrónico son más convincentes que nunca.
Más resultados de la encuesta
- Al 87 % de los trabajadores de todo el mundo les preocupa que los piratas informáticos puedan utilizar la IA generativa para crear correos electrónicos fraudulentos que no se pueden distinguir de las comunicaciones reales.
- Las tres principales características de comunicación que han llevado a los empleados a confundir un correo electrónico con un ataque de phishing son: solicitud para hacer clic en un enlace o abrir un archivo adjunto (72 %), remitente desconocido o contenido inesperado (61 %) y mala ortografía y gramática (62 %). ).
- Una cuarta parte (25 %) de los empleados se han dejado engañar por un correo electrónico o SMS fraudulento en el pasado.
El 65% de los empleados ha notado un aumento en la frecuencia de correos electrónicos y mensajes de texto fraudulentos en los últimos seis meses. - El 87 % de los empleados está preocupado por la cantidad de información personal disponible sobre ellos en línea que podría usarse para phishing y otras estafas por correo electrónico.
- Para el 87% de las empresas, los filtros de correo no deseado bloquean incorrectamente correos electrónicos importantes y legítimos para que no lleguen a sus bandejas de entrada.
Más de uno de cada tres encuestados ha probado ChatGPT u otros chatbots generativos de IA (36 %).
Estos números provienen de una encuesta global que Darktrace realizó en marzo de 2023 en asociación con Censuswide de 6.711 empleados en el Reino Unido, EE. UU., Francia, Alemania, Australia y los Países Bajos. El objetivo era obtener información sobre el comportamiento humano en relación con el correo electrónico y comprender mejor cómo reaccionan los empleados de todo el mundo ante posibles amenazas de seguridad, cómo entienden la seguridad del correo electrónico y qué tecnologías modernas se utilizan como herramientas para contrarrestar las amenazas.
Más en Darktrace.com
Acerca de Darktrace Darktrace, líder mundial en inteligencia artificial para la ciberseguridad, protege a las empresas y organizaciones con tecnología de IA de los ciberataques. La tecnología de Darktrace registra patrones de tráfico atípicos que indican posibles amenazas. Al hacerlo, reconoce métodos de ataque novedosos y previamente desconocidos que otros sistemas de seguridad pasan por alto.