Los delincuentes usan inteligencia artificial, no solo para deepfakes. Europol, UNICRI y Trend Micro informan sobre las amenazas actuales y futuras de la IA.
Trend Micro ha publicado hoy un nuevo informe de investigación, producido en colaboración con Europol y el Instituto Interregional de las Naciones Unidas para el Estudio del Crimen y la Justicia (UNICRI). En él, los investigadores de seguridad abordan el uso actual y posible futuro de la inteligencia artificial (IA) por parte de los delincuentes. El informe proporciona a los organismos encargados de hacer cumplir la ley, a los encargados de formular políticas y a otras organizaciones información sobre ataques actuales y futuros potenciales que utilizan inteligencia artificial y recomendaciones para mitigar estos riesgos.
Beneficios potenciales de la tecnología de IA
“IA promete al mundo más eficiencia, automatización y autonomía. En un momento en que el público está cada vez más preocupado por el posible uso indebido de la IA, debemos hacer que las amenazas sean transparentes, pero también examinar los beneficios potenciales de la tecnología de la IA”, dice Edvardas Šileris, director del Centro de Delitos Cibernéticos de Europol (Europol EC3). “Este informe no solo nos ayudará a anticipar posibles usos maliciosos y abusos de la IA, sino también a prevenir y mitigar de manera proactiva estas amenazas. De esta forma, podemos liberar el potencial de la IA y beneficiarnos del uso positivo de los sistemas de IA”.
El informe concluye que los ciberdelincuentes utilizarán la IA como vector de ataque y como superficie de ataque. Deepfakes (contenido multimedia de aspecto realista, como fotos, audio y video modificado y distorsionado por IA) es actualmente el uso más conocido de IA como vector de ataque. Sin embargo, el informe advierte que se requerirán nuevas tecnologías de detección en el futuro. para detectar esto Reduzca el riesgo de campañas de desinformación y extorsión, así como amenazas dirigidas a conjuntos de datos de IA.
AI podría soportar los siguientes tipos de ataques
- Ataques convincentes de ingeniería social a gran escala
- Malware que puede filtrar ciertos datos de documentos a gran escala (extracción de documentos)
- Evitar el reconocimiento de imágenes y la biometría de voz
- Ataques de ransomware que se dirigen a las víctimas con mayor precisión y eluden los mecanismos de protección
- Contaminación de datos por la identificación de puntos ciegos en las reglas de detección
"A medida que las aplicaciones de IA tienen un impacto cada vez mayor en el mundo real, queda claro que será una tecnología fundamental en el futuro", explica Irakli Beridze, director del Centro de IA y Robótica de UNICRI. “Pero así como la IA ofrece beneficios muy reales a la sociedad, también lo es la amenaza del uso malicioso. Nos sentimos honrados de unir fuerzas con Europol y Trend Micro para arrojar luz sobre el lado oscuro de la IA y fomentar un mayor debate sobre este importante tema”.
El informe también advierte que se están desarrollando sistemas de IA para mejorar la eficacia del malware e interrumpir los sistemas antimalware y de reconocimiento facial.
AI calcula contraseñas, rompe códigos CAPTCHA, clona voces
“Los ciberdelincuentes siempre han estado entre los primeros en adoptar las últimas tecnologías, y este también es el caso de la IA. Como muestra nuestro informe, ya se está utilizando para descifrar contraseñas, descifrar códigos CAPTCHA y clonar voz. Y hay muchas más innovaciones maliciosas en proceso”, dijo Martin Rösler, director del equipo de investigación de amenazas prospectivas de Trend Micro. "Estamos orgullosos de trabajar con Europol y UNICRI para generar conciencia sobre esta amenaza y, al hacerlo, ayudar a crear un futuro digital más seguro para todos nosotros".
Al final del informe, las tres organizaciones recomiendan varias medidas para hacer frente a la IA:
- Aprovechar el potencial de la tecnología de IA como una herramienta de lucha contra el crimen para preparar la industria de la seguridad cibernética y la aplicación de la ley en el futuro
- Continuar la investigación en el campo de la IA para desarrollar más tecnologías de defensa
- Promoción y desarrollo de marcos de diseño de IA seguros
- Disminución de la retórica políticamente cargada sobre el uso de la IA con fines de ciberseguridad
- Uso de asociaciones público-privadas y creación de grupos de expertos multidisciplinarios
El informe completo de la investigación está disponible en línea.
Vaya directamente al informe en TrendMicro.com
Acerca de Trend Micro Como uno de los principales proveedores de seguridad de TI del mundo, Trend Micro ayuda a crear un mundo seguro para el intercambio de datos digitales. Con más de 30 años de experiencia en seguridad, investigación de amenazas globales e innovación constante, Trend Micro ofrece protección para empresas, agencias gubernamentales y consumidores. Gracias a nuestra estrategia de seguridad XGen™, nuestras soluciones se benefician de una combinación intergeneracional de técnicas de defensa optimizadas para entornos de vanguardia. La información de amenazas en red permite una protección mejor y más rápida. Optimizadas para cargas de trabajo en la nube, terminales, correo electrónico, IIoT y redes, nuestras soluciones conectadas brindan visibilidad centralizada en toda la empresa para una detección y respuesta más rápidas a las amenazas.