Además de AI Gemini de Google, ahora ha aparecido DarkGemini que cumple los deseos de los cibermafiosos y creadores de malware. Según algunos investigadores de seguridad, las primeras ediciones todavía no son especialmente buenas. Pero al principio tampoco lo eran otros servicios de IA. El desarrollo continúa peligrosamente.
Cuando ChatGPT se abrió a finales de 2022 y se presentó al mundo, no pasó mucho tiempo para que circularan los primeros informes sobre el uso indebido de la herramienta GenKI. Un año después, se filtraron las primeras herramientas de inteligencia artificial que podrían utilizar los ciberdelincuentes: FraudGPT, WormGPT and Co. Todos ellos programas que no se basan en consideraciones éticas, pero que tienen la capacidad de proporcionar información maliciosa en respuesta a las solicitudes correspondientes. Con la introducción de nuevos modelos de lenguaje grande (LLM), los correspondientes modelos poco éticos son sólo cuestión de tiempo.
Además de Google Gemini, ahora existe Dark Gemini
Una historia similar ocurrió con la presentación de Gemini de Google, como noticia de... Géminis oscuro la ronda. Cómo Lectura oscura Como escribe, el servicio front-end malicioso impulsado por IA probablemente modificó las solicitudes enviadas a LLM legítimos para eludir las restricciones sobre la escritura de programas maliciosos y la geolocalización de personas en fotografías.
No se debe subestimar el éxito de los creadores detrás de Dark Gemini, así como la amenaza que representa. Aunque, como han dicho algunos investigadores de seguridad, el programa de IA en realidad no es un gran éxito, muestra cuánto es posible con poco esfuerzo. Un pequeño servicio de interfaz de usuario es suficiente para romper parcialmente las políticas de seguridad diseñadas para evitar el uso delictivo de modelos de lenguajes grandes (LLM), como ChatGPT y Google Gemini.
Cuando la IA ayuda a los delincuentes
Si amplías eso y piensas en las grandes bandas de hackers con sus habilidades y capacidad, entonces te darás cuenta de lo que este robot de chat de hackers aparentemente insignificante de la Dark Web realmente significa para el software de IA. Ahora es aún más importante que, por un lado, a través de la legislación y, por otro, mediante la adaptación de las defensas informáticas, se puedan aprovechar las posibilidades de utilizar la IA para facilitar el trabajo, optimizar los procesos y reforzar la seguridad informática. a medida que se tienen en cuenta las amenazas que plantea el uso indebido de la IA. Qué experto.
Más en CheckPoint.com
Sobre el punto de control Check Point Software Technologies GmbH (www.checkpoint.com/de) es un proveedor líder de soluciones de ciberseguridad para administraciones públicas y empresas de todo el mundo. Las soluciones protegen a los clientes de los ataques cibernéticos con una tasa de detección de malware, ransomware y otros tipos de ataques líder en la industria. Check Point ofrece una arquitectura de seguridad de varias capas que protege la información corporativa en la nube, la red y los dispositivos móviles, y el sistema de administración de seguridad de "un punto de control" más completo e intuitivo. Check Point protege a más de 100.000 XNUMX empresas de todos los tamaños.