Según investigadores de seguridad en Israel, las bandas de piratas informáticos ya están utilizando inteligencia artificial (IA) para capacitar a sus nuevos miembros. También cuentan con la asistencia de IA para mejorar el malware, automatizar ataques y, en general, ejecutar sus operaciones delictivas sin problemas.
Por otro lado, los consultores de gestión de McKinsey descubrieron a través de una encuesta para el año 2022 que el 50 por ciento de las empresas encuestadas usan IA para respaldar el trabajo en al menos un área comercial; en 2017 fue solo el 20 por ciento. Según la revista Forbes, hasta el 60 % de los empresarios encuestados cree que la IA aumentará la productividad de su empresa en general, el 64 % cree en un aumento de la productividad operativa, mientras que el 42 % se relaciona con la mejora de los procesos de trabajo.
Esta comparación muestra muy bien cómo una y la misma tecnología puede usarse aquí para buenos y malos propósitos. La preocupación que más preocupa actualmente a la población: ¿Puede la IA aprender qué áreas de aplicación son buenas o malas para evitar el mal uso por sí sola?
ChatGPT y Google Bard ayudan a los piratas informáticos
- Ataques cibernéticos automatizados: Desde que ambas herramientas están en el mercado, nuestros investigadores de seguridad han visto una proliferación de bots que controlan de forma remota las computadoras infectadas y otros sistemas automatizados. Estos son ideales para ataques DDoS, que pueden paralizar un servidor o un sistema completo con una enorme cantidad de solicitudes de acceso. También por esta razón, los ataques de TI aumentaron un 38 por ciento en todo el mundo el año pasado.
- Ayuda para crear malware, correos electrónicos de phishing, deepfakes y el diseño de ataques cibernéticos: los piratas informáticos reconocieron desde el principio que ChatGPT podía crear líneas de comando para malware o escribir correos electrónicos de phishing, estos últimos en mejor inglés o alemán de lo que los delincuentes a menudo pueden escribir. Además, dado que ChatGPT y Google Bard aprenden con cada entrada, incluso pueden crear contenido complicado, como imágenes, videos o incluso grabaciones de sonido. Aquí es donde entra en juego el peligro de las falsificaciones profundas. Esto significa películas que muestren y le hablen a una determinada persona de la forma en que estamos acostumbrados, aunque sea una falsificación. La tecnología moderna permite la falsificación de expresiones faciales, gestos y voz. Barack Obama, Joe Biden, Volodymyr Zelenskyy y Vladimir Putin ya han sido víctimas de estos deepfakes.
- delincuentes menores sin una gran capacidad de programación pueden convertirse en piratas informáticos: con la ayuda de tales chatbots impulsados por IA, las pandillas de piratas informáticos pueden, como se mencionó anteriormente, capacitar a sus nuevos miembros, o las personas con tendencias criminales pueden modificar rápidamente y lanzar un pequeño ataque de TI. Esto conduce a una avalancha de, por así decirlo, miniataques y nuevos grupos de hackers.
Para evitar este abuso, el fabricante de ChatGPT, la empresa OpenAI, instaló algunos dispositivos de seguridad y excluyó el uso de países, pero esto no duró mucho: primero, los bloqueos de solicitudes se sortearon preguntando inteligentemente al chatbot, luego se anularon las restricciones de países, luego se robaron y vendieron cuentas premium a gran escala y ahora incluso se ofrecen clones de ChatGPT en Darknet en forma de interfaces API.
Una forma de hacer que la propia IA sea menos vulnerable al abuso es entrenar a la propia IA. Los ingenieros están de acuerdo en que una vez que el conocimiento aprendido es imposible de eliminar de una IA, se debe enseñar a la IA algún tipo de catálogo de ética desde el principio para que siga ciertas reglas por sí misma. Esto también sería posible con leyes que simplemente prohíban algunas acciones.
Más en Checkpoint.com
Sobre el punto de control Check Point Software Technologies GmbH (www.checkpoint.com/de) es un proveedor líder de soluciones de ciberseguridad para administraciones públicas y empresas de todo el mundo. Las soluciones protegen a los clientes de los ataques cibernéticos con una tasa de detección de malware, ransomware y otros tipos de ataques líder en la industria. Check Point ofrece una arquitectura de seguridad de varias capas que protege la información corporativa en la nube, la red y los dispositivos móviles, y el sistema de administración de seguridad de "un punto de control" más completo e intuitivo. Check Point protege a más de 100.000 XNUMX empresas de todos los tamaños.