Le Google Threat Intelligence Group (GTIG) montre dans un rapport que des groupes de hackers iraniens, chinois, nord-coréens et russes notamment accèdent à l'IA Gemini. Bien qu'ils n'écrivent pas de logiciels malveillants, ils utilisent l'IA pour alimenter le code, trouver des vulnérabilités et aider aux techniques de script malveillantes.
Le Google Threat Intelligence Group (GTIG) a publié un rapport complet sur l'utilisation de l'intelligence artificielle (IA) générative par les acteurs de la menace. Les modèles d’IA génératifs comme Gemini sont également accessibles aux attaquants. Cela soulève des inquiétudes quant à l’utilisation potentielle abusive de l’IA à des fins malveillantes.
Pays importants à l'honneur
Une partie importante du rapport est l’examen des interactions des acteurs de la menace avec l’assistant IA Gemini développé par Google.
l'Iran
- Acteurs d'APT : Les acteurs iraniens d’APT sont les utilisateurs les plus actifs de Gemini. Ils utilisent l’IA à de nombreuses fins, notamment pour explorer des infrastructures potentielles, reconnaître des organisations ciblées, trouver des vulnérabilités, développer des logiciels malveillants et aider à la mise en œuvre de techniques de script malveillantes.
- Acteurs IO : Les acteurs iraniens des opérations d’information (IO) utilisent également largement Gemini. Ils utilisent l’IA pour la recherche, le développement de personnages et de messages, les traductions et l’augmentation de leur portée. Les acteurs IO iraniens représentent les trois quarts de l'utilisation totale des IO de Gemini.
Russie
- Acteurs d'APT : Les acteurs russes d'APT utilisent Gemini de manière moins intensive. Au cours de la période d’analyse, seule une activité limitée des acteurs APT russes a été observée.
- Acteurs IO : Les acteurs IO russes utilisent Gemini principalement pour la recherche générale et la création de contenu. Leur recours à l’IA est moins prononcé que celui des acteurs iraniens.
La Chine
- Google ne dit rien sur les acteurs APT étatiques.
- Acteurs IO : Les acteurs IO chinois utilisent Gemini pour la recherche générale et la création de contenu. Aux côtés des acteurs iraniens et russes, ils sont également actifs dans l’utilisation de l’IA générative.
Corée du Nord
- Acteurs d'APT : Les acteurs nord-coréens de l'APT utilisent l'IA générative comme Gemini à diverses fins, notamment pour rédiger de fausses lettres de motivation et trouver des postes informatiques dans des entreprises occidentales. L’objectif est d’infiltrer des agents dans des entreprises sans se faire remarquer.
- Acteurs IO : Le rapport ne contient aucune information spécifique sur les acteurs IO nord-coréens utilisant Gemini. Les activités se concentrent principalement sur les acteurs de l'APT
Autres principales conclusions du rapport
- Aucune attaque sur mesure : Les acteurs de la menace n’ont pas utilisé d’attaques rapides spécifiques ni de menaces basées sur l’IA telles que décrites dans le Secure AI Framework. Au lieu de cela, ils ont utilisé des invites de jailbreak disponibles publiquement pour contourner les contrôles de sécurité de Gemini, mais en vain.
- Productivité accrue : Les acteurs de la menace expérimentent Gemini pour accélérer leurs flux de travail, mais ne développent pas de nouvelles fonctionnalités. Ils utilisent l’IA pour la recherche, le débogage de code et la création de contenu.
- Phases du cycle d'attaque : Les acteurs des menaces persistantes avancées (APT) utilisent Gemini à différentes étapes du cycle d’attaque, telles que la recherche d’infrastructures potentielles, la reconnaissance des organisations cibles et le développement de code malveillant. Les acteurs iraniens de l’APT étaient les utilisateurs les plus actifs.
- Opérations d'information (IO) : Les acteurs d'IO ont utilisé Gemini pour la recherche, le développement de personnages et la traduction. Ici aussi, les acteurs iraniens étaient les utilisateurs les plus actifs, suivis des acteurs IO chinois et russes.