Die Google Threat Intelligence Group (GTIG) zeigt in einem Bericht, dass besonders iranische, chinesische, nordkoreanische und russische Hackergruppen auf die KI Gemini zugreifen. Sie lassen zwar keine Malware schreiben, nutzen KI aber als Grundlage für Codes, das Finden von Schwachstellen und die Unterstützung bei bösartigen Scripting-Techniken.
Die Google Threat Intelligence Group (GTIG) hat einen umfassenden Bericht über die Nutzung generativer künstlicher Intelligenz (KI) durch Bedrohungsakteure veröffentlicht. Generative KI-Modelle wie Gemini sind auch für Angreifer zugänglich. Dies führt zu Besorgnis über den möglichen Missbrauch von KI für böswillige Zwecke.
Wichtige Länder im Fokus
Ein wichtiger Teil des Berichts ist die Untersuchung der Interaktionen von Bedrohungsakteuren mit dem von Google entwickelten KI-Assistenten Gemini.
Iran
- APT-Akteure: Iranische APT-Akteure sind die aktivsten Nutzer von Gemini. Sie nutzen die KI für zahlreiche Zwecke, darunter die Erforschung potenzieller Infrastruktur, die Erkundung von Zielorganisationen, das Finden von Schwachstellen, die Entwicklung von Schadsoftware und die Unterstützung bei bösartigen Scripting-Techniken.
- IO-Akteure: Iranische IO-Akteure (Informationsoperationen) nutzen Gemini ebenfalls umfangreich. Sie verwenden die KI für Recherchen, die Entwicklung von Personas und Messaging, Übersetzungen und die Erhöhung ihrer Reichweite. Iranische IO-Akteure machen drei Viertel der gesamten IO-Nutzung von Gemini aus.
Russland
- APT-Akteure: Russische APT-Akteure nutzen Gemini weniger intensiv. Während der Analyseperiode wurden nur begrenzte Aktivitäten von russischen APT-Akteuren beobachtet.
- IO-Akteure: Russische IO-Akteure verwenden Gemini hauptsächlich für allgemeine Recherchen und Content-Erstellung. Ihre Nutzung der KI ist weniger ausgeprägt im Vergleich zu iranischen Akteuren.
China
- Zu staatlichen APT-Akteuren sagt Google nichts.
- IO-Akteure: Chinesische IO-Akteure nutzen Gemini für allgemeine Forschung und die Erstellung von Inhalten. Sie sind neben den iranischen und russischen Akteuren ebenfalls in der Nutzung von generativer KI aktiv.
Nordkorea
- APT-Akteure: Nordkoreanische APT-Akteure nutzen generative KI wie Gemini für verschiedene Zwecke, darunter das Verfassen von gefälschten Anschreiben und die Suche nach IT-Stellen in westlichen Unternehmen. Das Ziel ist es, Agenten unbemerkt in Unternehmen einzuschleusen.
- IO-Akteure: Der Bericht enthält keine spezifischen Informationen über nordkoreanische IO-Akteure, die Gemini nutzen. Die Aktivitäten konzentrieren sich hauptsächlich auf APT-Akteure
Weitere wichtige Ergebnisse des Berichts
- Keine maßgeschneiderten Angriffe: Bedrohungsakteure nutzten keine speziellen Prompt-Angriffe oder KI-basierten Bedrohungen, wie im Secure AI Framework beschrieben. Stattdessen setzten sie öffentlich verfügbare Jailbreak-Prompts ein, um Sicherheitskontrollen von Gemini zu umgehen, jedoch ohne Erfolg.
- Produktivitätssteigerung: Bedrohungsakteure experimentieren mit Gemini, um ihre Arbeitsabläufe zu beschleunigen, entwickeln jedoch keine neuen Fähigkeiten. Sie verwenden KI für Recherche, Fehlersuche im Code und Content-Erstellung.
- Phasen des Angriffszyklus: APT-Akteure (Advanced Persistent Threat) nutzen Gemini für verschiedene Phasen des Angriffszyklus, wie die Recherche zu potenzieller Infrastruktur, Erkundung von Zielorganisationen und Entwicklung von Schadcode. Dabei waren iranische APT-Akteure die aktivsten Nutzer.
- Informationsoperationen (IO): IO-Akteure nutzten Gemini für Recherchen, Persona-Entwicklung und Übersetzung. Auch hier waren iranische Akteure die aktivsten Nutzer, gefolgt von chinesischen und russischen IO-Akteuren.