Die Google Threat Intelligence Group (GTIG) hat ihren neuen Bericht „AI Threat Tracker“ veröffentlicht. Dieser beschreibt detailliert die aktuellen Methoden von Angreifern und zeigt, dass diese nicht mehr nur mit künstlicher Intelligenz (KI) experimentieren, sondern die Technologie im großen Maßstab einsetzen.
Die erste von einer KI entwickelte Zero-Day-Schwachstelle: Google hat einen Zero-Day-Exploit (eine Umgehung der Zwei-Faktor-Authentifizierung) identifiziert, der wahrscheinlich mithilfe eines KI-Modells entdeckt und für Angriffe genutzt wurde. Dies ist gemäß GTIG der erste bekannte Beweis dafür, dass Angreifer KI erfolgreich zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt haben. Google hat jedoch bereits mehrere andere Versuche beobachtet und geht davon aus, dass es parallel viele Angriffsoperationen mit verschiedenen Modellen gibt, die noch nicht entdeckt wurden.
- Die beteiligten Bedrohungsakteure haben in der Vergangenheit bereits größere Angriffe durchgeführt. Doch Fehler bei der Umsetzung des Zero-Day-Exploits haben dessen erfolgreichen Einsatz wahrscheinlich verhindert.
- Google hat die Zero-Day-Schwachstelle dem Entwickler gemeldet, der daraufhin einen Patch veröffentlicht hat. Damit reduziert sich Bedrohung, die von dieser Schwachstelle und ihrer Ausnutzung ausgeht, erheblich.
- Der Exploit wies zahlreiche verräterische Merkmale von KI auf. Google geht nicht davon aus, dass er mit Mythos entwickelt wurde.
Staatlich geförderte Skalierung (China und Nordkorea): Cyberkriminelle und Hacker aus Nordkorea und China nutzen künstliche Intelligenz, um Sicherheitslücken zu erforschen und Exploits zu entwickeln.
- Der nordkoreanische Bedrohungsakteur APT45 setzt KI ein, um Tausende von Exploits zu validieren und sein Arsenal erheblich auszubauen.
- China: Akteure wie UNC2814 nutzen Experten-Personas, um mit KI nach Schwachstellen in Hardware wie Routern zu suchen.
Autonome Malware und Agenten
Bedrohungsakteure integrieren agentenbasierte KI-Tools in ihre Aktivitäten und können dadurch ihre Operationen erheblich skalieren:
- PROMPTSPY, eine neue Android-Backdoor, navigiert mithilfe von KI selbstständig durch die Benutzeroberfläche des Opfergeräts und blockiert Deinstallationsversuche.
- OpenClaw: Dieses beliebte KI-Framework wird von Hackern genutzt, um ihre Angriffsfähigkeiten in kontrollierten Umgebungen zu testen und zu verfeinern.
- Ein Akteur mit Verbindungen zur Volksrepublik China wurde dabei beobachtet, wie er mithilfe von agentischen Tools autonom und dauerhaft ein japanisches Technologieunternehmen auf Schwachstellen untersuchte.
Russische Informationsoperationen: Russische Akteure nutzen KI, um Malware zu verfeinern, die in der Ukraine eingesetzt wird. Zudem verwendet die prorussische Kampagne „Operation Overload“ KI-gestütztes Stimmenklonen, um echte Journalisten zu imitieren und gefälschte Audioaufnahmen in legitime Nachrichtenbeiträge einzufügen. Ziel ist die Verbreitung von Desinformationen in den USA, der Ukraine und Frankreich.
- Umgehung von Sicherheitsvorkehrungen: Akteure mit Verbindungen zu Russland setzen zudem KI-generierten Ködercode ein, um Schadsoftware vor Sicherheitsscannern zu verbergen.
- Angriffe auf KI-Lieferketten: Angreifer wie TeamPCP attackieren Zulieferteile für KI-Software wie LiteLLM, um sensible Cloud-Informationen und AWS-Schlüssel aus Entwicklungsumgebungen zu stehlen.
John Hultquist, Chefanalyst der Google Threat Intelligence Group, kommentiert den Bericht: „Es herrscht die Fehlannahme, dass der Wettlauf um KI-Sicherheitslücken unmittelbar bevorsteht. Tatsächlich hat er bereits begonnen. Für jede Zero-Day-Schwachstelle, die wir auf KI zurückführen können, gibt es wahrscheinlich viele weitere. Bedrohungsakteure nutzen KI, um Geschwindigkeit, Umfang und Raffinesse ihrer Angriffe zu steigern. Sie können damit ihre Operationen testen, Ziele dauerhaft ins Visier nehmen, bessere Malware entwickeln und viele weitere Verbesserungen vornehmen. Staatliche Akteure nutzen diese Technologie bereits, doch auch kriminell motivierte Hacker sollten nicht unterschätzt werden, denn sie sind bekannt für breit angelegte und aggressive Angriffe.“
Schutzmaßnahmen gegen den Missbrauch von KI:
Bedrohungsanalysen wie der „AI Threat Tracker“ fließen in neue Produktinnovationen ein und verbessern die Sicherheitsvorkehrungen für Nutzer von Google Security. Google geht gegen den Missbrauch von Modellen vor und sperrt böswillige Konten. Dazu spürt der KI-Agent „Big Sleep“ Softwarefehler auf, bevor Hacker dies tun. „CodeMender“ nutzt das Reasoning von Gemini, um kritische Sicherheitslücken automatisch zu beheben.
Mehr bei Cloud.Google.com
Über Google Cloud Google Cloud ist der neue Weg in die Cloud und bietet KI-, Infrastruktur-, Entwickler-, Daten-, Sicherheits- und Kollaborationstools, die für heute und die Zukunft entwickelt wurden. Google Cloud liefert einen leistungsstarken, vollständig integrierten und optimierten KI-Stack mit einer eigenen weltweiten Infrastruktur, maßgeschneiderten Chips, generativen KI-Modellen und einer Entwicklungsplattform sowie KI-gestützten Anwendungen, die Unternehmen bei der Transformation unterstützen. Kunden in mehr als 200 Ländern und Regionen setzen auf Google Cloud als ihren Technologiepartner des Vertrauens.
Passende Artikel zum Thema
Der KI-Exploit-Wettlauf hat begonnen: Google meldet ersten KI-generierten Zero-Day und autonome Agenten-Malware
Fachliche Einordnung Die Fachplattform B2BCS ordnet die Erkenntnisse aus dem wegweisenden AI Threat Tracker der Google Threat Intelligence Group (GTIG) als ultimativen Weckruf für das IT-Sicherheitsmanagement im DACH-Raum ein. Die langjährige Debatte, ob Cyberkriminelle generative KI bereits für die automatisierte Entwicklung von Schadcode nutzen können, ist im Sommer 2026 empirisch beendet. Mit dem Nachweis des ersten bekannten Zero-Day-Exploits, der nachweislich mittels eines KI-Modells zur Umgehung von Zwei-Faktor-Authentifizierungen (2FA) generiert wurde, haben Angreifer eine technologische Barriere durchbrochen. Die Skalierung staatlicher und krimineller Angriffe erfolgt nun mit Maschinengeschwindigkeit.
Key-Takeaways
- Premiere des KI-Zero-Days: Google identifizierte den ersten aktiven Exploit im Feld, der von einer KI entworfen wurde. Obwohl handwerkliche Fehler im KI-generierten Code den flächendeckenden Erfolg der 2FA-Umgehung im konkreten Fall verhinderten, belegt der Fund die Existenz einer hohen Dunkelziffer paralleler KI-Entwicklungsprozesse.
- Staatliche APTs als KI-Pioniere: China und Nordkorea nutzen das Reasoning von KI-Modellen zur industriellen Schwachstellenforschung. Während die nordkoreanische APT45 KI zur automatisierten Validierung tausender Exploits einsetzt, nutzt die chinesische Gruppe UNC2814 simulierte Experten-Personas, um Hardware-Komponenten wie Router gezielt nach Zero-Days zu scannen.
- Autonome Agenten-Malware im Einsatz: Mit PROMPTSPY ist eine Android-Backdoor aktiv, die mittels KI selbstständig Benutzeroberflächen infizierter Geräte navigiert und Deinstallationsversuche aktiv blockiert. In Japan wurde zudem ein autonomes chinesisches Agenten-Tool beobachtet, das Infrastrukturen eines Technologiekonzerns permanent und ohne menschliches Zutun auf Schwachstellen penetriert.
- Informationskrieg und Supply-Chain-Diebstahl: Russische Kampagnen (Operation Overload) nutzen KI-Stimmenklonen, um Journalisten zu imitieren und Desinformationen in westlichen Medien zu platzieren. Parallel attackiert die Gruppe TeamPCP KI-Lieferkettenkomponenten (wie das Open-Source-Framework LiteLLM), um AWS-Schlüssel direkt aus Entwicklungsumgebungen zu entwenden.
Strategische Analyse Für CISOs und IT-Vorstände untermauert das Statement von Googles Chefanalyst John Hultquist eine unbequeme Wahrheit: Der KI-Sicherheitswettlauf ist keine Zukunftsvision, sondern operative Realität. Wenn staatliche Akteure und kriminelle Syndikate Open-Source-Frameworks wie OpenClaw adaptieren, um Angriffe in kontrollierten Umgebungen zu optimieren und KI-generierten Ködercode einzusetzen, um herkömmliche EDR-Scanner zu täuschen, kollabieren manuelle Verteidigungskonzepte. Ein menschliches Security Operations Center (SOC) kann in puncto Frequenz und Variantenreichtum nicht mehr mit KI-gesteuerten, autonomen Systemen konkurrieren. Die Verteidigung von Enterprise-Netzwerken muss folglich zwingend auf denselben Automatisierungs- und KI-Grad gehoben werden.
Handlungsempfehlung: Unternehmen müssen ihre Verteidigungsarchitektur auf KI-gestützte Zero-Day-Szenarien und autonome Angriffsmuster ausrichten.
- Einführung von KI-gestützter Verhaltensanalyse im SOC: Da KI-generierter Schadcode statische Signaturprüfungen und traditionelle Heuristiken durch Verschleierungstechniken (Ködercode) umgeht, müssen Unternehmen auf KI-native Security-Plattformen umstellen. Diese müssen in der Lage sein, anomale Verhaltensmuster von Anwendungen und Systemprozessen in Echtzeit zu erkennen – unabhängig davon, wie der zugrundeliegende Code strukturiert ist.
- Härtung der KI-Software-Lieferkette und Secrets Management: Angesichts der gezielten Attacken auf KI-Pipelines (z.B. LiteLLM) müssen Open-Source-Komponenten in der Softwareentwicklung kontinuierlich auditiert werden. Cloud-Zugangsdaten, API-Tokens und AWS-Schlüssel dürfen niemals im Klartext in Entwicklungsumgebungen hinterlegt sein, sondern müssen über dedizierte Secrets-Management-Systeme (wie HashiCorp Vault) dynamisch verwaltet und regelmäßig rotiert werden.
- Einsatz von KI-gestützten Code-Remediation-Tools: Um Schritt zu halten mit Angreifern, die KI zur Schwachstellensuche nutzen, sollten Organisationen in ihren DevSecOps-Pipelines generative Sicherheitswerkzeuge (analog zu Systemen wie Googles Big Sleep oder CodeMender) implementieren. Diese Tools identifizieren Softwarefehler während der Entwicklung autonom und patchen kritische Sicherheitslücken automatisiert, bevor sie von externen Modellen entdeckt werden können.
„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Market.“ Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200