Forscher haben rund 900.000 sogenannte AI Skills untersucht und dabei mehr als 25.000 verdächtige sowie gut 3.000 klar schadhafte Erweiterungen entdeckt. Cyberkriminelle können solche Add-ons missbrauchen, um KI-Agenten zu manipulieren, sensible Daten abzugreifen, Schadsoftware auszuführen oder Nutzungskosten auf ihre Opfer abzuwälzen.
AI Skills erweitern KI-Agenten um zusätzliche Fähigkeiten. Sie helfen den Systemen etwa dabei, Dokumente zu erstellen, Tabellen zu bearbeiten oder bestimmte Online-Dienste zu nutzen. Genau diese Funktion macht sie sicherheitsrelevant: Wenn ein Agent einen schadhaften oder manipulierten Skill lädt, kann dieser nicht nur Antworten beeinflussen, sondern auch Aktionen auslösen.
„AI Skills sind für Angreifer attraktiv, weil sie direkt in den Arbeitsablauf eines KI-Agenten eingreifen können. Ein manipulierter Skill kann einen Agenten dazu bringen, Daten preiszugeben, Schadsoftware nachzuladen oder dauerhaft anders zu handeln als vorgesehen“, erklärt Jiří Kropáč, Leiter des Threat Prevention Labs bei ESET. „Mit der wachsenden Verbreitung agentischer KI steigt deshalb auch das Risiko durch ungeprüfte Erweiterungen.“
Wenn KI-Agenten Zugriff auf Konten, Daten und Zahlungen erhalten
Viele KI-Agenten benötigen weitreichende Berechtigungen, um ihre Aufgaben auszuführen. Sie greifen auf Dateien, Konten, Anwendungen oder externe Dienste zu und können in bestimmten Szenarien auch Transaktionen anstoßen. Je mehr Rechte ein Agent erhält, desto größer ist der mögliche Schaden, wenn ein Skill manipuliert wurde oder aus einer unsicheren Quelle stammt.
Ein Beispiel aus der ESET Analyse ist der legitime Skill „Credit Claw“. Er ermöglicht KI-Agenten, Online-Käufe zu tätigen und ist von sich aus nicht schadhaft. Das Risiko entsteht durch den Zugriff auf Zahlungsprozesse: Wird ein KI-Agent zusammen mit einem solchen Skill korrumpiert, können Cyberkriminelle Waren und Dienste auf Kosten ihres Opfers einkaufen und für sich selbst beanspruchen.
Die ESET Forscher fanden weitere Skills, die Agenten für Aufgaben im Interesse der Angreifer einspannen konnten. In solchen Fällen können beispielsweise Kosten für API-Nutzung oder automatisierte Dienste beim Opfer anfallen. Besonders gefährliche Erweiterungen waren zudem in der Lage, Anmeldedaten zu stehlen, weiteren Schadcode herunterzuladen oder das Verhalten eines Agenten dauerhaft zu verändern.
Einfache Scanner-Skills ersetzen keine Sicherheitslösung
Nicht alle auffälligen Skills waren direkt schadhaft. Einige vermittelten Nutzern jedoch ein falsches Sicherheitsgefühl. Dazu zählten Erweiterungen, die als „Security Scanner“ beworben wurden und angeblich umfassenden Schutz vor Schadsoftware boten. Tatsächlich prüften sie lediglich Hashes, URLs oder IP-Adressen verdächtiger Dateien gegen Online-Datenbanken.
„Rein signaturbasierte Prüfungen reichen gegen moderne Cyberbedrohungen nicht aus. Sie erkennen vor allem bekannte Muster, stoßen aber bei neuen, veränderten oder gezielt verschleierten Angriffen schnell an Grenzen“, erklärt Kropáč. „Wer KI-Agenten nutzt, sollte sich daher nicht auf einfache Scanner-Skills verlassen, sondern auf etablierte Sicherheitslösungen setzen, die bekannte und unbekannte Bedrohungen erkennen können.“
Tipps für den sicheren Umgang mit KI-Agenten und AI Skills
KI-Agenten können Arbeitsabläufe erleichtern und Routineaufgaben automatisieren. Damit sie nicht zum Einfallstor für Angriffe werden, empfiehlt ESET Nutzern und Unternehmen folgende Maßnahmen:
- Berechtigungen begrenzen: KI-Agenten sollten nur auf Daten, Anwendungen und Konten zugreifen können, die sie für eine konkrete Aufgabe benötigen – insbesondere bei Zahlungsfunktionen, E-Mail-Konten, Cloud-Speichern und Unternehmensdaten.
- AI Skills sorgfältig prüfen: Erweiterungen sollten nur aus vertrauenswürdigen Quellen stammen. Unbekannte oder ungeprüfte Skills sollten nicht in produktiven Umgebungen eingesetzt werden.
- Sensible Daten schützen: Zugangsdaten, Finanzinformationen, personenbezogene Daten oder vertrauliche Unternehmensdokumente sollten nicht leichtfertig an KI-Agenten weitergegeben werden.
- KI-Anweisungen kritisch hinterfragen: Nutzer sollten Befehle, Code-Snippets oder Handlungsempfehlungen aus KI-generierten Hilfeseiten nicht ungeprüft ausführen. Angreifer können solche Inhalte gezielt manipulieren.
- Kritische Aktionen bestätigen lassen: Zahlungen, Rechteänderungen, Datei-Downloads, Code-Ausführung oder Sicherheitsanpassungen sollten nicht vollständig automatisiert erfolgen, sondern vor der Ausführung geprüft werden.
- AI Skills überprüfen: ESET stellt Nutzern den kostenfreien AI Skills Checker zur Verfügung, mit dem sich KI-Erweiterungen auf schadhaftes Verhalten untersuchen lassen.
Über ESET ESET ist ein europäisches Unternehmen mit Hauptsitz in Bratislava (Slowakei). Seit 1987 entwickelt ESET preisgekrönte Sicherheits-Software, die bereits über 100 Millionen Benutzern hilft, sichere Technologien zu genießen. Das breite Portfolio an Sicherheitsprodukten deckt alle gängigen Plattformen ab und bietet Unternehmen und Verbrauchern weltweit die perfekte Balance zwischen Leistung und proaktivem Schutz. Das Unternehmen verfügt über ein globales Vertriebsnetz in über 180 Ländern und Niederlassungen in Jena, San Diego, Singapur und Buenos Aires. Für weitere Informationen besuchen Sie www.eset.de oder folgen uns auf LinkedIn, Facebook und Twitter.