Bereits seit Jahresbeginn gab es mehr als 92.000 Malware-Angriffe, bei denen sich Schadsoftware oder ungewollte Anwendungen als bekannte KI-Dienste oder -Agenten wie ChatGPT (49 Prozent aller Attacken), Claude oder Gemini (jeweils 18 Prozent) tarnten. Mit im Gepäck gab es immer eine Malware – die Experten von Kaspersky haben über 15.000 Exemplare registriert.
KI erfreut sich sowohl bei Nutzern als auch Cyberkriminellen großer Beliebtheit; so tarnen Cyberkriminelle Schadsoftware gerne als legitime KI-Lösungen, Plugins oder Dienste. Ziel ist, das Vertrauen von Nutzern in bekannte Marken zu missbrauchen, um diese dazu zu verleiten, sensible Daten preiszugeben oder Malware zu installieren. Seit Jahresbeginn haben die Lösungen von Kaspersky mehr als 92.000 Malware-Angriffe erkannt, bei denen sich Schadsoftware als bekannte KI-Agenten und -Dienste ausgab, um Nutzer zum Download schädlicher Dateien zu verleiten. Fast die Hälfte aller registrierten Angriffe entfiel auf gefälschte ChatGPT-Anwendungen (49 Prozent), gefolgt von Claude und Gemini mit jeweils 18 Prozent.
15.000 Malware-Samples als KI-Software getarnt
Des Weiteren identifizierten die Experten von Kaspersky mehr als 15.000 Malware-Samples, die sich als KI-Software tarnten. Darunter befanden sich auch gefälschte Versionen schnell wachsender Tools wie OpenClaw. Nutzer, die diese Anwendungen herunterluden, riskierten eine Infektion mit Trojanern, Spyware, Banking-Malware, Exploits oder Malware-Downloadern, die weitere Schadsoftware nachladen konnten.
Gefälschte Claude-KI-Apps für Windows, macOS und Linux
Im Zuge ihrer Analysen entdeckten die Kaspersky-Experten im Mai zudem eine Kampagne, die mit der Advanced Persistent Threat (APT)-Gruppe Silver Fox in Verbindung steht. Die Angreifer verbreiteten gefälschte Claude-KI-Apps für Windows, macOS und Linux und nahmen zielgerichtet Nutzer ins Visier, die nach KI-Tools suchten. Nach dem Start installierten die manipulierten Installationsprogramme unbemerkt Malware auf den Geräten der Opfer und ermöglichten den Angreifern so langfristigen Zugriff auf kompromittierte Systeme und sensible Daten.
Rund um KI weitere Bedrohungen und Risiken
- Kompromittierung von Lieferketten: Sie zählt inzwischen zu den größten Risiken im Zusammenhang mit der Einführung von KI. Da Unternehmen zunehmend auf vernetzte KI-Ökosysteme angewiesen sind, kann bereits eine kompromittierte Komponente ganze Netzwerke gefährden und den Betrieb mehrerer Organisationen beeinträchtigen. Ein aktuelles Beispiel dafür ist die Kompromittierung von LiteLLM, einer weit verbreiteten Python-Bibliothek für den Zugriff auf KI-Modelle, die Berichten zufolge weltweit rund 97 Millionen Mal pro Monat heruntergeladen wird. In das Tool eingeschleuster Schadcode konnte Datenbankzugänge, Dateien von Kryptowährungs-Wallets und weitere sensible Informationen stehlen.
- „Malicious Skills“ auf dem Vormarsch: Kaspersky warnt vor einer wachsenden Bedrohung durch sogenannte „malicious skills“ – versteckte schädliche Funktionen, die in KI-Workflows eingebettet sind. Sie erscheinen häufig als legitime Plugins, Eingabeaufforderungen oder Erweiterungen, sind jedoch darauf ausgelegt, heimlich Daten zu exfiltrieren, Systeme auszuspähen oder Ergebnisse zu manipulieren.
- Unmittelbare Risiken durch KI-Systeme: Neben klassischen Bedrohungen wie Malware und Lieferkettenangriffen sehen sich Unternehmen zunehmend Risiken ausgesetzt, die direkt mit KI-Systemen verbunden sind. Dazu zählen Datenlecks, manipulierte oder verzerrte Datensätze, Datenvergiftungsangriffe, Prompt Injection sowie unvorhersehbares Modellverhalten oder Fehlfunktionen.
- Automatisierung erhöht das Risiko zusätzlich: Automatisierung erweitert zwar die Möglichkeiten von Unternehmen, erhöht jedoch gleichzeitig auch die Risiken. Denn Fehler von KI-Systemen können sich schnell skalieren, und automatisierte Entscheidungen werden mitunter ohne ausreichende Kontrolle getroffen. Experten betonen daher, dass der „Faktor Mensch“ weiterhin zu den größten Sicherheitsrisiken zählt. Dazu gehören unter anderem eine übermäßige Abhängigkeit von KI-Technologien, der Missbrauch von Systemen sowie mangelnde operative Wachsamkeit.
„Jede automatisierte Aktion wird Teil einer umfassenderen Kette aus Systemen und Datenaustausch. Sicherheit bedeutet daher nicht mehr nur den Schutz einzelner Endpunkte, sondern auch die Kontrolle darüber, wie Informationen, Berechtigungen und Entscheidungen in vernetzten KI-gesteuerten Prozessen weitergegeben werden“, so Dmitry Galov, Leiter des Global Research and Analysis Teams (GReAT) von Kaspersky für Russland und die GUS-Staaten.
Luana Lo Piccolo, Senior Advisor Tech Law, AI Governance und Digital Global Affairs, betont die Bedeutung klarer Governance-Rahmenwerke. Diese müssten eindeutig festlegen, in welchen Bereichen menschliche Aufsicht unverzichtbar bleibt und wer die Verantwortung trägt, wenn KI-Systeme schnell und in großem Maßstab agieren. „Da sich KI-Systeme von unterstützenden Assistenten zu autonomen Akteuren entwickeln, liegt die Herausforderung nicht mehr allein in der technischen Resilienz, sondern zunehmend in der verantwortungsvollen Gestaltung von Autonomie“, erklärte sie.
Mehr bei Kaspersky.com
Über Kaspersky Kaspersky ist ein internationales Cybersicherheitsunternehmen, das im Jahr 1997 gegründet wurde. Die tiefgreifende Threat Intelligence sowie Sicherheitsexpertise von Kaspersky dient als Grundlage für innovative Sicherheitslösungen und -dienste, um Unternehmen, kritische Infrastrukturen, Regierungen und Privatanwender weltweit zu schützen. Das umfassende Sicherheitsportfolio des Unternehmens beinhaltet führenden Endpoint-Schutz sowie eine Reihe spezialisierter Sicherheitslösungen und -Services zur Verteidigung gegen komplexe und sich weiter entwickelnde Cyberbedrohungen. Über 400 Millionen Nutzer und 250.000 Unternehmenskunden werden von den Technologien von Kaspersky geschützt. Weitere Informationen zu Kaspersky unter www.kaspersky.com/