KI/ML-Tools sind beliebt, so die Ergebnisse eines aktuellen Threat Reports. Die verstärkte Nutzung bringt aber auch Sicherheitsrisiken mit sich. Cyberkriminelle mißbrauchen KI/ML-Tools wie DeepSeek und Agentic AI als Waffe. Der Bericht deckt reale Bedrohungsszenarien von KI-gestütztem Phishing bis hin zu gefälschten KI-Plattformen auf.
Der Bericht hebt hervor, dass die Nutzung von KI/ML-Tools in Unternehmen im Vergleich zum Vorjahr um mehr als 3.000 Prozent gestiegen ist und verdeutlicht die rasche Einführung von KI-Technologien in allen Branchen, um Produktivitäts-, Effizienz- und Innovationsvorteile zu erschließen. Unternehmen haben im Untersuchungszeitraum mit insgesamt 3.624 TB erhebliche Datenmengen an KI-Tools gesendet. Dadurch wird transparent, wie stark diese Technologien in den Betrieb Einzug gehalten haben.
Sicherheitsanforderungen oft nicht im Blick
Die zunehmende Akzeptanz geht allerdings auch mit erhöhten Sicherheitsanforderungen einher. Die hohe Anzahl von 59,9 Prozent blockierter KI/ML-Transaktionen verdeutlicht, dass sich Unternehmen der potenziellen Risiken von KI/ML-Tools bewusst sind, einschließlich Datenlecks, unbefugtem Zugriff und Compliance-Verstößen. Bedrohungsakteure nutzen KI ebenfalls zunehmend, um die Raffinesse, Geschwindigkeit und Auswirkung von Angriffen zu potenzieren – was Unternehmen dazu zwingt, ihre Sicherheitsstrategien zu überdenken.
„KI transformiert brachenübergreifend Geschäftsprozesse und schafft neue und unvorhergesehene Sicherheitsherausforderungen“, sagt Deepen Desai, Chief Security Officer bei Zscaler. „Daten sind das Gold für KI-Innovationen und deren Sicherheit erfordert einen bewussten Umgang mit den Tools. Die Zero Trust Exchange-Plattform von Zscaler durchlaufen täglich mehr als 500 Billionen Signale als Datenbasis für Echtzeiteinblick in Bedrohungen, Informationen und Zugriffsmuster. Dieses Transaktionsvolumen bildet die Grundlage für die sichere Nutzung der transformativen Fähigkeiten von KI und trägt gleichzeitig zur Risikominimierung bei. Zero Trust Everywhere ist der Schlüssel, um mit der sich weiterentwickelnden Bedrohungslandschaft Schritt zu halten, in einer Zeit, in der KI ebenfalls für die Skalierung von Angriffen eingesetzt wird.“
Die Ergebnisse des ThreatLabz 2025 AI Security Reports im Überblick:
ChatGPT auf Platz eins der KI/ML-Tools
ChatGPT hat sich als die am weitesten verbreitete KI/ML-Anwendung etabliert und war für 45,2 Prozent der KI/ML-Transaktionen weltweit in der Zscaler Zero Trust Exchange verantwortlich. Es handelt sich jedoch auch um das am häufigsten geblockte Tool, da Unternehmen zunehmend Bedenken hinsichtlich der Offenlegung sensibler Daten und einer nicht genehmigten Nutzung haben. Zu weiteren sanktionierten Anwendungen gehören Grammarly, Microsoft Copilot, QuillBot und Wordtune. All diese Tools deuten auf das Anwendungsfeld für KI-gestützte Inhaltserstellung und Produktivitätssteigerung hin.
Kriminelle mißbrauchen KI für ihre Angriffe
KI trägt zur vereinfachten Erstellung von Cyberbedrohungen bei und der Einsatz von agentenbasierter KI sowie das Open-Source Tool DeepSeek erleichtern das Skalieren von Angriffen. DeepSeek hat 2025 amerikanische Giganten wie OpenAI, Anthropic und Meta herausgefordert und die KI-Entwicklung mit hoher Leistungsfähigkeit, offenem Zugang und niedrigen Kosten aufgemischt. Solche Fortschritte bringen jedoch auch erhebliche Sicherheitsrisiken mit sich.
USA und Indien führend im KI-Einsatz
In den Vereinigten Staaten und in Indien wurden die höchsten KI/ML-Transaktionsvolumen erzielt, was den weltweiten Wandel hin zu KI-gesteuerten Innovationen verdeutlicht. Diese Veränderungen vollziehen sich jedoch nicht in einem Vakuum, und Unternehmen in solchen Regionen sind mit zunehmenden Herausforderungen wie strengen Compliance-Anforderungen, hohen Implementierungskosten und einem Mangel an qualifizierten Mitarbeitenden konfrontiert.
Finanz- und Versicherungswesen zählt zu den Top-Adoptern
Auf den Finanz- und Versicherungssektor entfielen 28,4 Prozent aller KI/ML-Aktivitäten in Unternehmen. Dies spiegelt die breite Nutzung in diesen Branchen wider und ist ein Hinweis auf die kritischen Funktionen im Bereich der Betrugserkennung, Risikomodellierung und Automatisierung des Kundendienstes. An zweiter Stelle steht das verarbeitende Gewerbe mit 21,6 Prozent der Transaktionen, was auf Innovationen in der Optimierung der Lieferkette und der Automatisierung der Robotik hindeutet. Auch der Dienstleistungssektor (18,5 Prozent), der Technologiesektor (10,1 Prozent) und das Gesundheitswesen (9,6 Prozent) setzen verstärkt auf KI. Dabei ist jede Branche mit einzigartigen Sicherheits- und Regulierungsherausforderungen konfrontiert, die sich möglicherweise auf die Gesamtrate der Einführung auswirken.
Zero Trust Everywhere mit Zscaler
Die Zscaler Security Cloud basiert auf einer echten Zero Trust-Architektur und bietet Zero Trust Everywhere, indem es die Kommunikation von Usern, Workloads und IoT/OT anhand von Geschäftsrichtlinien und nicht von Netzwerkrichtlinien sichert. Zscaler entschärft KI-gestützte Bedrohungen, indem es Anwendungen und IP-Adressen vor Angreifern verbirgt, den gesamten Datenverkehr auf Bedrohungen untersucht und sicherstellt, dass User nur auf autorisierte Anwendungen zugreifen – niemals auf komplette Netzwerke. Dieser Ansatz minimiert die Angriffsfläche, verhindert seitliche Bewegungen und stoppt Bedrohungen, bevor sie Schaden anrichten können. Zscaler schützt seine User vor modernen KI-gesteuerten Bedrohungen durch die folgenden Maßnahmen:
- Zero Trust als Grundlage: Minimierung der externen Angriffsfläche durch kontinuierliche Überprüfung und Vergabe der geringstmöglichen Zugriffsrechte auf Anwendungen.
- Echtzeiteinblick durch KI: Vorhersagende KI kommt zum Einsatz und generiert verwertbare Erkenntnisse, die den Sicherheitsbetrieb und die digitale Leistung verbessern.
- Datenklassifizierung: KI-gesteuerte Klassifizierung der Datenbestände zur nahtlosen Erkennung und Sicherung sensibler Daten in der Data Fabric von Zscaler.
- Schutz vor Bedrohungen: Blocken von KI-gestützten Bedrohungen durch kontinuierliche Überwachung und Reaktion auf der Grundlage der Zscaler Zero Trust Exchange.
- App-Segmentierung: Seitwärtsbewegungen werden eingeschränkt und tragen zur Reduzierung der internen Angriffsfläche durch KI-gesteuerte, automatische App-Segmentierung bei.
Vorhersage von Sicherheitsverletzungen: Zscaler Breach Predictor kombiniert die Leistung von generativer KI und mehrdimensionalen Vorhersagemodellen. - Cyber Risiko-Bewertungen: Einsatz von KI-generierten Sicherheitsreports zur kontinuierlichen Optimierung der Zero Trust-Implementierung.
Methodik
Analysiert wurden insgesamt 536,5 Milliarden KI- und ML-Transaktionen in der Zscaler Cloud von Februar 2024 bis Dezember 2024. Die globale Sicherheits-Cloud von Zscaler verarbeitet täglich über 500 Billionen Signale, blockiert neun Milliarden Bedrohungen und Richtlinienverstöße pro Tag und liefert täglich über 250.000 Sicherheitsupdates.
Mehr bei Zscaler.com
Über Zscaler Zscaler beschleunigt die digitale Transformation, damit Kunden agiler, effizienter, widerstandsfähiger und sicherer werden können. Zscaler Zero Trust Exchange schützt Tausende von Kunden vor Cyberangriffen und Datenverlusten, indem es Nutzer, Geräte und Anwendungen an jedem Standort sicher verbindet. Die SSE-basierte Zero Trust Exchange ist die weltweit größte Inline-Cloud-Sicherheitsplattform, die über mehr als 150 Rechenzentren auf der ganzen Welt verteilt ist.