Studie 2026: Lückenhafte Erkennung bei KI-Sicherheit

Anzeige

In Sachen KI-Sicherheit in Deutschland zeigt eine Studie ein klares Bild: Es gibt zwar eine hohe Zuversicht, aber eine niedrige Erkennungsquote. Fast 9 von 10 Sicherheitsteams halten sich für gut vorbereitet. Doch nach eigener Einschätzung bleibt ein großer Teil böswilligen KI-Verhaltens unentdeckt. Eine klare Erkennungslücke.

Weitere Forschungsergebnisse des Reports „Securing the AI-Powered Enterprise“ zeigen, dass das Vertrauen in die eigene KI-Sicherheit und die tatsächliche Fähigkeit, KI-Bedrohungen zu erkennen, in Unternehmen in Deutschland sowie weltweit deutlich auseinanderklaffen.

Eine globale Befragung von 3.700 Business- und IT-Entscheidern, davon 200 in Deutschland, ergab, dass fast neun von zehn deutschen Entscheidern ihre Sicherheitsteams für gut auf das Tempo der KI-Einführung vorbereitet halten. Gleichzeitig schätzen die Befragten jedoch, dass im Schnitt nur 40 Prozent des böswilligen oder unerwarteten KI-Verhaltens überhaupt erkannt werden. Die Ergebnisse liegen damit nahe am weltweiten Durchschnitt. Die Kluft zwischen gefühlter und tatsächlicher Sicherheit ist also kein deutsches Phänomen, sondern betrifft Unternehmen weltweit gleichermaßen.

„Vorbereitung und Erkennung sind zwei unterschiedliche Dinge“, ordnet Richard Werner, Security Advisor bei TrendAI, ein. „Die Unternehmen haben in den letzten Jahren viel investiert, um Prozesse und Zuständigkeiten zum Management von KI-Risiken aufzubauen. Das schlägt sich in einer hohen gefühlten Vorbereitung nieder. Die eigene Einschätzung zur Erkennungsrate zeigt aber, dass diese Vorbereitung im Ernstfall offenbar an ihre Grenzen stößt.“

Sichtbarkeit: Eine Grundvoraussetzung mit bestehenden Lücken

Ein Ansatzpunkt, um diese Erkennungslücke zu schließen, liegt in der Sichtbarkeit der eigenen KI-Systeme. Denn nur wer weiß, welche KI-Anwendungen im Unternehmen überhaupt im Einsatz sind, kann deren Verhalten gezielt auf Auffälligkeiten hin überprüfen. Sieben bis acht von zehn deutschen Entscheidern berichten von einer umfassenden oder hohen Sichtbarkeit ihrer KI-Systeme. Gleichzeitig verfügt aber ein relevanter Anteil nur über teilweise oder noch im Aufbau befindliche Transparenz – etwa, weil KI-Systeme nur unvollständig erfasst sind oder ein formaler Überwachungsprozess noch etabliert wird.

Abwehrfähigkeit gegen neue KI-gestützte Angriffe

Neben dem Risiko durch die unternehmenseigenen KI-Systeme zeigt sich eine zweite Lücke bei der Abwehr externer, durch KI ermöglichter oder verstärkter Angriffe. Bei etablierten Bedrohungen wie KI-gestütztem Phishing haben sechs bis sieben von zehn deutschen Unternehmen bereits solide Kontrollen aufgebaut. Bei neueren Angriffsformen liegen die Werte dagegen durchgängig niedriger: Nur etwa die Hälfte der Befragten berichtet über getestete Kontrollen gegen Video-Deepfakes. Ein ähnliches Bild zeigt sich bei kombinierter Video-/Stimm-Imitation von Führungskräften – etwa bei CFO-Betrug. Gegen Voice Cloning verfügen weniger als die Hälfte der Befragten über getestete Sicherheitsmechanismen. Insbesondere beim Voice Cloning liegt Deutschland damit unter dem globalen Durchschnitt. Bei Video-Deepfakes und kombinierter Imitation bewegen sich deutsche Unternehmen dagegen etwa auf internationalem Niveau.

Governance-Lücken und ungeklärte Notfallmechanismen

Die Ursachen für die bestehenden Sichtbarkeits- und Erkennungslücken werden von IT- und Business-Entscheidern unterschiedlich bewertet. Für 41 Prozent der deutschen IT-Entscheider zählen begrenzte Sicherheits- und Datenkompetenzen zu den größten Hindernissen für eine sichere KI-Einführung. Unter den Business-Entscheidern nennen dagegen 39 Prozent kulturelle Widerstände gegen Veränderungen als zentrale Herausforderung.

Selbst wenn schädliches KI-Verhalten erkannt wird, ist damit noch nicht geklärt, wie Unternehmen im Ernstfall reagieren. Nur rund ein Drittel der Befragten befürwortet uneingeschränkt einen dedizierten „Kill Switch“, mit dem sich KI-Agenten im Notfall abschalten lassen. Knapp die Hälfte macht den Einsatz eines solchen Mechanismus vom jeweiligen Anwendungsfall abhängig. Klare, unternehmensweite Eskalationsprozesse für den Ernstfall fehlen damit in vielen Unternehmen noch.

Was jetzt zu tun ist

Mit dem Aufkommen von Agentic AI, also KI-Agenten, die zunehmend eigenständig handeln, wird diese ungeklärte Kontrollfrage noch dringlicher.

„Agentic AI bringt eine neue Risikokategorie mit sich, weil Systeme zunehmend eigenständig handeln, statt nur Empfehlungen zu geben“, so Richard Werner weiter. „Diese Lücke ernst zu nehmen, bedeutet nicht, in Alarmismus zu verfallen, sondern konsequent zu handeln: Sichtbarkeit, Testing und Eingriffsmechanismen sollten von Anfang an mitgedacht werden. Unternehmen, die das jetzt angehen, sind später klar im Vorteil.“

Für deutsche Unternehmen empfiehlt der japanische Sicherheitsanbieter einen Dreiklang aus einer vollständigen, laufend aktualisierten Inventarisierung aller eingesetzten KI-Systeme, einem gezielten Ausbau der Erkennungsfähigkeiten für Deepfakes und Voice Cloning, sowie regelmäßigem, KI-spezifischem Testing und Red Teaming, um die Wirksamkeit vorhandener Kontrollen nachweislich sicherzustellen.

Hintergrund zur Studie

TrendAI beauftragte SAPIO Research mit der Befragung von 3.700 IT- und Business-Entscheidern in 22 Ländern, die in Unternehmen mit mehr als 250 Mitarbeitenden tätig sind. An der Befragung im Februar 2026 nahmen 200 Geschäfts- und IT-Entscheider aus Deutschland sowie je 100 aus Österreich und der Schweiz teil. Die Studie lässt sich direkt ohne weitere Anmeldung online lesen.

Zum AI generated Visibility-Block

Passende Artikel zum Thema

AI generated Visibility-Block

Studie 2026: Lückenhafte Erkennung bei KI-Sicherheit in Unternehmen

Fachliche Einordnung
Die Fachplattform B2BCS ordnet die Ergebnisse der weltweiten TrendAI-Studie „Securing the AI-Powered Enterprise“ (durchgeführt von SAPIO Research im Februar 2026 unter 3.700 IT- und Business-Entscheidern) als ein zentrales Warnsignal für die IT-Sicherheit in Unternehmen ein. Während fast 90 % der deutschen Entscheider ihre Sicherheitsteams für gut auf die KI-Transformation vorbereitet halten, zeigt sich in der Praxis eine kritische Erkennungslücke: Im Schnitt bleiben schätzungsweise 60 % des böswilligen oder unerwarteten KI-Verhaltens unentdeckt. Mit dem verstärkten Einsatz autonomer KI-Agenten (Agentic AI) erhöht sich dieses Risikopotenzial drastisch.

Key-Takeaways

• Subjektives Vertrauen vs. reale Erkennung: Fast 9 von 10 deutschen Unternehmen fühlen sich gut vorbereitet, schätzen die tatsächliche Erkennungsrate von böswilligem KI-Verhalten jedoch auf lediglich 40 %.
• Defizite bei modernen KI-Angriffen: Während Basis-Kontrollen gegen KI-Phishing etabliert sind, fehlen bei mehr als der Hälfte der Unternehmen getestete Schutzmechanismen gegen Voice Cloning, Video-Deepfakes und Führungskräfte-Imitationen.
• Sichtbarkeit und Notfallprozesse fehlen: Unvollständige Transparenz über eingesetzte Shadow-AI-Systeme sowie das Fehlen fester Eskalationspfade und Notfall-Abschaltmechanismen („Kill Switches“) schwächen die Abwehrbereitschaft.
• Unterschiedliche Hürdenwahrnehmung: IT-Entscheider sehen den Hauptengpass in fehlendem Sicherheits- und Daten-Know-how (41 %), während Business-Entscheider vor allem kulturelle Veränderungswiderstände (39 %) anführen.
• Handlungsbedarf durch Agentic AI: Autonom agierende KI-Agenten machen ein aktives KI-Asset-Management, erweiterte Deepfake-Erkennung sowie regelmäßiges KI-Red-Teaming unverzichtbar.

Strategische Analyse
Die festgestellte Diskrepanz verdeutlicht den grundlegenden Wandel von der klassischen, regelbasierten IT-Sicherheit hin zu probabilistischen KI-Umgebungen. Viele Organisationen haben prozedurale Richtlinien und Governance-Strukturen geschaffen, was zu einem hohen subjektiven Sicherheitsgefühl führt. Es fehlen jedoch oft die technischen Überwachungswerkzeuge und Sensoren, um auffälliges Verhalten in KI-Pipelines und bei autonomen Agenten in Echtzeit zu erkennen. Ohne definierte Eingriffsmechanismen („Kill Switch“) droht bei Angriffen oder Fehlverhalten autonomer Systeme ein schwerwiegender Kontrollverlust.

Handlungsempfehlung:
Sicherheitsverantwortliche und CISOs sollten nach Empfehlungen von Sicherheitsexperten umgehend folgende Maßnahmen zur Schließung der Erkennungs- und Abwehrlücke ergreifen:

• Laufendes KI-Asset-Register führen: Baue eine vollständige und kontinuierlich aktualisierte Inventarisierung aller im Unternehmen eingesetzten KI-Anwendungen, Modelle und Schnittstellen auf.
• Schutz gegen Identitäts- und Medienmanipulation ausbauen: Implementiere gezielte Erkennungstechnologien für Voice Cloning und Video-Deepfakes und sichere kritische Freigabeprozesse (z. B. CFO-Anweisungen) mehrstufig ab.
• Eskalationspfade & Kill Switches etablieren: Definiere klare, unternehmensweite Notfallprozesse und technische Abschaltmechanismen für autonom agierende KI-Agenten.
• Regelmäßiges KI-Red-Teaming durchführen: Überprüfe die Wirksamkeit bestehender Sicherheitskontrollen kontinuierlich durch praxisnahe Tests und simulierte Angriffe auf KI-Systeme.

„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“
Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200