Nutzer überschätzen Fähigkeit, Deepfakes zu erkennen

Anzeige

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen Bericht zum jährlichen Cybersicherheitsmonitor 2026 veröffentlicht. Die bereits vorliegenden Ergebnisse zeigen vor allem im Bereich Deepfakes eine erhebliche Diskrepanz.

Knapp die Hälfte der Befragten (47 %) gibt an, KI-generierte Inhalte als solche erkennen zu können – doch ein Drittel (32 %) hat noch nie eine einzige konkrete Maßnahme ergriffen, um ein Bild oder Video tatsächlich auf KI-Ursprung zu überprüfen. Diese Kluft zwischen wahrgenommener Kompetenz und tatsächlichem Verhalten ist einer der kritischsten Befunde des Berichts. Die Erhebung legte den Befragten elf konkrete Maßnahmen zur Erkennung KI-generierter Inhalte vor – von der Prüfung auf visuelle Unstimmigkeiten über die Quellenrecherche bis hin zur Rückwärts-Bildersuche oder der Nutzung spezialisierter Erkennungstools. Keine einzige dieser Maßnahmen wurde von mehr als der Hälfte der Bevölkerung jemals angewandt. Die am häufigsten genannte Methode – zu überlegen, ob eine dargestellte Szene realistisch ist – wurde von 40 Prozent der Befragten angegeben. Strukturiertere Überprüfungsschritte wie die Quellenprüfung (19 %) oder die Rückwärts-Bildersuche (10 %) waren deutlich seltener.

Vertrauen ohne Überprüfung

Aus einer Cybersicherheitsperspektive ist dieses Muster höchst besorgniserregend. Personen, die glauben, manipulierte Inhalte erkennen zu können, diese aber nicht aktiv verifizieren, sind in der Praxis stärker gefährdet als jene, die ihre eigene Unsicherheit einräumen. Ein falsches Gefühl der Kompetenz reduziert die Wachsamkeit. Es macht Betroffene weniger geneigt, innezuhalten, zu hinterfragen oder kritisch zu prüfen, wenn sie mit KI-generiertem Material konfrontiert werden – genau das Verhalten, auf das Angreifer setzen.

Der Bericht illustriert dies mit einem konkreten Beispiel: betrügerische Anlagemodelle, bei denen Deepfake-Videos prominenter Personen eingesetzt werden, um gefälschte Kryptowährungsprodukte zu bewerben. Laut BSI nutzen Täter dabei sowohl Inflationsängste bei Spareinlagen als auch eine allgemeine Unkenntnis über Finanzprodukte aus. Die Erhebung zeigt, dass unter denjenigen, die in Kryptowährung investiert hatten und anschließend feststellten, Opfer eines Betrugs geworden zu sein, zwei Drittel über Werbung im Internet auf das jeweilige Angebot aufmerksam geworden waren.

Geringes Bewusstsein für KI-gestützte Angriffsmethoden

Der Bericht zeigt darüber hinaus, dass das Bewusstsein für einige KI-bezogene Bedrohungen seit 2023 zwar gewachsen ist, das Wissen über technischere Angriffsvektoren aber weiterhin begrenzt bleibt. Deepfake-Videos und KI-generiertes Voice Cloning bei Schockanrufen sind der Mehrheit bekannt. Dass KI-Systeme selbst manipuliert werden können – etwa durch unsichtbare Anweisungen in Dokumenten, die ein KI-Programm zur Ausführung unbeabsichtigter Aktionen veranlassen – ist hingegen nur einer Minderheit bewusst. Das Bewusstsein dafür, wie KI für Betrug eingesetzt wird, ist demnach deutlich höher als die Einsicht darüber, dass KI-Systeme selbst angegriffen oder unterwandert werden können.

Die Ergebnisse bestätigen, was Fachleute für Security Awareness in der Praxis beobachten: Der Zugang zu Information allein verändert kein Verhalten. Das BSI veröffentlicht Checklisten zur Erkennung KI-generierter Bilder – und solche Ressourcen sind durchaus wertvoll. Doch es besteht ein qualitativer Unterschied zwischen dem reinen Wissen, dass eine Checkliste existiert, und der routinemäßigen Anwendung von Prüfschritten im digitalen Alltag. Um diese Lücke zu überbrücken, braucht es anstelle von einmaligen Sensibilisierungskampagnen viel mehr wiederholtes und strukturiertes Training, das Verhaltensgewohnheiten verlässlich aufbaut.

Organisationen sollten die Ergebnisse des BSI-Berichts als Anlass nehmen, ihren eigenen Umgang mit KI-bezogener Sicherheitsaufklärung zu überprüfen. Mitarbeitende sind KI-generierten Inhalten nicht nur im Privaten ausgesetzt, sondern zunehmend auch im beruflichen Kontext, beispielsweise über geschäftliche E-Mails, Social Media, Kollaborationsplattformen und Werbung. Eine Human-Risk-Management-Strategie, die realistische Simulationen KI-gestützter Social-Engineering-Angriffe umfasst und gezieltes, rollenspezifisches Training bietet, kann dazu beitragen, dass das Vertrauen in die eigene Erkennungsfähigkeit auf tatsächlicher Kompetenz beruht – nicht auf Annahmen.

Passende Artikel zum Thema

Gefährliche Selbstüberschätzung: BSI-Cybersicherheitsmonitor 2026 warnt vor Kontrollverlust bei Deepfakes

Fachliche Einordnung Die Fachplattform B2BCS ordnet die aktuellen Ergebnisse des Cybersicherheitsmonitors 2026 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) als besorgniserregenden Indikator für das menschliche Risiko (Human Risk) in Unternehmen ein. Die empirischen Daten des Berichts offenbaren eine massive Diskrepanz zwischen der gefühlten Medienkompetenz der Bevölkerung und dem tatsächlichen Prüfverhalten im Alltag. Diese psychologische Lücke – das unbegründete Vertrauen in die eigene Erkennungsfähigkeit – entwickelt sich im Jahr 2026 zu einem der effektivsten Hebel für KI-gestützte Social-Engineering-Angriffe.

Key-Takeaways

• Die Erkennungs-Illusion: Zwar trauen sich fast die Hälfte der Befragten (47 %) zu, KI-generierte Inhalte eigenständig zu entlarven, doch knapp ein Drittel (32 %) hat noch nie eine einzige aktive Überprüfung durchgeführt.
• Mangel an strukturierten Prüfroutinen: Technische Kontrollmechanismen werden in der Breite kaum angewendet. Während 40 Prozent lediglich rein intuitiv beurteilen, ob eine Szene realistisch wirkt, nutzen nur 19 Prozent eine gezielte Quellenprüfung und erschreckende 10 Prozent eine Rückwärts-Bildersuche. Keine der elf vom BSI vorgelegten Prüfmethoden wird von einer Mehrheit der Bevölkerung genutzt.
• Blinde Flecken bei KI-Manipulationen: Während visuelle Deepfakes und KI-Stimmenklonen im Kontext von Schockanrufen im Bewusstsein verankert sind, mangelt es an Verständnis für komplexere Vektoren. Das Risiko von Indirect Prompt Injections – bei denen KI-Systeme selbst durch manipulierte, unsichtbare Anweisungen in Dokumenten kompromittiert werden – ist einer breiten Mehrheit völlig unbekannt.
• Kryptobetrug als Musterbeispiel: Die Täter nutzen gezielt Inflationsängste und mangelndes Finanzwissen aus. Unter den Betrugsopfern, die über gefälschte Werbevideos mit prominenten Persönlichkeiten in Krypto-Scams gelockt wurden, gaben zwei Drittel an, über reguläre Internet-Werbung auf die betrügerischen Angebote gestoßen zu sein.

Strategische Analyse Für CISOs und Personalverantwortliche zertrümmert der BSI-Bericht den Glauben an klassische, einmalige Security-Awareness-Kampagnen. Ein Mitarbeiter, der fälschlicherweise glaubt, er könne manipulierte Audio- oder Videodateien „nach Gefühl“ erkennen, ist für ein Unternehmen gefährlicher als ein verunsicherter Mitarbeiter. Die unbegründete Gewissheit senkt die Wachsamkeit und führt dazu, dass im stressigen Arbeitsalltag wichtige Verifikationsschritte übersprungen werden. Da Angreifer KI-generierte Inhalte zunehmend über geschäftliche Kommunikationskanäle und soziale Netzwerke einschleusen, mutiert die rein intuitive Risikobewertung zur akuten Sicherheitslücke für die Corporate Governance.

Handlungsempfehlung: Unternehmen müssen ihre Awareness-Strategie von der reinen Informationsvermittlung auf ein kontinuierliches Verhaltens- und Habit-Training umstellen.

• Etablierung von festen Verifikations-Workflows: Ersetzen Sie vage Ratschläge durch verbindliche, standardisierte Prozesse bei ungewöhnlichen Transaktionen oder Anweisungen. Erhält ein Mitarbeiter beispielsweise eine vermeintliche Sprach- oder Videoanweisung der Geschäftsführung (z. B. zu einer dringenden Überweisung), muss zwingend ein zweiter, unabhängiger Bestätigungskanal (Out-of-Band-Verifikation via Telefonat auf eine bekannte Festnetznummer oder persönlicher Rückkanal) vorgeschrieben sein.
• Umstellung auf Human-Risk-Management (HRM) mit KI-Simulationen: Einmalige jährliche Schulungen oder das bloße Verteilen von BSI-Checklisten verändern kein digitales Verhalten. Unternehmen sollten auf moderne HRM-Plattformen setzen, die kontinuierliche, realistische Simulationen von Deepfake- und KI-Phishing-Angriffen in den Arbeitsalltag einstreuen. Nur durch regelmäßige, praktische Konfrontation mit der Bedrohung entwickeln Mitarbeiter die notwendige Routine, um Überprüfungsschritte wie die Quellenrecherche automatisiert anzuwenden.
• Erweiterung des Trainings auf KI-spezifische Angriffsvektoren: Da das Bewusstsein für Angriffe auf KI-Systeme (wie Prompt Injections) in der Belegschaft extrem gering ist, müssen Fachabteilungen, die täglich mit LLMs oder automatisierten Datenströmen arbeiten (z. B. HR, Finance, Entwickler), gezielt geschult werden. Mitarbeiter müssen lernen, dass importierte Dokumente oder externe Texteingaben schädliche, versteckte Prompts enthalten können, die das unternehmensinterne KI-System manipulieren.

„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“ Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200