Die DSGVO im KI-Zeitalter

Anzeige

Die Datenschutz-Grundverordnung (DSGVO) feierte ihren 10. Geburtstag. Am 25. Mai 2016 trat sie in Kraft, zwei Jahre später kam sie verbindlich zur Anwendung. Aus deutscher Sicht ist sie eine Erfolgsgeschichte, allerdings mit einer aktuellen Einschränkung.

Viele Maßnahmen zur Einhaltung des Datenschutzes für Unternehmen und Behörden sind etabliert: Die Verzeichnisse von Verarbeitungstätigkeiten nach Art. 30 sind Standard, Datenschutz-Folgenabschätzungen nach Art. 35 gehören zum Projektalltag und Meldeprozesse nach Art. 33 funktionieren in den meisten Konzernen reibungslos. Die besagte Einschränkung: Die technisch-organisatorischen Maßnahmen (TOM) nach Art. 32 – die sogenannte TOM-Dokumentation, die fast jede deutsche Organisation in irgendeiner Form pflegt – wurden überwiegend zwischen 2018 und 2022 verfasst. Die meisten dieser Dokumente sind handwerklich solide, aber es ist davon auszugehen, dass sie die nächste Prüfung nicht bestehen.

Der Grund liegt nicht in der Verordnung selbst, sondern darin, dass Art. 32 DSGVO mit einem Akteursmodell formuliert wurde, das mit dem breiten Einzug von Künstlicher Intelligenz vor anderthalb Jahren eigentlich aufgehört hat zu existieren.

Akteure mit gebundenem Verhalten

Art. 32 der DSGVO verlangt unter Berücksichtigung des Stands der Technik, der Implementierungskosten, der Art und des Umfangs der Verarbeitung die Umsetzung „geeigneter technischer und organisatorischer Maßnahmen“. Genannt werden beispielsweise Pseudonymisierung und Verschlüsselung (Abs. 1 lit. a), die Sicherstellung von Vertraulichkeit, Integrität, Verfügbarkeit und Belastbarkeit der Systeme (lit. b), die Wiederherstellung nach einem Zwischenfall (lit. c) sowie ein Verfahren zur regelmäßigen Überprüfung der Wirksamkeit (lit. d).

Anzeige

Alles an diesem Text setzt voraus, dass die Akteure, die auf personenbezogene Daten zugreifen, sich vorhersehbar und mit dokumentierter Zweckbindung verhalten. Sprich, Menschen mit benannter Rolle, Service-Accounts mit definierten Aufgaben oder Anwendungen mit klaren Funktionen. Auf dieser Basis lassen sich TOMs entwerfen und ihre Wirksamkeit regelmäßig überprüfen – weil die Akteure das tun, was die Architektur erlaubt, und sie nicht versuchen, sie zu umgehen.

Doch diese Voraussetzung gilt für autonome KI-Agenten nicht mehr. Ein Agent, der durch Prompt Injection manipuliert wurde, hält sich nicht an die Zweckbindung der Sitzung, in der er läuft. Eine RAG-Pipeline, die mehr Kontext aus dem Vektorspeicher zieht, als der Prompt erfordert, verletzt die Datenminimierung, ohne dass eine Policy-Verletzung dokumentiert wird. Ein Modell, das auf personenbezogenen Daten feinjustiert wurde, kann diese Daten in Antworten reproduzieren, ohne dass der nachgelagerte Verantwortliche merkt, wann das passiert. Die TOM-Dokumentation aus 2018 hat für all dies kein Vokabular.

Architektonisch belastbare Art. 32-Implementierung

Es ergeben sich drei konkrete Anforderungen, wenn man Art. 32 im Licht der KI-Realität von 2026 liest. Alle drei lassen sich technisch präzise formulieren und sind unterhalb der Modell- und Runtime-Schicht zu implementieren – denn alles, was oberhalb der Datenebene liegt, kann aktualisiert, ersetzt oder durch Prompt Injection beeinflusst werden. Das hat die Folge, dass der Nachweis verschwindet.

1. Authentifizierung gegen den menschlichen Nutzer, nicht gegen die Agent-Identität: Jede Software-Development-Kit-Operation (SDK) eines KI-Agenten mit personenbezogenen Daten muss an eine OAuth-2.0-Sitzung mit benannter natürlicher Person gebunden sein – nicht an einen Service-Account, dessen Berechtigungen „im Namen“ eines unbekannten Nutzers ausgeübt werden. Ein durch Prompt Injection manipulierter Agent kann keine Daten entnehmen, die er ohne menschliches Mandat nie erreichen dürfte. Das ist die Art. 32-konforme Übersetzung des Konzepts „autorisiertes Personal“ in die KI-Welt.

2. Autorisierung über attributbasierte Richtlinien (ABAC) statt rein rollenbasierter (RBAC) Modelle: Rollen entscheiden, ob ein Principal grundsätzlich auf einen Ordner zugreifen darf. Attribute – Klassifizierung des Dokuments, deklarierter Zweck der Sitzung, Jurisdiktion des Nutzers, Konsens der betroffenen Person – entscheiden, ob dieser Akteur auf dieses spezifische Dokument in diesem exakten Moment zugreifen darf. Das ist die operative Form, in der Art. 5 Abs. 1 lit. b („Zweckbindung“) und Art. 25 („Datenschutz durch Technikgestaltung“) in der KI-Welt durchsetzbar werden.

3. Manipulationssichere Audit-Trails, die das Modell überleben: Modelle werden zurückgezogen, ersetzt, neu trainiert. Wenn das Audit-Log auf der Modell- oder Runtime-Schicht liegt, verschwindet die Beweisgrundlage mit dem Modell. Art. 5 Abs. 2 der DSGVO verlangt aber genau diesen Beweis: Der Verantwortliche muss die Einhaltung „nachweisen können“ – auch drei Jahre später, wenn die ursprünglich beauftragte Verarbeitung längst durch andere Modelle ersetzt wurde. Eine Protokollierung, die Manipulation (Tamper-evident Logging) direkt an der Datenebene erkennt, löst dieses Problem.

Die Architektur kommt auf den Prüfstand

Die erste Dekade der DSGVO hat deutsche Organisationen gelehrt, TOM-Dokumente zu schreiben. Die zweite wird zum Test, ob die Architektur auch einlöst, was die Dokumente versprechen. Aktuelle Zahlen zeigen hier Handlungsbedarf: Laut einem aktuellen Report können 63 Prozent der Organisationen Zweckbeschränkungen für KI-Agenten nicht durchsetzen und 60 Prozent einen sich fehlverhaltenden Agenten nicht zeitnah terminieren. 55 Prozent sehen sich nicht imstande, KI-Systeme vom übrigen Netzwerkzugang zu isolieren. Nur 43 Prozent verfügen heute über eine zentralisierte AI-Governance-Schicht, ohne die die obigen Anforderungen architektonisch gar nicht prüfbar sind.

Jede dieser Lücken wird in einer DSGVO-Prüfung zu einer Feststellung nach Art. 32 – sofern der Prüfer die richtigen Fragen stellt, was bei den Aufsichtsbehörden zunehmend zu beobachten ist. Deshalb gilt: Es ist Zeit, die TOMs zu aktualisieren, bevor eine Aufsichtsbehörde es für die Unternehmen übernimmt.

Über Kiteworks

Kiteworks unterstützt Unternehmen dabei, Risiken beim Senden, Teilen, Empfangen und Nutzen privater Daten effektiv zu managen. Durch die Zentralisierung, Nachverfolgung und Absicherung sensibler Datenströme – sowohl innerhalb als auch außerhalb der Organisation – optimiert Kiteworks das Risikomanagement und gewährleistet die Einhaltung gesetzlicher Vorschriften bei jedem Datenaustausch. Mit regionalen Niederlassungen in Regensburg, Amsterdam und Zürich schützt Kiteworks über 100 Millionen Endanwender sowie mehr als 1.500 Großunternehmen und Regierungsbehörden weltweit.Über Kiteworks
Kiteworks unterstützt Unternehmen dabei, Risiken beim Senden, Teilen, Empfangen und Nutzen privater Daten effektiv zu managen. Durch die Zentralisierung, Nachverfolgung und Absicherung sensibler Datenströme – sowohl innerhalb als auch außerhalb der Organisation – optimiert Kiteworks das Risikomanagement und gewährleistet die Einhaltung gesetzlicher Vorschriften bei jedem Datenaustausch. Mit regionalen Niederlassungen in Regensburg, Amsterdam und Zürich schützt Kiteworks über 100 Millionen Endanwender sowie mehr als 1.500 Großunternehmen und Regierungsbehörden weltweit.

Passende Artikel zum Thema

KI-Agenten hebeln den Datenschutz aus: Warum herkömmliche TOM-Dokumentationen im Jahr 2026 versagen

Fachliche Einordnung Die Fachplattform B2BCS ordnet das 10-jährige Jubiläum der Datenschutz-Grundverordnung (DSGVO) im Sommer 2026 als technologischen Wendepunkt ein. Während administrative Pflichten wie Verzeichnisse von Verarbeitungstätigkeiten (Art. 30) oder Datenschutz-Folgenabschätzungen (Art. 35) in deutschen Unternehmen mittlerweile routiniert umgesetzt werden, droht bei den technisch-organisatorischen Maßnahmen (TOM) nach Art. 32 ein struktureller Kontrollverlust. Die Crux: Nahezu alle bestehenden TOM-Dokumentationen basieren auf einem veralteten Akteursmodell (Mensch, statische Anwendung oder definierter Service-Account) mit vorhersehbarem, regelbasiertem Verhalten. Der unkontrollierte Einzug autonomer KI-Agenten und dynamischer RAG-Pipelines (Retrieval-Augmented Generation) hebelt diese statischen Schutzkonzepte im Jahr 2026 komplett aus.

Key-Takeaways

• Das unberechenbare Verhalten von KI-Akteuren: Herkömmliche TOMs bieten kein Vokabular für KI-spezifische Risiken. Ein durch Prompt Injection manipulierter KI-Agent bricht die Zweckbindung einer Sitzung auf, während RAG-Pipelines unbemerkt die Datenminimierung verletzen, indem sie mehr sensible Kontexte aus Vektorspeichern ziehen als autorisiert. Zudem droht bei der Feinjustierung (Fine-Tuning) von Modellen die unkontrollierte Reproduktion personenbezogener Daten in den KI-Antworten.
• Architektur-Lücken in der Praxis: Die technologische Infrastruktur hinkt den rechtlichen Vorgaben hinterher. Aktuelle Erhebungen zeigen gravierende Defizite beim Management von KI-Systemen:
  • 63 % der Unternehmen können Zweckbeschränkungen für KI-Agenten nicht technisch durchsetzen.
  • 60 % sind nicht in der Lage, einen sich fehlverhaltenden Agenten in Echtzeit zu terminieren.
  • 55 % können KI-Systeme nicht wirksam vom restlichen Netzwerk isolieren.
  • Nur 43 % verfügen über eine zentralisierte AI-Governance-Schicht.
• Verschärfter Fokus der Aufsichtsbehörden: Die Datenschutzbehörden stellen zunehmend gezielte, tiefgründige Fragen zur technischen Governance von KI-Infrastrukturen. Vage Absichtserklärungen in Textform reichen bei DSGVO-Prüfungen im Jahr 2026 nicht mehr aus.

Strategische Analyse Für CISOs, Datenschutzbeauftragte und Compliance-Manager verdeutlicht die Analyse von Kiteworks, dass die reine Dokumentationsebene der DSGVO kollabiert, wenn die zugrundeliegende IT-Architektur die Einhaltung der Prinzipien nicht systemisch erzwingen kann. Da KI-Modelle und deren Laufzeitumgebungen (Runtimes) hochgradig dynamisch sind und durch geschickte Prompts kompromittiert werden können, muss der Schutz zwingend unterhalb dieser Schichten – direkt auf der Datenebene – verankert werden. Wer den Nachweis der Einhaltung von Zweckbindung und Datenminimierung (Art. 5 DSGVO) an die KI-Anwendung selbst delegiert, verliert im Ernstfall die Beweisgrundlage, sobald ein Modell ersetzt, modifiziert oder abgeschaltet wird.

Handlungsempfehlung: Unternehmen müssen ihre TOM-Dokumentation dringend aktualisieren und die Einhaltung von Art. 32 DSGVO durch KI-native Architekturmuster auf Datenebene absichern.

• Einführung von OAuth 2.0 für KI-Agenten: Stellen Sie sicher, dass jede SDK-Operation und jeder Datenzugriff eines KI-Agenten zwingend an die aktive Sitzung und das mathematische Mandat des anfragenden menschlichen Nutzers gebunden ist. Verhindern Sie den Einsatz generischer Service-Accounts, die „im Namen von Dritten“ unbegrenzte Rechte besitzen. Ein korrumpierter Agent darf niemals Zugriff auf Daten erhalten, die der menschliche Nutzer selbst nicht sehen dürfte.
• Wechsel zu attributbasierter Zugriffskontrolle (ABAC): Ergänzen Sie klassische, rollenbasierte Modelle (RBAC). KI-Systeme benötigen granulare ABAC-Richtlinien, die den Zugriff in Echtzeit anhand von Variablen wie der Datenklassifizierung, dem deklarierten Verwendungszweck, der Benutzer-Jurisdiktion und dem expliziten Konsens der betroffenen Person dynamisch prüfen und autorisieren.
• Etablierung manipulationssicherer Audit-Trails auf Datenebene: Implementieren Sie ein plattformunabhängiges, manipulationssicheres Logging (Tamper-evident Logging) direkt auf der Datenspeicherschicht. Nur so bleibt die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO auch dann über Jahre hinweg revisionssicher erfüllt, wenn die genutzten KI-Modelle oder Runtime-Umgebungen in der Zwischenzeit gelöscht oder durch neuere Generationen ersetzt wurden.

„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“ Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200