Schwachstelle bei ChatGPT

Anzeige

Die Sicherheitsforscher von Check Point Research haben eine bislang unbekannte Sicherheitslücke aufgedeckt, die es ermöglichte, sensible ChatGPT-Konversationsdaten unbemerkt – ohne Wissen oder Zustimmung der Nutzer – abzusaugen. Inzwischen hat OpenAI die Lücke geschlossen.

Die entdeckte Schwachstelle zeigt, KI-Plattformen müssen wie Cloud- und Computing-Infrastruktur behandelt werden. Die integrierte Sicherheit beseitigt Risiken nicht. Unternehmen können sich nicht blind auf die Kontrollen der Anbieter verlassen. Sie müssen selbst für den Schutz von Daten sorgen, auf die innerhalb der Umgebung eines KI-Anbieters zugegriffen wird und die dort verarbeitet oder generiert werden. Wichtige Erkenntnisse aus der Untersuchung

• Eine einzige böswillige Eingabeaufforderung konnte eine ChatGPT-Session heimlich in einen Kanal zur Datenexfiltration verwandeln.
• Sensible Eingaben – und sogar von der KI generierte Zusammenfassungen und Schlussfolgerungen – konnten ohne Vorwarnung oder Zustimmung des Benutzers nach außen gelangen.
• Der Angriff nutzte einen versteckten DNS-basierten Kommunikationspfad aus und umging so sichtbare KI-Sicherheitsvorkehrungen.
• Benutzerdefinierte GPTs könnten diese Logik einbetten und so ein einmaliges Risiko in eine skalierbare Bedrohung verwandeln.
• Derselbe Pfad ermöglichte die Ausführung von Remote-Befehlen innerhalb der Laufzeitumgebung von ChatGPT.
• OpenAI hat das Problem vollständig behoben, wobei keine Hinweise auf eine Ausnutzung vorliegen.

Sind KI-Tools standardmäßig wirklich sicher?

Diese Untersuchung stellt eine weit verbreitete und riskante Annahme in Frage: dass KI-Tools standardmäßig sicher sind. Nutzer laden täglich sensible Informationen in ChatGPT hoch – Kundendaten, Finanzunterlagen, medizinische Akten, interne Dokumente –, oft ohne darüber nachzudenken, wohin diese Daten fließen könnten oder wie sie hinter den Kulissen geschützt sind. Die Schwachstelle war nicht das Ergebnis von unachtsamer Nutzung oder Fehlkonfiguration. Sie entstand aus einer Lücke in der Infrastruktur, wo sich KI-Sicherheitsvorkehrungen auf Richtlinien und Absichten konzentrierten, während die zugrunde liegende Ausführungsumgebung unerwartetes Verhalten ermöglichte. In einem KI-gesteuerten Workflow sind ihre Daten nur so sicher wie das schwächste Glied im KI-Stack.

CISOs im Gesundheitswesen, im Finanzdienstleistungssektor und in der öffentlichen Verwaltung müssen KI-Plattformen als Teil ihres regulierten Umfelds behandeln, nicht als Verbraucheranwendungen, die außerhalb bestehender Kontrollen operieren. Auf Branchenebene signalisiert diese Untersuchung etwas grundlegend Neues im KI-Zeitalter. KI-Plattformen sind nicht mehr nur Softwareprodukte – sie sind vollwertige Ausführungsumgebungen. Ihre Absicherung erfordert ein Umdenken in der Sicherheitsarchitektur, nicht nur das Hinzufügen eines weiteren Tools oder das Patchen einzelner Schwachstellen.

Wendepunkt für die KI-Sicherheit

Diese Erkenntnis verdeutlicht ein tieferes Problem: KI-Plattformen entwickeln sich schneller, als die meisten Sicherheitsteams Risiken realistisch einschätzen können. Die Herausforderung lautet nicht mehr, ob es eine Schwachstelle gibt, sondern ob Unternehmen so aufgebaut sind, dass sie KI-Risiken zeitnah bewältigen können. Die Botschaft ist klar: Unternehmen müssen ihre Sicherheitsstrategie für das KI-Zeitalter neu justieren. Mehrschichtige Verteidigung, unabhängige Validierung und kontinuierliche Überwachung sind unerlässlich und keine Option mehr.

Eli Smadja, Head of Research bei Check Point Research kommentiert wie folgt: „Das Beispiel untermauert eine bittere Wahrheit für das KI-Zeitalter: Man sollte nicht davon ausgehen, dass KI-Tools von Haus aus sicher sind. Da sich KI-Plattformen zu vollwertigen Compute-Umgebungen entwickeln, die unsere sensibelsten Daten verarbeiten, reichen native Sicherheitskontrollen allein nicht mehr aus. Unternehmen benötigen unabhängige Transparenz und einen mehrschichtigen Schutz zwischen sich und den KI-Anbietern. Nur so kommen wir sicher voran – indem wir die Sicherheitsarchitektur für KI neu überdenken, anstatt auf den nächsten Vorfall zu reagieren.“

Passende Artikel zum Thema

Headline: Datenexfiltration über DNS – Check Point Research entdeckt gravierende Schwachstelle in ChatGPT

Fachliche Einordnung: Die Plattform B2BCS analysiert eine signifikante Entdeckung der Sicherheitsforscher von Check Point Research (CPR). Diese deckten eine bis dato unbekannte Schwachstelle in ChatGPT auf, die das unbemerkte Absaugen sensibler Konversationsdaten ohne das Wissen oder die Zustimmung der Nutzer ermöglichte. Laut der bei B2BCS zitierten Expertise von Eli Smadja (Check Point Research) müssen KI-Plattformen heute wie vollwertige Compute- und Cloud-Infrastrukturen behandelt werden, bei denen native Sicherheitskontrollen der Anbieter allein nicht mehr ausreichen. OpenAI hat die Lücke nach der Benachrichtigung vollständig geschlossen; Hinweise auf eine aktive Ausnutzung liegen nicht vor.

Key-Takeaways:

• Heimliche Datenexfiltration: Eine einzige manipulierte Eingabeaufforderung (Prompt) genügte, um eine ChatGPT-Sitzung unbemerkt in einen Kanal zum Datenabfluss zu verwandeln.
• Umfang der Kompromittierung: Sowohl die sensiblen Eingaben der Nutzer als auch die von der KI generierten Zusammenfassungen und Schlussfolgerungen konnten ohne Warnung nach außen geleitet werden.
• Bypass über DNS-Tunneling: Der Angriff nutzte einen versteckten, DNS-basierten Kommunikationspfad, wodurch die sichtbaren KI-Sicherheitsbarrieren komplett umgangen wurden.
• Skalierbares Risiko durch Custom GPTs: Die Logik des Angriffs ließ sich in benutzerdefinierte GPTs einbetten, was die Bedrohung von einem Einzelfall in ein skalierbares Angriffsmodell transformieren konnte.
• Remote Code Execution (RCE): Derselbe Kommunikationspfad erlaubte zudem die Ausführung von Remote-Befehlen innerhalb der eigentlichen Laufzeitumgebung von ChatGPT.
• Infrastrukturelles Defizit: Die Schwachstelle resultierte nicht aus Fehlkonfigurationen der Anwender, sondern aus einer Lücke in der Ausführungsumgebung des Anbieters, die unerwartetes Verhalten zuließ.

Strategische Analyse: Die Entdeckung von Check Point Research markiert einen Wendepunkt für die KI-Sicherheit in Unternehmen. Die weit verbreitete Annahme, dass führende KI-Tools standardmäßig und inhärent sicher sind, ist damit widerlegt. Da Mitarbeiter täglich sensible Kundendaten, Finanzunterlagen oder interne Dokumente in GenAI-Plattformen einspeisen, entsteht durch solche Infrastrukturlücken ein weitgehend unsichtbares Risiko der Datenpreisgabe. KI-Plattformen sind keine bloßen Softwareanwendungen mehr, sondern komplexe, dynamische Laufzeitumgebungen.

Für CISOs – insbesondere in regulierten Branchen wie dem Gesundheitswesen, dem Finanzsektor und der öffentlichen Verwaltung – ergeben sich daraus dringende strategische Konsequenzen:

1. Neujustierung der Sicherheitsarchitektur: KI-Dienste dürfen nicht länger außerhalb bestehender Kontrollstrukturen operieren. Sie müssen vollumfänglich in das regulierte IT-Umfeld des Unternehmens integriert werden.

2. Mehrschichtige Verteidigung (Defense-in-Depth): Unternehmen dürfen sich nicht blind auf die nativen Sicherheitskontrollen der KI-Anbieter verlassen. Es müssen unabhängige Überwachungssysteme und Sicherheitsfilter (z. B. KI-Firewalls oder Data Loss Prevention für Prompts) zwischengeschaltet werden.

3. Kontinuierliche Validierung: Da sich KI-Technologien schneller entwickeln, als Standard-Risikobewertungen Schritt halten können, sind eine kontinuierliche Echtzeit-Überwachung und unabhängige Validierungen der Datenflüsse unerlässlich.

„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“

Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200