Australien untersucht einen Cybervorfall, bei dem ein autonomer KI-Agent von OpenAI im Juni unbefugt auf Daten einer Regierungsbehörde zugegriffen haben soll. Nach Angaben von Premierminister Anthony Albanese war ein Portal von Services Australia betroffen, das Gesundheits- und Medicare-Statistiken bereitstellt. Der Fall gilt als erster öffentlich bekannt gewordener Vorfall, bei dem ein KI-Agent in ein Regierungssystem eingedrungen sein soll.
Der Zugriff auf die Datenbank soll bereits am 18. Juni erfolgt sein. Der Agent habe öffentliche sowie nicht öffentliche Dateien abgerufen und nach Regierungsangaben auch Daten auf einen internen Server geschrieben. Hinweise darauf, dass persönliche Medicare-Informationen oder Patientenakten abgerufen wurden, liegen bislang nicht vor. Ebenso gebe es keine Anzeichen für einen weitergehenden Einbruch in das Netzwerk von Services Australia. Eine forensische Untersuchung soll nun klären, welche Dateien tatsächlich betroffen waren und ob weitere Systeme erreicht wurden.
OpenAI-Agent hackte die Datenbank
Premierminister Albanese bezeichnete den Vorgang als „offensichtlich inakzeptabel“. Nach eigenen Angaben sprach er mit OpenAI-Chef Sam Altman und machte die erhebliche Besorgnis der australischen Regierung deutlich. Besonders schwer wiegt aus Sicht Canberras, dass OpenAI die Behörden offenbar erst am 10. September über den Vorfall informierte – fast drei Monate nach dem Zugriff. Die Regierung prüft deshalb neben technischen Konsequenzen auch mögliche rechtliche und regulatorische Schritte.
OpenAI erklärte, der Zugriff sei während einer internen Evaluierung erfolgt. Dabei hätten Agenten Informationen über Australien und öffentlich zugängliche Statistiken recherchieren sollen. Nach Darstellung des Unternehmens führten einzelne Systeme dabei unbeabsichtigte Aktionen aus und überschritten die vorgesehenen Grenzen. Persönliche oder medizinische Daten seien nicht eingesehen worden; betroffen gewesen seien vor allem aggregierte Statistiken und interne Dateinamen.
Anzeige
Jetzt Newsletter abonnieren
Einmal im Monat die besten News von B2B CYBER SECURITY lesen
Aufklappen für Details zu Ihrer Einwilligung
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer
Datenschutzerklärung.
Sie können jederzeit den Newsletter wieder abbestellen. Einen entsprechenden Link finden Sie im Newsletter. Nach einer Abmeldung werden Ihre Daten in kürzester Zeit gelöscht. Eine Wiederherstellung ist nicht möglich. Falls Sie den Newsletter erneut haben möchten, ordern sie diesen einfach neu. Verfahren Sie auch so, wenn Sie eine andere E-Mail-Adresse für Ihren Newsletter nutzen möchten.
Wenn Sie den auf der Website angebotenen Newsletter beziehen möchten, benötigen wir von Ihnen eine E-Mail-Adresse sowie Informationen, welche uns die Überprüfung gestatten, dass Sie der Inhaber der angegebenen E-Mail-Adresse und mit dem Empfang des Newsletters einverstanden sind. Weitere Daten werden nicht bzw. nur auf freiwilliger Basis erhoben. Für die Abwicklung der Newsletter nutzen wir Newsletterdiensteanbieter, die nachfolgend beschrieben werden.
CleverReach
Diese Website nutzt CleverReach für den Versand von Newslettern. Anbieter ist die CleverReach GmbH & Co. KG, Schafjückenweg 2, 26180 Rastede, Deutschland (nachfolgend „CleverReach“). CleverReach ist ein Dienst, mit dem der Newsletterversand organisiert und analysiert werden kann. Die von Ihnen zwecks Newsletterbezug eingegebenen Daten (z. B. E-Mail-Adresse) werden auf den Servern von CleverReach in Deutschland bzw. Irland gespeichert.
Unsere mit CleverReach versandten Newsletter ermöglichen uns die Analyse des Verhaltens der Newsletterempfänger. Hierbei kann u. a. analysiert werden, wie viele Empfänger die Newsletternachricht geöffnet haben und wie oft welcher Link im Newsletter angeklickt wurde. Mit Hilfe des sogenannten Conversion-Trackings kann außerdem analysiert werden, ob nach Anklicken des Links im Newsletter eine vorab definierte Aktion (z. B. Kauf eines Produkts auf dieser Website) erfolgt ist. Weitere Informationen zur Datenanalyse durch CleverReach-Newsletter erhalten Sie unter:
https://www.cleverreach.com/de/funktionen/reporting-und-tracking/.
Die Datenverarbeitung erfolgt auf Grundlage Ihrer Einwilligung (Art. 6 Abs. 1 lit. a DSGVO). Sie können diese Einwilligung jederzeit widerrufen, indem Sie den Newsletter abbestellen. Die Rechtmäßigkeit der bereits erfolgten Datenverarbeitungsvorgänge bleibt vom Widerruf unberührt.
Wenn Sie keine Analyse durch CleverReach wollen, müssen Sie den Newsletter abbestellen. Hierfür stellen wir in jeder Newsletternachricht einen entsprechenden Link zur Verfügung.
Die von Ihnen zum Zwecke des Newsletter-Bezugs bei uns hinterlegten Daten werden von uns bis zu Ihrer Austragung aus dem Newsletter bei uns bzw. dem Newsletterdiensteanbieter gespeichert und nach der Abbestellung des Newsletters aus der Newsletterverteilerliste gelöscht. Daten, die zu anderen Zwecken bei uns gespeichert wurden, bleiben hiervon unberührt.
Nach Ihrer Austragung aus der Newsletterverteilerliste wird Ihre E-Mail-Adresse bei uns bzw. dem Newsletterdiensteanbieter ggf. in einer Blacklist gespeichert, sofern dies zur Verhinderung künftiger Mailings erforderlich ist. Die Daten aus der Blacklist werden nur für diesen Zweck verwendet und nicht mit anderen Daten zusammengeführt. Dies dient sowohl Ihrem Interesse als auch unserem Interesse an der Einhaltung der gesetzlichen Vorgaben beim Versand von Newslettern (berechtigtes Interesse im Sinne des Art. 6 Abs. 1 lit. f DSGVO). Die Speicherung in der Blacklist ist zeitlich nicht befristet.
Sie können der Speicherung widersprechen, sofern Ihre Interessen unser berechtigtes Interesse überwiegen.
Näheres entnehmen Sie den Datenschutzbestimmungen von CleverReach unter:
https://www.cleverreach.com/de/datenschutz/.
Auftragsverarbeitung
Wir haben einen Vertrag über Auftragsverarbeitung (AVV) zur Nutzung des oben genannten Dienstes geschlossen. Hierbei handelt es sich um einen datenschutzrechtlich vorgeschriebenen Vertrag, der gewährleistet, dass dieser die personenbezogenen Daten unserer Websitebesucher nur nach unseren Weisungen und unter Einhaltung der DSGVO verarbeitet.
Weitere Medien berichten, dass der Agent wiederholte Zugriffsbeschränkungen umging, nachdem er bei seiner Recherche auf geschützte Bereiche des Portals gestoßen war. Außerdem wird geprüft, ob neben dem Medicare-Portal drei weitere staatliche Angebote betroffen sein könnten, darunter Gesundheits- und Kriminalitätsstatistikdienste einzelner Bundesstaaten. Diese möglichen Zugriffe sind bislang nicht abschließend bestätigt.
Security-Experten sind besorgt über KI-Hacks
Experten sehen die KI-Aktion sehr kritisch. So auch Darren Guccione, CEO und Mitbegründer von Keeper Security: „Die Lücke liegt nicht im Code, sondern in den Beschränkungen. Den meisten KI-Einsätzen fehlt heute ein funktionierender Gegenpol. Führende KI-Entwickler warnen öffentlich vor genau diesem Risiko, während sie sich gleichzeitig gegenseitig zu immer leistungsfähigeren und autonomeren Systemen antreiben.“
„Der jüngste OpenAI-Vorfall zeigt ein systemisches Versagen in der gesamten Branche und in der Governance. Die EU hat die Hochrisiko-Regeln ihres KI-Gesetzes gerade erst auf Dezember 2027 verschoben, das Vereinigte Königreich hat keine eigenständige KI-Gesetzgebung, die Leitlinien des National Cyber Security Centre für agentenbasierte KI bleiben freiwillig und in den USA gibt es kein Bundes-KI-Gesetz. Japan, Singapur und Australien setzen alle auf freiwillige Richtlinien statt auf verbindliche Gesetze. Dadurch sind Regierungen und Organisationen weltweit einer Bedrohung ausgesetzt, die sich mit Maschinengeschwindigkeit entwickelt.“
Jeder KI-Agent ist eine neue Identität und eine neue Angriffsfläche. Unternehmen müssen Agenten genauso verwalten wie privilegierte Benutzer: mit klar abgegrenzten Aufgabenbereichen, zeitlich begrenzten Zugriffen, kontinuierlicher Überwachung und durchgesetzten Richtlinien. Dies erfordert, dass Agenten mit derselben Sorgfalt behandelt werden, die Organisationen auf menschliche Administratoren anwenden. Ohne diese Governance führt die Verbreitung von Agenten zu einer unkontrollierbaren Ausweitung von Privilegien.
Mehr bei PMC.gov.au
Passende Artikel zum Thema
