Sicherheitsforscher haben im Dezember mit ChatGPT einen kompletten Infektionsablauf durchgeführt, von der Erstellung einer überzeugenden Spear-Phishing-E-Mail bis hin zur Ausführung einer Reverse Shell, die Befehle in englischer Sprache annehmen kann.
Es stellte sich damals die Frage, ob es sich hierbei nur um eine hypothetische Bedrohung handelt oder ob es bereits Bedrohungsakteure gibt, die OpenAI-Technologien für bösartige Zwecke einsetzen. Die von Check Point Research (CPR) durchgeführte Analyse mehrerer großer Untergrund-Hacking-Communities zeigt, dass es bereits erste Fälle gibt, in denen Cyberkriminelle OpenAI zur Entwicklung bösartiger Tools nutzen. Wie von den Sicherheitsexperten vermutet, zeigten einige der Fälle deutlich, dass viele Cyberkriminelle, die OpenAI nutzen, über keinerlei Entwicklungskenntnisse verfügen. Obwohl die in diesem Bericht vorgestellten Tools recht einfach sind, ist es nur eine Frage der Zeit, bis raffiniertere Bedrohungsakteure die Art und Weise, wie sie KI-basierte Tools zum Schaden einsetzen können, verbessern.
ChatGPT für Cyberbetrug
Am 29. Dezember 2022 erschien in einem beliebten Untergrund-Hacking-Forum ein Thread mit dem Titel „ChatGPT – Benefits of Malware“. Der Verfasser des Threads gab bekannt, dass er mit ChatGPT experimentierte, um Malware-Stämme und -Techniken nachzubilden, die in Forschungsveröffentlichungen und Berichten über gängige Malware beschrieben wurden. Als Beispiel gab er den Code eines auf Python basierenden Stealers weiter, der nach gängigen Dateitypen sucht, sie in einen zufälligen Ordner innerhalb des Temp-Ordners kopiert, in ein ZIP-Format packt und sie auf einen fest kodierten FTP-Server hochlädt. Außerdem postete am 21. Dezember 2022 ein als USDoD bezeichneter Bedrohungsakteur ein Python-Skript, von dem er betonte, dass es das erste Skript sei, das er je erstellt habe. Ein weiteres Beispiel für die Nutzung von ChatGPT für betrügerische Aktivitäten wurde in der Silvesternacht 2022 gepostet und zeigt eine andere Art von cyberkriminellen Aktivitäten. Während sich die ersten beiden Beispiele eher auf die Malware-orientierte Nutzung von ChatGPT konzentrierten, zeigt dieses Beispiel eine Diskussion mit dem Titel „Abusing ChatGPT to create Dark Web Marketplaces scripts“.
Fazit
Es ist noch zu früh, um zu entscheiden, ob ChatGPT-Fähigkeiten das neue Lieblingswerkzeug der Teilnehmer im Dark Web werden oder nicht. Die Cyberkriminellen haben jedoch bereits erhebliches Interesse gezeigt und stürzen sich auf diesen neuesten Trend zur Generierung von bösartigem Code. CPR wird diese Aktivitäten im Jahr 2023 weiter verfolgen.
Mehr bei Checkpoint.com
Über Check Point Check Point Software Technologies GmbH (www.checkpoint.com/de) ist ein führender Anbieter von Cybersicherheits-Lösungen für öffentliche Verwaltungen und Unternehmen weltweit. Die Lösungen schützen Kunden vor Cyberattacken mit einer branchenführenden Erkennungsrate von Malware, Ransomware und anderen Arten von Attacken. Check Point bietet eine mehrstufige Sicherheitsarchitektur, die Unternehmensinformationen in CloudUmgebungen, Netzwerken und auf mobilen Geräten schützt sowie das umfassendste und intuitivste „One Point of Control“-Sicherheits-Managementsystem. Check Point schützt über 100.000 Unternehmen aller Größen.