Der Wettlauf um die Nutzung von ChatGPT für Cyberkriminalität hat für einen siebenfachen Anstieg in Dark-Web-Foren gesorgt, in denen Hacker darüber diskutieren, wie sie den Chatbot manipulieren können. Das zeigt eine neue Studie des Cybersicherheitsunternehmen NordVPN.
Laut der Untersuchung stieg die Zahl der neuen Beiträge in Dark-Web-Foren über das KI-Tool von 120 im Januar auf 870 im Februar – dies ist ein Anstieg von 625 Prozent. Die Zahl der Forenbeiträge zu ChatGPT stieg innerhalb eines Monats um 145 % von 37 auf 91, da die Diskussionen rund um den Missbrauch des Bots zum heißesten Thema im Dark Web wurden.
ChatGPT soll Malware und Skripte produzieren
Anfang Januar konzentrierten sich viele Threads auf die Frage, wie böswillige Akteure ChatGPT dazu bringen könnten, einfache Malware zu produzieren, eine Schwachstelle, die inzwischen behoben wurde. Einen Monat später ging der Trend in der Hacker-Community hin zu aggressiveren Maßnahmen. In den Beiträgen werden Pläne skizziert, die Kontrolle über den Chatbot zu übernehmen und ihn zu nutzen, um Chaos zu stiften. Die Titel des Dark Web-Forums (das vor normalen Suchmaschinen verborgen ist und von anonymen Hackern auf der ganzen Welt besucht wird) beinhaltete u. a. “How to break ChatGPT”, “ChatGPT jailbreak 2.0, ChatGPT – progression of malware” und “ChatGPT as a phishing tool”.
Mit ChatGPT könnten Kriminelle dessen künstliche Intelligenz nutzen, um Betrügereien – wie z. B. Liebesschwindel – in industriellem Maßstab durchzuführen und mehrere Opfer gleichzeitig anzugreifen. Sobald ein Hacker den Chatbot übernommen hat, kann er dessen Sicherheitsbeschränkungen aufheben und ihn zur Erstellung von Malware und Phishing-E-Mails, zur Verbreitung von Hassreden oder sogar zur Verbreitung von Propaganda nutzen.
Viele neue Wege mit ChatGPT
“ChatGPT hat viele Türen in neue Welten eröffnet und sorgt für einen Umbruch in der Arbeitswelt, im Bildungswesen und wie wir mit Informationen umgehen. Wie jede neue Technologie kann sie für positive Nutzungsmöglichkeiten, wie beispielsweise die Erkennung von Schwachstellen in Smart Contracts, genutzt werden.
Gleichzeitig sind die Gefahren aber für Nutzer nicht unerheblich. Das zeigt auch die Untersuchung von NordVPN zum Anstieg der Forenbeiträge im Dark Web. So können Kriminelle die KI-gestützte Erkennung von Schwachstellen für boshafte Zwecke nutzen. Dazu gehört auch der Missbrauch des schnellen Findens und Zusammenfassen personenbezogener Informationen, um Firmen und Menschen gezielter anzugreifen. Noch gefährlicher ist die Umgehung von Sicherheitschecks und Filtern in ChatGPT und anderen KI-Anbietern, um das Programm zu rassistischen oder hetzerischen Aussagen zu verleiten” so Marvin Petzolt, Experte für Cybersicherheit bei Nord Security.
Mehr bei Nordsecurity.com
Über Nord Security
Nord Security wurde 2012 gegründet und ist die Heimat fortschrittlicher Sicherheitslösungen, die die Marke Nord tragen. Wir entwickeln robuste Cybersecurity-Tools für die private und geschäftliche Nutzung, darunter den weltweit schnellsten VPN-Dienst NordVPN.