Dark-Web: Hacker suchen Wege zur ChatGPT-Manipulation

B2B Cyber Security ShortNews

Beitrag teilen

Der Wettlauf um die Nutzung von ChatGPT für Cyberkriminalität hat für einen siebenfachen Anstieg in Dark-Web-Foren gesorgt, in denen Hacker darüber diskutieren, wie sie den Chatbot manipulieren können. Das zeigt eine neue Studie des Cybersicherheitsunternehmen NordVPN.

Laut der Untersuchung stieg die Zahl der neuen Beiträge in Dark-Web-Foren über das KI-Tool von 120 im Januar auf 870 im Februar – dies ist ein Anstieg von 625 Prozent. Die Zahl der Forenbeiträge zu ChatGPT stieg innerhalb eines Monats um 145 % von 37 auf 91, da die Diskussionen rund um den Missbrauch des Bots zum heißesten Thema im Dark Web wurden.

ChatGPT soll Malware und Skripte produzieren

Anfang Januar konzentrierten sich viele Threads auf die Frage, wie böswillige Akteure ChatGPT dazu bringen könnten, einfache Malware zu produzieren, eine Schwachstelle, die inzwischen behoben wurde. Einen Monat später ging der Trend in der Hacker-Community hin zu aggressiveren Maßnahmen. In den Beiträgen werden Pläne skizziert, die Kontrolle über den Chatbot zu übernehmen und ihn zu nutzen, um Chaos zu stiften. Die Titel des Dark Web-Forums (das vor normalen Suchmaschinen verborgen ist und von anonymen Hackern auf der ganzen Welt besucht wird) beinhaltete u. a. “How to break ChatGPT”, “ChatGPT jailbreak 2.0, ChatGPT – progression of malware” und “ChatGPT as a phishing tool”.

Mit ChatGPT könnten Kriminelle dessen künstliche Intelligenz nutzen, um Betrügereien – wie z. B. Liebesschwindel – in industriellem Maßstab durchzuführen und mehrere Opfer gleichzeitig anzugreifen. Sobald ein Hacker den Chatbot übernommen hat, kann er dessen Sicherheitsbeschränkungen aufheben und ihn zur Erstellung von Malware und Phishing-E-Mails, zur Verbreitung von Hassreden oder sogar zur Verbreitung von Propaganda nutzen.

Viele neue Wege mit ChatGPT

“ChatGPT hat viele Türen in neue Welten eröffnet und sorgt für einen Umbruch in der Arbeitswelt, im Bildungswesen und wie wir mit Informationen umgehen. Wie jede neue Technologie kann sie für positive Nutzungsmöglichkeiten, wie beispielsweise die Erkennung von Schwachstellen in Smart Contracts, genutzt werden.

Gleichzeitig sind die Gefahren aber für Nutzer nicht unerheblich. Das zeigt auch die Untersuchung von NordVPN zum Anstieg der Forenbeiträge im Dark Web. So können Kriminelle die KI-gestützte Erkennung von Schwachstellen für boshafte Zwecke nutzen. Dazu gehört auch der Missbrauch des schnellen Findens und Zusammenfassen personenbezogener Informationen, um Firmen und Menschen gezielter anzugreifen. Noch gefährlicher ist die Umgehung von Sicherheitschecks und Filtern in ChatGPT und anderen KI-Anbietern, um das Programm zu rassistischen oder hetzerischen Aussagen zu verleiten” so Marvin Petzolt, Experte für Cybersicherheit bei Nord Security.

Mehr bei Nordsecurity.com

 


Über Nord Security

Nord Security wurde 2012 gegründet und ist die Heimat fortschrittlicher Sicherheitslösungen, die die Marke Nord tragen. Wir entwickeln robuste Cybersecurity-Tools für die private und geschäftliche Nutzung, darunter den weltweit schnellsten VPN-Dienst NordVPN.


 

Passende Artikel zum Thema

Schutzlösungen für MacOS Sonoma im Test

Der große Test von Schutz-Software für Unternehmen und Einzelplatz-PCs für MacOS fand im AV-TEST-Labor erstmals unter der MacOS Version Sonoma ➡ Weiterlesen

BSI: Neue Studie zu Hardware-Trojaner 

Das BSI hat eine Studie veröffentlicht zu Manipulationsmöglichkeiten von Hardware in verteilten Fertigungsprozessen. Dabei geht es um versteckte Chips auf ➡ Weiterlesen

Intel schließt kritische und hochgefährliche Sicherheitslücken

Fast etwas unauffällig hat Intel viele Sicherheitslücken in seinen Produkten geschlossen. Mit dabei sind eine kritische Lücke mit dem CVSS-Wert ➡ Weiterlesen

BSI und Zero Day Initiative warnt vor kritischer Azure Schwachstelle  

Die Zero Day Initiative (ZDI) sammelt und verifiziert gemeldete Schwachstellen. Nun gibt es wohl eine kritische Schwachstelle in Azure mit dem ➡ Weiterlesen

Hoffnung für Unternehmen: FBI hat 7.000 LockBit Ransomware-Keys

Bereits im Februar und im Mai startete FBI, Europol und viele andere Behörden die Operationen gegen die Ransomware-Erpresser LockBit. Dabei ➡ Weiterlesen

Google-Leak: Datenbank belegt Datenpannen

Einem Journalist wurde eine Google-Datenbank zugespielt die tausende interne Datenpannen von 2013 bis 2018 enthalten und intern bei Google gelöst ➡ Weiterlesen

Keylogger stiehlt bei Exchange Servern Login-Daten

Das Incident Response Team des PT ESC hat einen neuartigen Keylogger in der Hauptseite eines Microsoft Exchange Servers entdeckt. Jeder ➡ Weiterlesen

Fluent Bit: Angriff auf Cloud-Dienste über Protokollierungs-Endpunkte

Tenable Research hat in Fluent Bit, einer Kernkomponente der Überwachungsinfrastruktur vieler Cloud-Dienste, eine kritische Sicherheitslücke namens „Linguistic Lumberjack“ entdeckt, die ➡ Weiterlesen