Kriminelle nutzen zunehmend DeepSeek und Qwen aus. Mithilfe von Jailbreaking-Techniken erstellen sie ihre bösartigen Inhalte, um Finanz- und Informationsdiebstahl zu begehen und Spam zu verbreiten. Die Hacker tauschen sich dabei untereinander über ihre Methoden aus.
Check Point Software Technologies sieht bereits den ersten Missbrauch der neuen KI-Modelle: nach dem Start von DeepSeek und Qwen beobachteten Sicherheitsforscher von Check Point Research (CPR), dass Cyber-Kriminelle schnell von ChatGPT zu diesen neuen Plattformen wechselten, um bösartige Inhalte zu entwickeln. Hacker tauschen sich darüber aus, wie sie die Modelle manipulieren und unzensierte Inhalte anzeigen können und es gibt viele Methoden, um die Zensur von KI-Modellen zu entfernen. Dazu gehören ausführliche Anleitungen für Jailbreaking-Methoden, die Umgehung von Betrugsbekämpfungsmaßnahmen und die Entwicklung von Malware selbst.
KI: Starke Werkzeuge zur Erstellung bösartiger Inhalte
Sowohl Qwen als auch DeepSeek haben sich als leistungsstarke Werkzeuge zur Erstellung bösartiger Inhalte mit minimalen Einschränkungen erwiesen. Während ChatGPT in den letzten zwei Jahren erheblich in Missbrauchsschutzmaßnahmen investiert hat, scheinen diese neueren Modelle nur wenig Widerstand gegen Missbrauch zu bieten. Dies weckt das Interesse von Angreifern auf verschiedenen Ebenen, insbesondere von weniger qualifizierten, die vorhandene Skripte oder Tools ohne tiefes Verständnis der zugrunde liegenden Technologie nutzen.
Es ist aber wichtig, zu betonen, dass trotz der Missbrauchsschutzmechanismen von ChatGPT bereits unzensierte Versionen von ChatGPT in verschiedenen Repositories im Dark Net verfügbar sind. In dem Maße, in dem jedoch diese neuen KI-Modelle an Popularität gewinnen, ist zu erwarten, dass ähnliche unzensierte Versionen von DeepSeek und Qwen auftauchen werden, was die damit verbundenen Risiken weiter erhöht.
Cyber-Kriminelle haben wiederholt mit Hilfe von Qwen verschiedene Infostealer erstellt, die vor allem darauf aus sind, sensible Informationen von ahnungslosen Benutzern abzufangen.
Jailbreaking Prompts
Jailbreaking bezieht sich auf Methoden, die es Nutzern ermöglichen, KI-Modelle zu manipulieren, um unzensierte oder uneingeschränkte Inhalte zu erzeugen. Diese Taktik hat sich zu einer bevorzugten Technik entwickelt, um die KI-Funktionen für böswillige Zwecke nutzen zu können.
Bypassing Banking Protections
Es wurden mehrere Chat-Diskussionen über Techniken zur Verwendung von DeepSeek zur Umgehung der Schutzmaßnahmen von Bankensystemen gefunden, was auf das Potenzial für einen erheblichen Finanzdiebstahl hinweist.
Verteilung von Spam in Massen
Cyber-Kriminelle nutzen drei KI-Modelle – ChatGPT, Qwen und DeepSeek – um Skripte für die massenhafte Verbreitung von Spam zu optimieren und so die Effizienz ihrer bösartigen Aktivitäten zu steigern.
Die dunkle Seite der fortgeschrittenen KI-Tools
Der Aufstieg von KI-Modellen wie Qwen und DeepSeek markiert einen besorgniserregenden Trend in der Cyber-Welt, wo hochentwickelte Tools zunehmend für böswillige Zwecke missbraucht werden. Da Hacker fortschrittliche Techniken wie Jailbreaking einsetzen, um Schutzmaßnahmen zu umgehen und Informationsdiebstahl, Finanzdiebstahl und Spam-Verbreitung zu entwickeln, müssen Unternehmen dringend präventive Schutzmaßnahmen gegen diese sich entwickelnden Bedrohungen implementieren, um einen robusten Schutz zu gewährleisten.
Mehr bei CheckPoint.com
Über Check Point Check Point Software Technologies GmbH (www.checkpoint.com/de) ist ein führender Anbieter von Cybersicherheits-Lösungen für öffentliche Verwaltungen und Unternehmen weltweit. Die Lösungen schützen Kunden vor Cyberattacken mit einer branchenführenden Erkennungsrate von Malware, Ransomware und anderen Arten von Attacken. Check Point bietet eine mehrstufige Sicherheitsarchitektur, die Unternehmensinformationen in CloudUmgebungen, Netzwerken und auf mobilen Geräten schützt sowie das umfassendste und intuitivste „One Point of Control“-Sicherheits-Managementsystem. Check Point schützt über 100.000 Unternehmen aller Größen.
Passende Artikel zum Thema