Jailbreaking KI-basierter Chatbots

B2B Cyber Security ShortNews

Beitrag teilen

Das Cybersicherheitsunternehmen, das hinter der Enttarnung von WormGPT steht, hat einen Blogpost veröffentlicht. Dieser gibt Aufschluss über Strategien von Cyberkriminellen, die beliebte KI-Chatbots wie ChatGPT „jailbreaken“. Darunter versteht man Taktiken, mit denen die Sicherheitsgrenzen umgangen werden, die Unternehmen ihren Chatbots auferlegen.

SlashNext-Forscher haben herausgefunden, dass Cyberkriminelle ihre erfolgreichen Jailbreaks nicht nur in Diskussionsforen teilen, um sie für andere zugänglich zu machen. Stattdessen werben Entwickler auch für KI-Bots, die für kriminelle
Zwecke verwendet werden können. Sie behaupten, es handele sich dabei um benutzerdefinierte Sprachmodelle (LLMs). SlashNext hat bestätigt, dass dies in den meisten Fällen nicht zutrifft, sondern dass es um Jailbroken-Versionen von öffentlichen Chatbots wie
ChatGPT geht. Dazu gehören Tools wie EscapeGPT, BadGPT, DarkGPT und Black Hat GPT.

Anzeige

Der Vorteil für Cyberkriminelle, die eines dieser Tools verwenden, anstatt ChatGPT selbst zu jailbreaken, besteht darin, dass ihre Identitäten völlig anonym bleiben.“Jailbreaking“ und die Nutzung von generativer KI für eine gesteigerte Effektivität von Phishing genießen derzeit einen interessanten Hype. Noch gibt es allerdings kaum Anzeichen dafür, dass sie wirklich eine signifikante Neuerung darstellen. Zwar gibt es sicherlich Vorteile für Nicht-Muttersprachler bei der Erstellung besserer Phishing-Texte oder für unerfahrene Programmierer, die Malware schneller zusammenhacken können, aber nichts deutet darauf hin, dass professionelle Cyber-Kriminelle einen Vorteil aus der KI ziehen. Die Verkäufer profitieren davon, dass die Käufer nicht ausreichend recherchieren und auf attraktiv klingende Angebote hereinfallen.

Unklare Bedrohungslage

Beim Thema „jailbroken“ LLMs dachte ich zuerst daran, dass bösartige Akteure die KI-gesteuerten Chatbots kompromittieren könnten, die auf legitimen Websites allgegenwärtig sind. Dies würde für mich eine größere Gefahr für den normalen
Verbraucher darstellen als eine Phishing-E-Mail mit verbesserter Grammatik. Das soll nicht heißen, dass KI im Stil von GPT keine Bedrohung darstellt. Vielmehr haben wir noch nicht herausgefunden, worin diese Bedrohung genau besteht. Durch die gesteigerte Aufmerksamkeit
wird die Zukunft der KI im Bereich der Cybersicherheit genau unter die Lupe genommen werden. So können hoffentlich die schwerwiegenderen Schwachstellen geschlossen werden, bevor sie jemals ausgenutzt werden. (Chris Vaughan, VP Technical Account Management bei Tanium)

Mehr bei Tanium.com

 


Über Tanium

Tanium, der branchenweit einzige Anbieter von Converged Endpoint Management (XEM), führt den Paradigmenwechsel bei herkömmlichen Ansätzen zur Verwaltung komplexer Sicherheits- und Technologieumgebungen an. Nur Tanium schützt jedes Team, jeden Endpunkt und jeden Arbeitsablauf vor Cyber-Bedrohungen, indem es IT, Compliance, Sicherheit und Risiko in eine einzige Plattform integriert. Die Tanium Plattform bietet umfassende Transparenz über alle Geräte hinweg, eine einheitliche Reihe von Kontrollen und eine gemeinsame Taxonomie.


 

Passende Artikel zum Thema

Ransomware-Gruppen nutzen zwei Drittel aller Schwachstellen aus

Für den „State of CPS Security 2025“-Report analysierten Sicherheitsexperten über 900.000 OT-Geräte. Zwölf Prozent der Geräte in den Bereichen Produktion, ➡ Weiterlesen

Agentenbasierte KI-Modelle steuern Phishing-Kampagnen

Malwarebytes hat kürzlich seinen neuesten State of Malware-Report vorgestellt. Dessen zentrale Aussage: Agentenbasierte KI-Modelle sind auf dem Vormarsch und werden ➡ Weiterlesen

IT-Entscheider wollen Threat Intelligence integrieren

Im November 2024 wurden 500 IT-Entscheidungsträger in Deutschland zum Thema Threat Intelligence und Data Feeds befragt. Die Sicherheit im Unternehmen ➡ Weiterlesen

DDoS-Angriffe steigen weiter

Im letzten Quartal 2024 sind DDoS-Angriffe um 16 Prozent im Quartals- und 83 Prozent im Jahresvergleich gestiegen. Ungefähr sieben von ➡ Weiterlesen

Cyberkriminelle missbrauchen DeepSeek für Betrugsmaschen

Mit dem Fortschritt künstlicher Intelligenz entwickeln sich auch die Methoden von Cyberkriminellen weiter. Der jüngste Anstieg KI-gestützter Betrugsmaschen rund um ➡ Weiterlesen

Warnung vor chinesischer Ransomware-Bande Ghost

Die US-amerikanischen Behörden CISA, FBI und das Multi-State Information Sharing and Analysis Center (MS-ISAC) haben gemeinsam eine Analyse der Aktivitäten ➡ Weiterlesen

Cyberattacken gegen das Landesdatennet in Thüringen

Das Landesdatennetz in Thüringen muss vielfältige digitale Angriffe abwehren. Teilweise gab es im vergangenen Jahr gezielte Attacken auf Systeme der ➡ Weiterlesen

Duale Authentifizierung ist eine Herausforderung

Viele Unternehmen betreiben eine hybride Authentifizierung mit Passkeys und Passwörtern, um der dauerhaft hohen Gefahr des Phishings zu begegnen. Der ➡ Weiterlesen