ChatGPT-Experiment: Wer erkennt Phishing besser?

ChatGPT-Experiment: Wer erkennt Phishing besser?

Beitrag teilen

Sind die Jobs von Sicherheitsexperten erst einmal sicher oder lösen KIs, wie etwa ChatGPT die Experten ab? Kaspersky hat dazu ein Experiment gemacht und ChatGPT zur Erkennung von Phishing-Links eingesetzt. Das Ergebnis: mehr als ernüchternd. Experten und ihr Fachwissen bleiben der Cybersicherheit zum Glück noch lange erhalten.

Nur weil ein Förster alles über Bäume und Holz weiß. ist er noch lange kein guter Tischler. So ist es etwa mit der KI ChatGPT. Die weiß zwar fast alles über Phishing, aber so richtig verarbeiten kann sie die einzelnen Informationen nicht.

In einem Experiment testeten die Kaspersky-Experten die Fähigkeit von ChatGPT zur Erkennung von Phishing-Links. Das Resultat ist ernüchternd: Während ChatGPT zwar Phishing-E-Mails erstellen und Malware schreiben könnte, zeigte sich das Tool bei der Erkennung schädlicher Links nur eingeschränkt effizient. Zwar „weiß“ ChatGPT sehr viel über Phishing und kann das Ziel eines Phishing-Angriffs erraten, weist aber in der Erkennung selbst – abhängig von der verwendeten Eingabeaufforderung – eine hohe False-Positive-Rate auf.

Das Phishing-Experiment mit ChatGPT

Im Experiment wurden ChatGPT zwei Fragen gestellt: „Führt dieser Link zu einer Phishing-Website?“ und „Ist der Besuch dieses Links sicher?“. ChatGPT erzielte bei der ersten Frage eine Erkennungsrate von 87,2 Prozent und eine False-Positive-Rate von 23,2 Prozent. Die zweite Frage: „Ist es sicher, diesen Link zu besuchen?“ hatte zwar eine höhere Erkennungsrate von 93,8 Prozent, aber gleichzeitig eine höhere False-Positive-Rate von 64,3 Prozent – zu hoch für jede Art von Produktionsanwendung.

Unterstützung bei Identifizierung potenzieller Phishing-Ziele

Auch wenn ChatGPT Schwächen bei der Erkennung von Phishing vorweist, könnte es menschliche Sicherheitsexperten bei der Klassifizierung und Untersuchung von Angriffen unterstützen. Cyberkriminelle erwähnen in ihren Links typischerweise beliebte Marken, um Nutzer zu täuschen, dass eine URL legitim ist und zu einem seriösen Unternehmen gehört. Bei der Identifizierung solch potenzieller Phishing-Ziele zeigte das KI-Tool gute Ergebnisse. Beispielsweise extrahierte ChatGPT – ohne zusätzliches Training dafür – erfolgreich ein Ziel aus mehr als der Hälfte der gefälschten URLs, darunter unter anderem große Technologieportale wie Facebook, TikTok und Google, Marktplätze wie Amazon und Steam sowie zahlreiche Banken aus der ganzen Welt.

Haben Sie kurz Zeit?

Nehmen Sie sich ein paar Minuten Zeit für unsere Nutzerumfrage 2023 und helfen Sie B2B-CYBER-SECURITY.de besser zu machen!

Sie sollen nur 10 Fragen beantworten und haben sofort eine Chance auf Gewinne von Kaspersky, ESET und Bitdefender.

Hier geht es direkt zur Umfrage
 

Über die Zusammenarbeit mit KI

„ChatGPT ist sicherlich vielversprechend, wenn es darum geht, menschliche Analysten bei der Erkennung von Phishing-Angriffen zu unterstützen. Trotzdem haben solche Sprachmodelle immer noch ihre Grenzen. Aktuell können sie zwar mit einem angehenden Phishing-Analysten mithalten, wenn es darum geht, Phishing-Angriffe einzuordnen und potenzielle Ziele herauszufinden, aber oft neigen sie dazu, zufällige Ergebnisse zu produzieren. Auch wenn KIs die Cybersicherheitslandschaft derzeit noch nicht revolutionieren, könnten sie dennoch schon jetzt hilfreiche Tools für die Community darstellen.“ so Vladislav Tushkanov, Lead Data Scientist bei Kaspersky

Mehr bei Kaspersky.com

 


Über Kaspersky

Kaspersky ist ein internationales Cybersicherheitsunternehmen, das im Jahr 1997 gegründet wurde. Die tiefgreifende Threat Intelligence sowie Sicherheitsexpertise von Kaspersky dient als Grundlage für innovative Sicherheitslösungen und -dienste, um Unternehmen, kritische Infrastrukturen, Regierungen und Privatanwender weltweit zu schützen. Das umfassende Sicherheitsportfolio des Unternehmens beinhaltet führenden Endpoint-Schutz sowie eine Reihe spezialisierter Sicherheitslösungen und -Services zur Verteidigung gegen komplexe und sich weiter entwickelnde Cyberbedrohungen. Über 400 Millionen Nutzer und 250.000 Unternehmenskunden werden von den Technologien von Kaspersky geschützt. Weitere Informationen zu Kaspersky unter www.kaspersky.com/


 

Passende Artikel zum Thema

Ransomware: Lösegeldzahlungen mit 500 Prozent plus

Diese Jahr sind die Lösegeldzahlungen durch Ransomware um 500 Prozent gestiegen gegenüber dem Vorjahr 2023. Während die internationalen Werte im ➡ Weiterlesen

Effiziente Angriffs-Tools: Wie Hacker KI LLMs für ihre Zwecke nutzen

Der Einsatz von KI kann Routineaufgaben automatisieren, Abläufe effizienter gestalten und die Produktivität erhöhen. Dies gilt für die legale Wirtschaft ➡ Weiterlesen

Junk-Gun-Ransomware als Billigware oder Eigenbau  

Billig und plump: Kriminelle setzen auf neue Ransomware „Marke Eigenbau“. Ist das das Ende von professioneller Ransomware-as-a-Service - RaaS? Einigen ➡ Weiterlesen

Bedrohungen erkennen mit Purple AI

Ein Unternehmen hat vor einem Jahr die erste Cybersecurity-Plattform vorgestellt, die auf generativer KI basiert. Nun gibt das Unternehmen die ➡ Weiterlesen

Rumänische Botnet-Operation der RUBYCARP-Gruppe aufgedeckt

Ein Threat Research Team hat eine ausgeklügelte und lang andauernde Botnet-Operation aufgedeckt, die von einer rumänischen Gruppe von Bedrohungsakteuren namens ➡ Weiterlesen

ThreatDown Security Advisor erhält KI-Funktionen

Besseres Sicherheitsmanagement für IT-Teams mit knappen Ressourcen: Die neue KI-gestützte Suchfunktion im Security Advisor von Malwarebytes unterstützt IT- und IT-Sicherheitsteams beim ➡ Weiterlesen

KI gestützte Cyber-Angriffe nehmen zu

Cyberangriffe sind ausgefeilter denn je und KI-gestützte Angriffe stellen das größte Risiko dar. Das ermittelt der Keeper Security Insight Report 2024. ➡ Weiterlesen

Chefetage: Wichtige Cybersicherheit bringt keine Vorteile im Wettbewerb

Wie eine Umfrage zeigt, sehen Chefetagen gute Cybersicherheitsinfrastrukturen zwar als äußerst wichtig für Geschäftsbeziehungen an, aber gleichzeitig kann die Mehrzahl ➡ Weiterlesen