Erfolgreiches Phishing dank KI

B2B Cyber Security ShortNews

Beitrag teilen

Eine Untersuchung zeigt, wie erfolgreich KI-generierte Cyberattacken bereits sind. Die größte Gefahr liegt dabei in der einfachen Skalierbarkeit von Spear-Phishing-Angriffen – sowohl was Quantität als auch Qualität angeht.

Neben viel Zuspruch wurden für die aktuellen Entwicklungen im Bereich Künstlicher Intelligenz (KI) auch einige kritische Stimmen in den vergangenen Wochen laut. Dabei warnen Cybersecurity-Expertinnen und -Experten wie auch die von SoSafe, Europas führendem Anbieter für Security Awareness und Training, schon seit Längerem vor der Möglichkeit, dass Generative-AI bessere Phishing-E-Mails schreibt, als es der Mensch kann. Erste Untersuchungen* von SoSafe zeigen nun, dass diese Warnung berechtigt ist: Mit KI verfasste Phishing-E-Mails werden bereits von 78 Prozent der Menschen geöffnet und nicht auf den ersten Blick erkannt. Davon klickten 21 Prozent auf schädliche Inhalte in den KI-verfassten Phishing-Mails, wie Links oder Anhänge. 65 Prozent wurden von den KI-generierten Mails sogar dazu verleitet, persönliche Informationen in Eingabefeldern auf verlinkten Webseiten preiszugeben.

Phishing: Öffnen und klicken

Die von Menschen generierten Phishing-Angriffe klickten die Personen in der durchgeführten Studie vergleichsweise etwas häufiger an (27 %), während die Öffnungsraten bei KI- und menschengenerierten Phishing-E-Mails gleich hoch waren. Die Interaktionsraten waren bei den KI-generierten E-Mails sogar höher, da nur 60 Prozent der Personen zusätzliche Daten bei den von Menschen erstellten E-Mails preisgaben.

„Wichtig anzumerken ist, dass unsere Studie auf Basis des ChatGPT-3.5-Modells mit allgemeinen Themen und Fragen durchgeführt wurde“, so Dr. Niklas Hellemann, CEO und Gründer von SoSafe. „Selbst mit diesen einfachen und nicht personalisierten KI-generierten Phishing-Mails zeigen unsere Daten, dass Menschen Schwierigkeiten haben, KI-generierte Phishing-Angriffe zu erkennen. Da die Technologie mit ausgereifteren Modellen wie ChatGPT-4 und skalierter Personalisierung voranschreitet, erwarten wir, dass die Angriffe noch gefährlicher werden – denn die größte Gefahr liegt in ihrem Skalierungspotenzial.“

Generative-AI-Tools beschleunigen Phishing-Attacken

Untersuchungen des Social-Engineering-Teams von SoSafe zeigen, dass Generative-AI-Tools Hackergruppen dabei helfen können, Phishing-Mails mindestens 40 Prozent schneller zu verfassen. Schon mit einfachen Mitteln können Cyberkriminelle ihre Erfolgsraten daher signifikant steigern. Zugleich sinkt auch die Einstiegshürde für die Durchführung von Spear-Phishing-Angriffen im großen Umfang, bei der Präferenzen und Gewohnheiten von bestimmten Zielpersonen als Basis für maßgeschneiderte Attacken dienen – denn auch die Personalisierung von Phishing-Angriffen wird durch KI skalierbar. KI-Tools können mit persönlichen Informationen gefüttert werden, die dabei helfen, die Qualität der Spear-Phishing-Angriffe auch bei einer hohen Anzahl an Angriffszielen aufrecht zu erhalten. Des Weiteren bringen Generative-AI-Tools auch kreative Vorteile und verhelfen Cyberkriminellen zu neuen Ideen. So können Hackergruppen in geringerer Zeit weitaus mehr Phishing-Mails in allen Sprachen und in hoher Qualität versenden, als es bisher der Fall war. Großangelegte Phishing-Attacken werden dadurch viel effizienter – und auch effektiver.

Erhöhte Aufmerksamkeit

„Mit dem Aufkommen von KI-gestützten ‚Large Language Models‘ und dem dadurch massiv gestiegenen Skalierungspotenzial spitzt sich die Cyberbedrohungslage weiter zu“, sagt Hellemann. „Erste Studien haben gezeigt, dass KI schon heute bessere Phishing-Mails schreiben kann als der Mensch. Unsere Daten verdeutlichen die Konsequenzen – denn bereits jeder Fünfte fällt auf KI-erstellte Phishing-Angriffe rein. Und das ist erst der Anfang: Die Technologie wird sich laufend weiterentwickeln und Cyberkriminellen weitere Optionen bieten. Schon der Sprung von ChatGPT-3 auf ChatGPT-4 hat die Skalierung der Personalisierung auf ein neues Level gehoben.

Mehr bei SoSafe.com

 


Über SoSafe

SoSafe unterstützt Organisationen mit seiner DSGVO-konformen Awareness-Plattform dabei, ihre Sicherheitskultur aufzubauen und Risiken zu minimieren. 2018 von Dr. Niklas Hellemann, Lukas Schaefer und Felix Schürholz gegründet, hat SoSafe heute mehr als 3.000 Kunden weltweit und ist einer der führenden Anbieter für Security Awareness und Training in Europa. Mit verhaltenspsychologischen Elementen und smarten Algorithmen ermöglicht SoSafe personalisierte Lernerfahrungen und Angriffssimulationen, die Mitarbeitende dazu motivieren und ausbilden, sich aktiv vor Online-Bedrohungen zu schützen. Das Team von SoSafe besteht inzwischen aus mehr als 370 Mitarbeitenden an fünf Standorten: Köln (Headquarter), Amsterdam, Berlin, London und Paris.

 

Passende Artikel zum Thema

Schutzlösungen für MacOS Sonoma im Test

Der große Test von Schutz-Software für Unternehmen und Einzelplatz-PCs für MacOS fand im AV-TEST-Labor erstmals unter der MacOS Version Sonoma ➡ Weiterlesen

BSI: Neue Studie zu Hardware-Trojaner 

Das BSI hat eine Studie veröffentlicht zu Manipulationsmöglichkeiten von Hardware in verteilten Fertigungsprozessen. Dabei geht es um versteckte Chips auf ➡ Weiterlesen

Intel schließt kritische und hochgefährliche Sicherheitslücken

Fast etwas unauffällig hat Intel viele Sicherheitslücken in seinen Produkten geschlossen. Mit dabei sind eine kritische Lücke mit dem CVSS-Wert ➡ Weiterlesen

BSI und Zero Day Initiative warnt vor kritischer Azure Schwachstelle  

Die Zero Day Initiative (ZDI) sammelt und verifiziert gemeldete Schwachstellen. Nun gibt es wohl eine kritische Schwachstelle in Azure mit dem ➡ Weiterlesen

APT-Gruppen: Viele Router als Teil riesiger Botnetze 

In einem Blogbeitrag analysiert Trend Micro wie Pawn Storm (auch APT28 oder Forest Blizzard) und andere APT-Akteure Router kompromittieren und ➡ Weiterlesen

Hoffnung für Unternehmen: FBI hat 7.000 LockBit Ransomware-Keys

Bereits im Februar und im Mai startete FBI, Europol und viele andere Behörden die Operationen gegen die Ransomware-Erpresser LockBit. Dabei ➡ Weiterlesen

Google-Leak: Datenbank belegt Datenpannen

Einem Journalist wurde eine Google-Datenbank zugespielt die tausende interne Datenpannen von 2013 bis 2018 enthalten und intern bei Google gelöst ➡ Weiterlesen

Keylogger stiehlt bei Exchange Servern Login-Daten

Das Incident Response Team des PT ESC hat einen neuartigen Keylogger in der Hauptseite eines Microsoft Exchange Servers entdeckt. Jeder ➡ Weiterlesen