Eine Untersuchung zeigt, wie erfolgreich KI-generierte Cyberattacken bereits sind. Die größte Gefahr liegt dabei in der einfachen Skalierbarkeit von Spear-Phishing-Angriffen – sowohl was Quantität als auch Qualität angeht.
Neben viel Zuspruch wurden für die aktuellen Entwicklungen im Bereich Künstlicher Intelligenz (KI) auch einige kritische Stimmen in den vergangenen Wochen laut. Dabei warnen Cybersecurity-Expertinnen und -Experten wie auch die von SoSafe, Europas führendem Anbieter für Security Awareness und Training, schon seit Längerem vor der Möglichkeit, dass Generative-AI bessere Phishing-E-Mails schreibt, als es der Mensch kann. Erste Untersuchungen* von SoSafe zeigen nun, dass diese Warnung berechtigt ist: Mit KI verfasste Phishing-E-Mails werden bereits von 78 Prozent der Menschen geöffnet und nicht auf den ersten Blick erkannt. Davon klickten 21 Prozent auf schädliche Inhalte in den KI-verfassten Phishing-Mails, wie Links oder Anhänge. 65 Prozent wurden von den KI-generierten Mails sogar dazu verleitet, persönliche Informationen in Eingabefeldern auf verlinkten Webseiten preiszugeben.
Phishing: Öffnen und klicken
Die von Menschen generierten Phishing-Angriffe klickten die Personen in der durchgeführten Studie vergleichsweise etwas häufiger an (27 %), während die Öffnungsraten bei KI- und menschengenerierten Phishing-E-Mails gleich hoch waren. Die Interaktionsraten waren bei den KI-generierten E-Mails sogar höher, da nur 60 Prozent der Personen zusätzliche Daten bei den von Menschen erstellten E-Mails preisgaben.
„Wichtig anzumerken ist, dass unsere Studie auf Basis des ChatGPT-3.5-Modells mit allgemeinen Themen und Fragen durchgeführt wurde“, so Dr. Niklas Hellemann, CEO und Gründer von SoSafe. „Selbst mit diesen einfachen und nicht personalisierten KI-generierten Phishing-Mails zeigen unsere Daten, dass Menschen Schwierigkeiten haben, KI-generierte Phishing-Angriffe zu erkennen. Da die Technologie mit ausgereifteren Modellen wie ChatGPT-4 und skalierter Personalisierung voranschreitet, erwarten wir, dass die Angriffe noch gefährlicher werden – denn die größte Gefahr liegt in ihrem Skalierungspotenzial.“
Jetzt Newsletter abonnieren
Einmal im Monat die besten News von B2B CYBER SECURITY lesenGenerative-AI-Tools beschleunigen Phishing-Attacken
Untersuchungen des Social-Engineering-Teams von SoSafe zeigen, dass Generative-AI-Tools Hackergruppen dabei helfen können, Phishing-Mails mindestens 40 Prozent schneller zu verfassen. Schon mit einfachen Mitteln können Cyberkriminelle ihre Erfolgsraten daher signifikant steigern. Zugleich sinkt auch die Einstiegshürde für die Durchführung von Spear-Phishing-Angriffen im großen Umfang, bei der Präferenzen und Gewohnheiten von bestimmten Zielpersonen als Basis für maßgeschneiderte Attacken dienen – denn auch die Personalisierung von Phishing-Angriffen wird durch KI skalierbar. KI-Tools können mit persönlichen Informationen gefüttert werden, die dabei helfen, die Qualität der Spear-Phishing-Angriffe auch bei einer hohen Anzahl an Angriffszielen aufrecht zu erhalten. Des Weiteren bringen Generative-AI-Tools auch kreative Vorteile und verhelfen Cyberkriminellen zu neuen Ideen. So können Hackergruppen in geringerer Zeit weitaus mehr Phishing-Mails in allen Sprachen und in hoher Qualität versenden, als es bisher der Fall war. Großangelegte Phishing-Attacken werden dadurch viel effizienter – und auch effektiver.
Erhöhte Aufmerksamkeit
„Mit dem Aufkommen von KI-gestützten ‚Large Language Models‘ und dem dadurch massiv gestiegenen Skalierungspotenzial spitzt sich die Cyberbedrohungslage weiter zu“, sagt Hellemann. „Erste Studien haben gezeigt, dass KI schon heute bessere Phishing-Mails schreiben kann als der Mensch. Unsere Daten verdeutlichen die Konsequenzen – denn bereits jeder Fünfte fällt auf KI-erstellte Phishing-Angriffe rein. Und das ist erst der Anfang: Die Technologie wird sich laufend weiterentwickeln und Cyberkriminellen weitere Optionen bieten. Schon der Sprung von ChatGPT-3 auf ChatGPT-4 hat die Skalierung der Personalisierung auf ein neues Level gehoben.
Mehr bei SoSafe.com
Über SoSafe
SoSafe unterstützt Organisationen mit seiner DSGVO-konformen Awareness-Plattform dabei, ihre Sicherheitskultur aufzubauen und Risiken zu minimieren. 2018 von Dr. Niklas Hellemann, Lukas Schaefer und Felix Schürholz gegründet, hat SoSafe heute mehr als 3.000 Kunden weltweit und ist einer der führenden Anbieter für Security Awareness und Training in Europa. Mit verhaltenspsychologischen Elementen und smarten Algorithmen ermöglicht SoSafe personalisierte Lernerfahrungen und Angriffssimulationen, die Mitarbeitende dazu motivieren und ausbilden, sich aktiv vor Online-Bedrohungen zu schützen. Das Team von SoSafe besteht inzwischen aus mehr als 370 Mitarbeitenden an fünf Standorten: Köln (Headquarter), Amsterdam, Berlin, London und Paris.