Künstliche Intelligenz und Automatisierung liefern Angreifern wie Verteidigern entscheidende Sprungbretter für ein erfolgreiches Vorgehen. Das sind dann Werkzeuge wie KI-basierte Sprach-Chatbots oder KI-Spear-Phishing-Tools.
Kurz vor Ende des Jahres ist es für WatchGuard Technologies wie immer an der Zeit, den Blick in die Zukunft zu richten und potenzielle Angriffstrends sowie Entwicklungen im IT-Security-Umfeld in den Fokus zu rücken. So räumt das WatchGuard Threat Lab unter anderem bösartigen Prompt-Engineering-Tricks, die auf Large Language Models (LLM) abzielen, 2024 große Chancen beim Unruhestiften ein. Das gleiche gilt für „Vishers“, die ihre bösartigen Operationen mit KI-basierten Sprach-Chatbots ausweiten, und Hacker, die es auf moderne VR/MR-Headsets abgesehen haben.
Viele neue Gefahren durch die KI
Aber auch auf der Gegenseite wird sich dank zunehmender Automatisierung ganz sicher einiges verändern. Es zeichnet sich deutlich ab, dass im Zuge der zunehmenden Komplexität bei der Absicherung von Unternehmen und dem voranschreitenden Fachkräftemangel professionelle Managed Security Services auf Basis integrierter Sicherheitsplattformen immer stärker an Schlagkraft gewinnen.
„Jeder neue Technologietrend eröffnet neue Angriffsmöglichkeiten für Cyberkriminelle“, unterstreicht Corey Nachreiner, Chief Security Officer bei WatchGuard Technologies. „Im Jahr 2024 werden die neuen Bedrohungen, die auf Unternehmen und Privatpersonen abzielen, noch schwieriger zu bewältigen sein und insbesondere an den Kräften von kleinen und mittelständischen Unternehmen zehren. Angesichts des anhaltenden Fachkräftemangels im Bereich der Cybersicherheit ist der Bedarf an Managed Service Providern (MSP), aufeinander abgestimmten Sicherheitslösungen und automatisierten Plattformen zur Stärkung der Cybersicherheit und zum Schutz von Unternehmen vor der sich ständig weiterentwickelnden Bedrohungslandschaft so groß wie nie zuvor.“
Die wichtigsten Vorhersagen des WatchGuard Threat Lab
Prompt Engineering überlistet Large Language Models (LLM): Das Experimentieren mit KI-Sprachmodellen ist inzwischen sowohl im Privat- als auch Unternehmensumfeld gang und gäbe, schließlich versprechen diese im Alltag entscheidende Unterstützung. Aber auch Cyberbösewichte wissen diesen Trend zu ihrem eigenen Vorteil auszuspielen. Insofern hält das WatchGuard Threat Lab ein Szenario, in dem ein cleverer Prompt-Engineer – sei es ein krimineller Angreifer oder ein Forscher – den Code knacken und ein LLM so manipulieren wird, dass vertrauliche Daten durchsickern, in den kommenden Monaten für durchaus realistisch.
Zahl der von MSP über automatisierte Plattformen bereitgestellten Security-Services wird sich verdoppeln: Angesichts von rund 3,4 Millionen freien Stellen im IT-Security-Umfeld und des verbitterten Kampfs um Fachkräfte werden 2024 bei der IT-Absicherung immer mehr kleine und mittelständische Unternehmen Unterstützung bei professionellen Dienstleistern (Managed Service Provider oder Managed Security Service Provider) suchen. Um der steigenden Nachfrage und den knappen Personalressourcen gerecht zu werden, werden diese wiederum verstärkt auf einheitliche Sicherheitsplattformen setzen, die auf umfangreicher Automatisierung mithilfe künstlicher Intelligenz (KI) und maschinellem Lernen (ML) basieren.
Verkauf von KI-Spear-Phishing-Tools im Dark Web erlebt Boom: Bereits heute können Cyberkriminelle im Untergrund Werkzeuge erhalten, die Spam-E-Mails versenden, automatisiert überzeugende Texte verfassen und das Internet und die sozialen Medien nach Informationen und Verbindungen eines bestimmten Ziels durchsuchen. Viele davon sind heute noch auf manuelle Anwendung ausgelegt und setzen voraus, dass ein Angreifer zu einem Zeitpunkt jeweils einen Nutzer oder eine spezifische Gruppe ins Visier nimmt. Doch genau diese bisher händischen Schritte werden künftig dank künstlicher Intelligenz und maschinellem Lernen ebenfalls immer stärker automatisiert erfolgen. Umso wahrscheinlicher ist es, dass sich diese neuen KI-gestützten Tools im Jahr 2024 zu Bestsellern im Dark Web entwickeln.
2024 erfolgt Startschuss für KI-gestützten Telefonbetrug (Vishing): Voice over Internet Protocol (VoIP) und Automatisierungstechnologie machen es zwar einfach, Tausende von Nummern in Massen anzuwählen, aber sobald ein potenzielles Opfer mit einem Anruf geködert wurde, ist immer noch ein menschlicher Betrüger nötig, um es endgültig in die Falle zu treiben. Dieser bisherige Vishing-Flaschenhals könnte 2024 der Vergangenheit angehören. WatchGuard prognostiziert, dass die Kombination aus überzeugendem Deepfake-Audio und LLM, die in der Lage sind, weiterführende Gespräche mit ahnungslosen Opfern zu führen, Vishing-Anrufe massiv befeuert. Darüber hinaus ist möglicherweise nicht einmal mehr die Beteiligung eines menschlichen Bedrohungsakteurs erforderlich.
VR/MR-Headsets ermöglichen die Nachbildung von Benutzerumgebungen: Headsets für Virtual und Mixed Reality (VR/MR) erfreuen sich zunehmender Beliebtheit. Doch wo immer neue und nützliche Technologien auftauchen, sind auch kriminelle Hacker meist nicht weit. Die Experten vom WatchGuard Threat Lab erwarten, dass im Jahr 2024 entweder ein Forscher oder ein böswilliger Hacker eine Technik finden wird, um einschlägige Sensordaten von VR/MR-Headsets zu sammeln, auf deren Basis sich die tatsächliche Umgebung, in der die Benutzer spielen, nachempfinden lässt. Dem Missbrauch dieser Informationen stehen damit Tür und Tor offen.
Ausufernder Einsatz von QR-Codes führt zu schlagzeilenträchtigem Angriff: Obwohl es QR-Codes – die eine bequeme Möglichkeit bieten, per Mobilgerät auf einen Link zuzugreifen – schon seit Jahrzehnten gibt, sind diese gerade in letzten Jahren im Mainstream angekommen und finden sich heute beinahe überall wieder. Für die Analysten vom Threat Lab stehen die Chancen extrem hoch, dass es im Jahr 2024 zu einem großen Hack kommen wird, weil jemand einem QR-Code folgt, der zu einem bösartigen Ziel führt.
Mehr bei Watchguard.com
Über WatchGuard WatchGuard Technologies gehört zu den führenden Anbietern im Bereich IT-Sicherheit. Das umfangreiche Produktportfolio reicht von hochentwickelten UTM (Unified Threat Management)- und Next-Generation-Firewall-Plattformen über Multifaktor-Authentifizierung bis hin zu Technologien für umfassenden WLAN-Schutz und Endpoint Protection sowie weiteren spezifischen Produkten und intelligenten Services rund ums Thema IT-Security. Mehr als 250.000 Kunden weltweit vertrauen auf die ausgeklügelten Schutzmechanismen auf Enterprise-Niveau,