Gemeinsam mit Chester Wisniewski, Director, Global Field CISO bei Sophos, haben wir diverse Aspekte über den Einsatz von Künstlicher Intelligenz (KI) sowohl bei der Cybersicherheit als auch seitens der Cyberkriminellen diskutiert. Fakt ist, dass sich beide Seiten der KI bedienen. Doch wer hat den größeren Vorteil?
B2B Cyber Security: Weshalb ist KI für die heutige Cybersicherheit unerlässlich?
Chester Wisniewski, Sophos: KI bietet eine Vielzahl von Vorteilen für die Cybersicherheit: Automatisierung, Geschwindigkeit, Skalierbarkeit oder die verbesserte Erkennung. Regelbasierte Systeme würden einen immensen manuellen Aufwand benötigen, um das Ausmaß moderner Bedrohungen zu bewältigen. KI-Modelle können generalisieren beziehungsweise verallgemeinern, indem sie Beziehungen zwischen einer beliebigen Anzahl von Merkmalen lernen, während menschliche Analysten solche komplexen Regeln nicht schreiben können.
B2B Cyber Security: Welche potenziellen Risiken birgt die generative KI für die Cybersicherheit?
Chester Wisniewski, Director, Global Field CISO Sophos (Bild: Sophos).
Chester Wisniewski, Sophos: In den meisten Fällen nutzen Kriminelle KI für Social Scams und die sozialen Aspekte herkömmlicher Angriffe. KI ermöglicht eine genaue Übersetzung in großem Maßstab, was die Qualität von Social Scams drastisch erhöht. Sie kann auch verwendet werden, um hochwertige Phishing-E-Mails zu erstellen, die von echten E-Mails nicht zu unterscheiden sind. KI-Chatbots sind auch sehr nützlich, um mit potenziellen Opfern ins Gespräch zu kommen und den Köder auszulegen.
B2B Cyber Security: In den Schlagzeilen wird immer häufiger behauptet, dass Kriminelle KI in großem Umfang nutzen. Was halten Sie von dieser Wahrnehmung?
Chester Wisniewski, Sophos: Das glaube ich nicht. Ich habe noch kaum Beweise für den Missbrauch von KI außerhalb von Social Engineering gesehen. Mein Instinkt und meine langjährige Erfahrung sagen mir, dass ein Großteil der E-Mails, sozialen Medien und Textnachrichten von LLM-Modellen generiert wird, aber nur sehr wenig Malware für Exploits.
Jetzt Newsletter abonnieren
Einmal im Monat die besten News von B2B CYBER SECURITY lesenB2B Cyber Security: Wann erwarten Sie, dass die klassischen beziehungsweise normalen Hacker damit beginnen, ihre eigenen KI-Modelle in größerem Umfang einzusetzen?
Chester Wisniewski, Sophos: Erst wenn sie es müssen. Kriminelle sind faul und tun das, was am effektivsten ist, um Geld zu erbeuten oder den Betrieb zu stören. Wir haben beobachtet, wie Ransomware-Gruppen seit über 10 Jahren die besten Techniken voneinander kopieren und ihre Erpressung mit Ransomware nach und nach verbessern, um höhere Lösegeldsummen zu erzielen. Warum sollte sie also Zeit und Geld in die Entwicklung fortschrittlicher Techniken wie LLMs investieren, wenn sie ganz simpel ungepatchte Firewalls ausnutzen oder ein Passwort von einem Benutzer stehlen und sich in ein System einloggen können? Der KI-Vorteil geht derzeit ausschließlich an die Verteidiger, da wir über die Ressourcen und Datenwissenschaftler verfügen, um effiziente Modelle für die Cyberabwehr zu entwickeln. Kriminelle werden dies erst dann tun, wenn es entweder billig und einfach genug ist (wie bei den Audio-Deefakes) oder wenn es effektiver ist als herkömmliche Methoden (was bei Phishing und Spam heute der Fall zu sein scheint).
B2B Cyber Security: Gibt es regionale Unterschiede zwischen Europa und dem Rest der Welt, was den Umgang mit KI in Bezug auf Cyberkriminalität angeht?
Chester Wisniewski, Sophos: Schwierig zu sagen. Anekdotisch würde ich sagen, dass die Verwendung von LLMs zur Generierung von Text in den vielen europäischen Sprachen ein größerer Vorteil ist, um ihre Phishing-Methoden raffinierter zu gestalten, als dies im Englischen der Fall ist, das viel mehr Muttersprachler sprechen. In Gesprächen mit mir bekannten Personen in Portugal scheint zum Beispiel das Gefühl vorzuherrschen, dass zunehmend mehr Phishing-Mails existieren, die korrekt für diesen Markt geschrieben sind und das richtige Portugiesisch (nicht Brasilianisch) enthalten als früher.
B2B Cyber Security: Immer wieder wird der nächste große Evolutionsschritt in der KI mit Quantencomputern in Verbindung gebracht. Werden Quantencomputer die KI wirklich grundlegend revolutionieren, und wird uns dies einen großen Schritt näher an eine echte KI bringen, die selbständig denken kann? Welche Auswirkungen hätte dies auf die Cyberkriminalität?
Chester Wisniewski, Sophos: Das wird nicht in absehbarer Zeit passieren. Wir haben noch keinen Quantencomputer gebaut, der auch nur eine einzige praktische Aufgabe zuverlässig und in großem Maßstab erledigen kann. Wir sollten allerdings schon heute über die Einführung der Post-Quantum-Verschlüsselung nachdenken, weil sensible Daten über längere Zeiträume geschützt werden müssen. Aber von KI mit Quantum Computing sind wir noch weit entfernt.
B2B Cyber Security: Zu einer anderen Plattform: Wo sehen Sie die Rolle von Open-Source-KI und hat sie neben den großen Anbietern mit Produkten wie Deepk Seek oder GROK 3 überhaupt eine Chance?
Chester Wisniewski, Sophos: Open-Source-KI-Gewichtungen sind ein interessantes Thema. Ich denke, dass sie vielen Menschen, die mit GenAI-Modellen arbeiten wollen, den Einstieg erleichtern, weil sie weniger Geld und Ressourcen für den Einstieg benötigen. Ich komme aus Kanada, und wir hatten nicht die Mittel, um Hunderte von Millionen US-Dollar in den Aufbau eines OpenAI-Konkurrenten zu investieren. Aber durch die Nutzung dieser offenen Modelle gibt es im ganzen Land Tech-Startups, die mit neuen Anwendungen experimentieren. Diese Modelle bergen zwar auch Risiken, da wir nicht genau wissen, worauf sie trainiert wurden oder ob die Daten manipuliert wurden, aber sie öffnen das Spielfeld auf positive Weise.
B2B Cyber Security: Sehen Sie bei generativen KI-Tools besondere Gefahren, die für Unternehmen ein Problem darstellen könnten – abgesehen von den Kriminellen, die sie zur Schaffung von Bedrohungen einsetzen?
Chester Wisniewski, Sophos: Wie gesagt, wir wissen nicht genau, worauf die KI-Tools trainiert wurden. Ich würde sicherlich keine sensiblen Daten auf Modelle in Ländern hochladen, die unsere lokalen Datenschutzgesetze und -bestimmungen nicht respektieren. Aber ich denke, dass sie sicher sind, wenn sie lokal oder auf einer vertrauenswürdigen Cloud-Computing-Infrastruktur betrieben werden. Mich beunruhigt vielmehr die Tatsache, dass diese Tools in andere Produkte und Dienstleistungen, integriert werden können, ohne dass ordnungsgemäß offengelegt wird, wo unsere Daten verarbeitet werden.
B2B Cyber Security: Könnten Open-Source-KI-Modelle ein interessanter Ansatz für eigene Modelle für Cyberkriminelle sein?
Chester Wisniewski, Sophos: Prinzipiell könnten Kriminelle diese Modelle für ihre Zwecke missbrauchen. Höchstwahrscheinlich tun sie das bereits, momentan allerdings nur versuchsweise. Die Frage ist, ob sie sich die Mühe lohnt. Wenn sie öffentlich gehostete Modelle verwenden können und ihre bestehenden Tools und Techniken funktionieren, werden sie sich nicht die Mühe machen. Nur wenn es einfacher, billiger und effektiver ist, werden sie sich die Mühe machen. Heute missbrauchen sie einfach die großen Anbieter mit gestohlenen Konten oder Kreditkarten und nutzen sie für Social Engineering-Zwecke. Das ist viel einfacher, als ein eigenes Modell zu trainieren oder zu betreiben. Morgen… wer weiß?
Vielen Dank für das interessante Gespräch Herr Wisniewski!
Mehr bei Sophos.com
Über Sophos Mehr als 100 Millionen Anwender in 150 Ländern vertrauen auf Sophos. Wir bieten den besten Schutz vor komplexen IT-Bedrohungen und Datenverlusten. Unsere umfassenden Sicherheitslösungen sind einfach bereitzustellen, zu bedienen und zu verwalten. Dabei bieten sie die branchenweit niedrigste Total Cost of Ownership. Das Angebot von Sophos umfasst preisgekrönte Verschlüsselungslösungen, Sicherheitslösungen für Endpoints, Netzwerke, mobile Geräte, E-Mails und Web. Dazu kommt Unterstützung aus den SophosLabs, unserem weltweiten Netzwerk eigener Analysezentren. Die Sophos Hauptsitze sind in Boston, USA, und Oxford, UK.