Gute KI, schlechte KI

B2B Cyber Security ShortNews

Beitrag teilen

Laut Sicherheitsforschern in Israel setzen Hacker-Banden bereits Künstliche Intelligenz (KI) ein, um ihre neuen Mitglieder zu trainieren. Außerdem werden Sie von KI unterstützt, um Malware zu verbessern, Angriffe zu automatisieren und allgemein ihre kriminellen Tätigkeiten reibungslos zu gestalten.

Auf der anderen Seite haben die Unternehmensberater von McKinsey mittels einer Umfrage für das Jahr 2022 herausgefunden, dass 50 Prozent der befragten Unternehmen mindesten in einem Geschäftsbereich eine KI zur Unterstützung der Arbeit einsetzen – 2017 waren es nur 20 Prozent gewesen. Laut Forbes Magazin glauben sogar 60 Prozent der befragten Unternehmer, dass KI die Produktivität ihrer Firma allgemein steigern wird, wobei 64 Prozent an eine Steigerung der betrieblichen Produktivität glauben, während 42 Prozent sich auf die Verbesserung von Arbeitsabläufen beziehen.

Anzeige

Diese Gegenüberstellung zeigt schön, wie auch hier ein und dieselbe Technologie zu guten und schlechten Zwecken benutzt werden kann. Die Sorge, die derzeit aber die Bevölkerung am stärksten umtreibt: Kann KI lernen, welches Einsatzgebiet gut oder schlecht ist, um selbstständig einen Missbrauch zu verhindern?

ChatGPT und Google Bard helfen Hackern

  • Automatisierte Cyber-Angriffe: Seit beide Tools am Markt sind, sehen unsere Sicherheitsforscher eine starke Zunahme von Bots, die infizierte Computer fernsteuern, und anderen automatisierten Systemen. Diese eignen sich vorzüglich für DDoS-Attacken, die mit enorm vielen Zugriffsanfragen einen Server, oder ein komplettes System, lahmlegen können. Auch aus diesem Grund nahmen die IT-Attacken im letzten Jahr, weltweit betrachtet, um 38 Prozent zu.
  • Hilfe bei der Erstellung von Malware, Phishing-E-Mails, Deepfakes und der Konzipierung von Cyber-Angriffen: Hacker haben früh erkannt, dass ChatGPT ihnen Befehlszeilen für Malware erstellen oder Phishing-E-Mails schreiben kann – letztere in einem besseren Englisch oder Deutsch erstellt, als die Kriminellen das oft selbst könnten. Da ChatGPT und Google Bard außerdem mit jeder Eingabe lernen, können sie sogar komplizierte Inhalte erstellen, wie Bilder, Videos oder sogar Tonaufnahmen. Hier kommt die Gefahr von Deepfakes ins Spiel. Dies meint Filme, die einen bestimmten Menschen so zeigen und sprechen lassen, wie man es von ihm gewohnt ist, obwohl es sich um eine Fälschung handelt. Moderne Technik ermöglicht hier die Fälschung der Mimik, Gestik und Stimme. Barack Obama, Joe Biden, Wolodymyr Selenskyj und Wladimir Putin sind schon Opfer solcher Deepfakes geworden.
  • Klein-Kriminelle ohne große Programmierfähigkeit können zu Hackern werden: Mithilfe solcher KI-getriebener Chatbots können, wie oben erwähnt, Hacker-Banden ihre neuen Mitglieder trainieren, oder es können Menschen mit krimineller Energie schnell einen kleinen IT-Angriff basteln und starten. Dies führt zu einer Flut von, sozusagen, Mini-Attacken und von neuen Hacker-Gruppen.

Um diesen Missbrauch zu verhindern, haben die Hersteller von ChatGPT, die Firma OpenAI, zwar einige Sicherheitsvorrichtungen eingebaut und Länder von der Nutzung ausgeschlossen, aber dies hielt nicht lange stand: Zuerst wurden die Anfragesperren durch geschicktes Fragen des Chatbots umgangen, dann wurden die Länder-Restriktionen ausgehebelt, danach im großen Stil Premium-Konten gestohlen sowie verkauft und mittlerweile werden im Darknet sogar Klone von ChatGPT angeboten, in Form von API-Schnittstellen.

Eine Möglichkeit, um die KI selbst weniger anfällig für Missbrauch zu machen, ist das Training der KI an sich. Techniker sind sich einig, dass es unmöglich ist, einmal gelerntes Wissen aus einer KI zu entfernen, daher sollte von Beginn an eine Art von Ethik-Katalog der KI beigebracht werden, damit sie sich von selbst an gewisse Regeln hält. Dies wäre auch mit Gesetzen möglich, die manche Aktionen schlicht verbieten.

Mehr bei Checkpoint.com

 


Über Check Point

Check Point Software Technologies GmbH (www.checkpoint.com/de) ist ein führender Anbieter von Cybersicherheits-Lösungen für öffentliche Verwaltungen und Unternehmen weltweit. Die Lösungen schützen Kunden vor Cyberattacken mit einer branchenführenden Erkennungsrate von Malware, Ransomware und anderen Arten von Attacken. Check Point bietet eine mehrstufige Sicherheitsarchitektur, die Unternehmensinformationen in CloudUmgebungen, Netzwerken und auf mobilen Geräten schützt sowie das umfassendste und intuitivste „One Point of Control“-Sicherheits-Managementsystem. Check Point schützt über 100.000 Unternehmen aller Größen.


 

Passende Artikel zum Thema

Cyberkriminelle missbrauchen DeepSeek für Betrugsmaschen

Mit dem Fortschritt künstlicher Intelligenz entwickeln sich auch die Methoden von Cyberkriminellen weiter. Der jüngste Anstieg KI-gestützter Betrugsmaschen rund um ➡ Weiterlesen

Cyber-Security-Report: Angriffe 2024 um 44 Prozent gestiegen

Die Gefahren durch Cyber-Kriminelle nehmen zu, vor allem durch den Einsatz generativer KI, so das Ergebnis des Cyber-Security-Reports 2025. Zu ➡ Weiterlesen

Warnung vor chinesischer Ransomware-Bande Ghost

Die US-amerikanischen Behörden CISA, FBI und das Multi-State Information Sharing and Analysis Center (MS-ISAC) haben gemeinsam eine Analyse der Aktivitäten ➡ Weiterlesen

Cyberattacken gegen das Landesdatennet in Thüringen

Das Landesdatennetz in Thüringen muss vielfältige digitale Angriffe abwehren. Teilweise gab es im vergangenen Jahr gezielte Attacken auf Systeme der ➡ Weiterlesen

PlushDaemon: Neue chinesische APT-Gruppe entdeckt

Die chinesische APT-Hackergruppe PlushDaemon greift sowohl Unternehmen als auch Privatnutzer auf der ganzen Welt an. Mit dem Backdoor "Slow Stepper" ➡ Weiterlesen

Phishing: Neue Attacken über kompromittierte Reisebüro-Konten

Aktuell nutzen Cyberkriminelle die Konten einer bekannten Reiseagentur, um Phishing-Mails in Umlauf zu bringen und auf diese Weise Schadsoftware zu ➡ Weiterlesen

Deutsche Unternehmensnetzwerke von Angriffen bedroht

Laut einer aktuellen IT-Sicherheitsstudie ist das Unternehmensnetzwerk jeder zweiten deutschen Organisation Ziel von Cyberangriffen. Bei rund 40 Prozent von ihnen ➡ Weiterlesen

Cyberangriff auf Staatsregierung und Polizei

Nach Informationen des BR kam es zu einem stundenlangen Cyberangriff auf Webseiten von Staatsregierung und Polizei. Das Landesamt für Sicherheit ➡ Weiterlesen