Kriminelle nutzen immer mehr KI

KI Schutz Attacke Deepfake
Anzeige

Beitrag teilen

Kriminelle nutzen künstliche Intelligenz – nicht nur für Deepfakes. Europol, UNICRI und Trend Micro berichten über aktuelle und zukünftige Bedrohungen durch KI.

Trend Micro stellt heute einen neuen Forschungsbericht vor, der in Zusammenarbeit mit Europol und dem Interregionalen Institut der Vereinten Nationen für Kriminalitäts- und Justizforschung (UNICRI) entstand. Darin befassen sich die Sicherheitsforscher mit der aktuellen und möglichen zukünftigen Nutzung von künstlicher Intelligenz (KI) durch Kriminelle. Der Bericht liefert Strafverfolgungsbehörden, politischen Entscheidungsträgern und anderen Organisationen Informationen über aktuell stattfindende und potenzielle zukünftige Angriffe, bei denen künstliche Intelligenz eingesetzt wird, sowie Empfehlungen zur Eindämmung dieser Risiken.

Anzeige

Potenzielle Vorteile der KI-Technologie

„KI verspricht der Welt mehr Effizienz, Automatisierung und Autonomie. In einer Zeit, in der die Öffentlichkeit zunehmend über den möglichen Missbrauch von KI besorgt ist, müssen wir die Bedrohungen transparent machen, aber auch die potenziellen Vorteile der KI-Technologie untersuchen“, sagt Edvardas Šileris, Leiter des Cyberkriminalitätszentrums von Europol (Europol EC3). „Dieser Bericht wird uns nicht nur dabei helfen, mögliche böswillige Verwendungen und Missbräuche von KI zu antizipieren, sondern auch diese Bedrohungen proaktiv zu verhindern und einzudämmen. Auf diese Weise können wir das Potenzial der KI freisetzen und von der positiven Nutzung der KI-Systeme profitieren.“

Der Bericht kommt zu dem Schluss, dass Cyberkriminelle KI sowohl als Angriffsvektor als auch als Angriffsoberfläche nutzen werden. Deepfakes (realistisch wirkende Medieninhalte wie Foto, Audio und Video, welche durch KI abgeändert und verfälscht wurden) stellen derzeit die bekannteste Nutzung von KI als Angriffsvektor dar. Der Bericht warnt jedoch davor, dass in Zukunft neue Screening-Technologien erforderlich sein werden, um das Risiko von Desinformationskampagnen und Erpressung sowie von Bedrohungen, die auf KI-Datensätze abzielen, zu verringern.

Anzeige

KI könnte folgende Angriffsarten unterstützen

  • Überzeugende Social-Engineering-Angriffe in großem Maßstab
  • Malware, mit der in großem Maße bestimmte Daten aus Dokumenten exfiltriert werden können (Document Scraping)
  • Umgehung von Bilderkennung und Stimmbiometrie
  • Ransomware-Angriffe, bei denen die Opfer noch gezielter ausgewählt und Schutzmechanismen umgangen werden
  • Datenverschmutzung durch die Identifizierung von blinden Stellen in Erkennungsregeln

„In dem Maße, in dem KI-Anwendungen einen wachsenden Einfluss auf die reale Welt nehmen, wird klar, dass dies zukünftig eine grundlegende Technologie sein wird“, erklärt Irakli Beridze, Leiter des Zentrums für KI und Robotik bei UNICRI. „Doch so wie KI für die Gesellschaft sehr reale Vorteile bietet sind, ist auch die Bedrohung durch böswillige Nutzung allgegenwärtig. Wir fühlen uns geehrt, gemeinsam mit Europol und Trend Micro ein Licht auf die dunkle Seite der KI zu werfen und weitere Diskussionen zu diesem wichtigen Thema anzuregen.“

Der Report warnt auch davor, dass KI-Systeme entwickelt werden, um die Wirksamkeit von Malware zu verbessern und Anti-Malware- und Gesichtserkennungssysteme zu stören.

KI errechnet Passwörtern, bricht CAPTCHA-Codes, klont Stimmen

„Cyberkriminelle gehören schon immer zu den ersten Nutzern der neuesten Technologien – das ist auch bei KI so. Wie unser Bericht zeigt, wird sie bereits für das Ermitteln von Passwörtern, das Brechen von CAPTCHA-Codes und das Klonen von Stimmen verwendet. Zudem sind noch viele weitere bösartige Innovationen in Arbeit“, so Martin Rösler, Leiter des Forward-Looking Threat Research Teams bei Trend Micro. „Wir sind stolz darauf, mit Europol und UNICRI zusammenzuarbeiten, um das Bewusstsein für diese Bedrohung zu schärfen und auf diese Weise dazu beizutragen, eine sicherere digitale Zukunft für uns alle zu schaffen.“

Die drei Organisationen empfehlen zum Abschluss des Berichts verschiedene Maßnahmen im Umgang mit KI:

  • Nutzung des Potentials von KI-Technologie als Mittel zur Verbrechensbekämpfung, um die Cybersicherheits-Branche und die Polizei zukunftsfähig zu machen
  • Fortsetzung der Forschung im KI-Bereich, um weitere Verteidigungstechnologien zu entwickeln
  • Förderung und Entwicklung sicherer KI-Design-Frameworks
  • Deeskalation von politisch aufgeladener Rhetorik über den Einsatz von KI für Zwecke der Cybersicherheit
  • Nutzung öffentlich-privater Partnerschaften und Einrichtung multidisziplinärer Expertengruppen

Der gesamte Forschungsbericht ist online verfügbar.

Direkt zum Bericht bei TrendMicro.com

 


Über Trend Micro

Als einer der weltweit führenden Anbieter von IT-Sicherheit hilft Trend Micro dabei, eine sichere Welt für den digitalen Datenaustausch zu schaffen. Mit über 30 Jahren Sicherheitsexpertise, globaler Bedrohungsforschung und beständigen Innovationen bietet Trend Micro Schutz für Unternehmen, Behörden und Privatanwender. Dank unserer XGen™ Sicherheitsstrategie profitieren unsere Lösungen von einer generationsübergreifenden Kombination von Abwehrtechniken, die für führende Umgebungen optimiert ist. Vernetzte Bedrohungsinformationen ermöglichen dabei besseren und schnelleren Schutz. Unsere vernetzten Lösungen sind für Cloud-Workloads, Endpunkte, E-Mail, das IIoT und Netzwerke optimiert und bieten zentrale Sichtbarkeit über das gesamte Unternehmen, um Bedrohung schneller erkennen und darauf reagieren zu können. Mit über 6.700 Mitarbeitern in 65 Ländern und der weltweit fortschrittlichsten Erforschung und Auswertung globaler Cyberbedrohungen ermöglicht Trend Micro Unternehmen, ihre vernetzte Welt zu schützen. Die deutsche Niederlassung von Trend Micro befindet sich in Garching bei München. In der Schweiz kümmert sich die Niederlassung in Wallisellen bei Zürich um die Belange des deutschsprachigen Landesteils, der französischsprachige Teil wird von Lausanne aus betreut; Sitz der österreichischen Vertretung ist Wien.


 

Passende Artikel zum Thema

Datenqualität für Machine Learning und künstliche Intelligenz

IDC Studie: Sicherstellung der Datenqualität sowie Erfassung und Klassifizierung relevanter Daten bremse datengetriebene Geschäftsmodelle in Deutschland aus - auch für ➡ Weiterlesen

Sophos fördert KI-Zusammenarbeit in Security-Branche

Sophos setzt bei seinen KI-Entwicklungen auf branchenübergreifendes Teamwork. SophosAI setzt mit neuem Ansatz auf das öffentliche Teilen von Informationen und fördert ➡ Weiterlesen

Cybersicherheit und digitale Forensik via Künstlicher Intelligenz – KI 

Compliance- und Risikomanagement-Abteilungen von Unternehmen und Behörden haben in der Regel viele manuelle Prozesse. Um überhaupt mit den Datenbergen und ➡ Weiterlesen

IT-Security-Trends 2022: KI, Windows 11, Ransomware

G DATA IT-Security-Trends 2022: Künstliche Intelligenz macht Cyberattacken gefährlicher,  Multi-Ransomware-Angriffe verwenden KI und Windows 11 bietet mit integrierten Android-Apps eine ➡ Weiterlesen

Mehr Sicherheit im SOC mit automatisierter Intelligenz

Warum Automatisation, künstliche Intelligenz und maschinelles Lernen für den SOC-Betrieb immer wichtiger werden. Die Algorithmen sind im Vergleich zum Menschen ➡ Weiterlesen

CyberSec&AI Connected 2021 Konferenz

Bereits am 04. November 2021 startet zum dritten Mal die CyberSec&AI Connected 2021 Konferenz mit dem Thema: "Die zukünftige Rolle ➡ Weiterlesen

KI – kommende Gefahr oder Segen?

Wie lässt sich das volle Potenzials der künstlichen Intelligenz (KI) sicher nutzen? Das ist die Kernfrage der digitalen Konferenz am ➡ Weiterlesen

Studie: KI ist der wichtigste Erfolgsfaktor 

KI ist der wichtigste Erfolgsfaktor – sagen mehr als 80 Prozent der Finanzinstitute in einer NTT DATA-Studie. Aber: Nur 16 Prozent ➡ Weiterlesen