KI: Gefährliche Deepfakes & Robocalls

KI: Gefährliche Deepfakes & Robocalls Bild: Bing - KI

Beitrag teilen

Was Unternehmen über Deepfakes & Robocalls wissen müssen: Mit KI sind nun Dinge möglich, mit denen sich Mitarbeiter perfekt täuschen lassen. Auch wenn die Gesetzgeber die Strafen dafür erhöhen: die Gefahr bleibt für Unternehmen. 

Zusammen mit einigen Ihrer Kollegen nehmen Sie an einer Video-Konferenz teil und Ihr Chief Revenue Officer (CRO) bittet Sie darum, eine Überweisung zu tätigen. Würden Sie es tun? – Ein Angestellter in Hongkong hat die Überweisung getätigt und damit im Februar dieses Jahres umgerechnet 24 Millionen Euro an eine Betrügerbande transferiert. Er wurde Opfer einer KI-basierten Deep-Fake-Attacke. Dieses Beispiel zeigt die Raffinesse der Angreifer, den hohen Reifegrad der Technologie und deren Schadpotenzial. Paul Laudanski, Director Security Research bei Onapsis erklärt, welche Maßnahmen Unternehmen ergreifen können, um sich zu schützen.

Millionen-Verlust durch Videocall-Betrug

Die Zeiten, als Betrugsversuche mit monotoner, roboterhafter Stimme und holprigen Bilder daherkamen, sind vorbei. Cyberkriminelle verwenden modernste künstliche Intelligenz (KI) zur Erstellung von Fakes und nutzen diese, um Desinformation zu verbreiten oder mithilfe von Robocall-Betrügereien Geld zu erbeuten.

Der Fall aus Hongkong zeigt, welche verheerenden Folgen und finanziellen Schäden KI-gestützte Deepfakes nach sich ziehen können. Berichten zufolge nahm das Opfer in einer Fake-Konferenz teil, in der weder der CRO noch die anderen Anwesenden im Call „echt“ gewesen sein sollen. Aussehen und Stimmen der Zielpersonen konnten mithilfe von Deepfake-Technologie und öffentlich zugänglichem Video- und Audiomaterial akribisch und (offenbar) sehr überzeugend nachgebildet werden.

KI-generierte Deepfakes stellen durch soziale und politische Manipulation eine enorme Bedrohung für Demokratie, Rechtstaat und Wirtschaft dar. Außerdem legen sie die Messlatte für die Betrugserkennung sowohl für Privatpersonen als auch für Unternehmen höher. Mehr Wachsamkeit und Skepsis gegenüber öffentlicher und vermeintlich privater Kommunikation sind gefragt.

Gesetzgeber schreiten ein

Eine so große und omnipräsente Bedrohung wie die durch Deepfakes ruft Gesetzgeber weltweit auf den Plan. So hat die US-amerikanische Federal Communications Commission (FCC) im Frühjahr 2024 entschieden, die Verwendung von KI-generierten Stimmen zu verbieten. Dies ist eine direkte Reaktion auf den zunehmenden Missbrauch von Sprachsynthese-Technologie und angesichts des Skandals um Präsident Biden von besonderer Bedeutung: Zu Beginn des Jahres wurden in einer Robocall-Kampagne gefälschte Audiodateien verwendet, die vorspiegelten, vom aktuellen Präsidenten zu sein.

In der EU sollen Deepfakes über den AI Act reguliert werden. Wer einen Deepfake erstellt oder verbreitet, muss zukünftig dessen künstlichen Ursprung und die verwendete Technik offenlegen. So sollen Verbraucher Manipulationen erkennen und informierte Entscheidungen treffen können. Fraglich ist jedoch, ob Transparenzverpflichtungen allein wirksam schützen können, da nicht davon auszugehen ist, dass Akteure mit böswilligen Absichten sich an die Vorschriften halten werden. Deshalb sind Unternehmen und deren Mitarbeitenden zur Eigenverantwortung und Wachsamkeit aufgerufen.

So können sich Unternehmen vor Robocalls und KI-Betrug schützen

  • Bei Anrufen und Nachrichten von unbekannten Quellen gilt erhöhte Vorsicht, insbesondere, wenn die Kontaktperson vorgibt, ihr Anliegen sei sehr dringend, oder die Transaktion von Informationen bzw. hohen Geldbeträgen fordert. Anrufe von angeblichen Unternehmensvertretern oder Behörden sollten daher immer auf ihre Authentizität hin überprüft werden.
  • Persönliche oder finanzielle Informationen sollten niemals über das Telefon, Videokonferenzen oder ungeprüfte Links weitergegeben werden.
  • Unternehmen können verdächtige Anrufe und Telefonbetrüger bei der Polizei oder der Bundesnetzagentur melden. Diese können Anzeige erstatten, Bußgelder erheben und beteiligte Telefonnummern sperren.
  • Online-Konten sollten durch sichere Passwörter und Zwei-Faktor-Authentifizierung geschützt werden. Wichtig: Nicht das gleiche Passwort für mehrere Accounts nutzen.
  • Durch spezielle Tools zum Blockieren von Anrufen und der Erstellung einer „Do Not Call List“ können Robocalls und Telemarketing-Anrufe eingedämmt werden.

Darüber hinaus helfen eine konsequente Threat Detection and Response-Strategie und kontinuierliche Threat Intelligence Research wie die der Onapsis Research Labs Unternehmen dabei, sich zu schützen.

Mehr bei Onapsis.com

 


Über Onapsis

Onapsis schützt die Geschäftsanwendungen, die die globale Wirtschaft stützen. Die Onapsis-Plattform bietet Vulnerability Management, Change Assurance und ermöglicht kontinuierliche Compliance für Geschäftsanwendungen führender Anbieter wie SAP, Oracle und anderen. Die Onapsis-Plattform wird von den Onapsis Research Labs betrieben, deren Teams bereits mehr als 1.000 Zero-Day-Schwachstellen in Geschäftsanwendungen identifiziert und entschärft haben.


 

Passende Artikel zum Thema

Richtlinien-Compliance: Risikobewertung ist der erste Schritt

Die Umsetzung nationaler und europäischer Richtlinien zur Cybersicherheit kann für Unternehmen belastend sein und dadurch die Compliance beeinträchtigen. Dabei soll ➡ Weiterlesen

KI-Funktionen zur Vorhersage und Vorbeugung von IT-Problemen

Der Hersteller einer KI-gestützte Observability-Plattform kündigte eine Erweiterung seiner KI-Engine Davis AI an, die Unternehmen über reaktive AIOps hinaus zu ➡ Weiterlesen

KI-Funktionen verwandeln Support in automatisierte Workflows

Ein Anbieter für Cloud-Kommunikation und IT-Lösungen kündigte leistungsstarke neue KI-Funktionen dür den Support an. Diese innovativen Features sollen die IT-Verwaltung ➡ Weiterlesen

SaaS-Verletzungen haben sich verdreifacht

Im letzten Jahr waren sämtliche Branchen von SaaS-Verletzungen betroffen. Insgesamt hat sich die Zahl der Angriffe um 300 Prozent erhöht. ➡ Weiterlesen

Bedrohungsdaten als Feed: Vorsprung für die Cyber-Abwehr

[wpcode id="17192"] Nur wenn die Security-Lösung mit aktuellen Bedrohungsdaten gefüttert wird, hat die Cyberabwehr einen wichtigen Vorsprung. Viele Unternehmen nutzen ➡ Weiterlesen

Brand Phishing: Microsoft an erster Stelle

Der Trend zu Brand Phishing, um persönliche Zugangsdaten und Informationen zu stehlen, ist ungebrochen. Im letzten Quartal 2024 kamen die ➡ Weiterlesen

Home Office Sicherheit: Was Ihr Unternehmen wissen sollte

Unternehmen & Home Office: Ohne die schützenden Mauern der Firmen-IT werden Mitarbeiter schnell zur ersten Verteidigungslinie gegen Cyberangriffe – eine ➡ Weiterlesen

Hybrid Cloud sorgt für geschäftliche Agilität

IT-Infrastrukturen in Unternehmen müssen zunehmend leistungsfähiger werden. Eine gute Cloud-Strategie ist die Voraussetzung für die nächste Stufe der digitalen Transformation. ➡ Weiterlesen