Kreative Betrugsversuche mit Chatbots

B2B Cyber Security ShortNews

Beitrag teilen

Die dunkle Seite der Popularität von ChatGPT ist, dass dies auch die Aufmerksamkeit von Betrügern auf sich zieht, die versuchen, von der Verwendung von Formulierungen und Domainnamen zu profitieren, die im Zusammenhang mit der Website erscheinen.

Zwischen November 2022 und Anfang April 2023 verzeichnete Unit 42 einen Anstieg der monatlichen Registrierungen für Domains im Zusammenhang mit ChatGPT um 910 %. Außerdem beobachtete Unit 42 in diesem Zeitraum ein 17.818-prozentiges Wachstum verwandter Squatting-Domains aus DNS-Sicherheitsprotokollen. Unit 42 verzeichnete außerdem täglich bis zu 118 Erkennungen bösartiger URLs im Zusammenhang mit ChatGPT, die aus dem Datenverkehr erfasst wurden.

Nachahmer-Chatbots

In der Analyse stellt Unit 42 mehrere Fallstudien vor, um die verschiedenen Methoden zu veranschaulichen, mit denen Betrüger Benutzer dazu verleiten, Malware herunterzuladen oder vertrauliche Informationen weiterzugeben. Als OpenAI am 1. März 2023 seine offizielle API für ChatGPT veröffentlichte, hat Unit 42 eine zunehmende Anzahl verdächtiger Produkte beobachtet, die es verwenden. Daher hebt Unit 42 die potenziellen Gefahren der Verwendung von Nachahmer-Chatbots hervor, um ChatGPT-Benutzer zu ermutigen, sich solchen Chatbots mit einer defensiven Denkweise zu nähern.

Während OpenAI seinen rasanten Aufstieg zu einer der bekanntesten Marken im Bereich der künstlichen Intelligenz begann, beobachtete Unit 42 mehrere Fälle von Bedrohungsakteuren, die sich in freier Wildbahn besetzende Domains registrierten und nutzten, die „openai“ und „chatgpt“ als ihre Domain verwendeten Name (z. B. openai[.]us, openai[.]xyz und chatgpt[.]jobs). Die meisten dieser Domains hosten Anfang April 2023 nichts Bösartiges, aber es ist besorgniserregend, dass sie nicht von OpenAI oder anderen authentischen Domain-Verwaltungsunternehmen kontrolliert werden. Sie könnten jederzeit missbraucht werden, um Schaden anzurichten.

Während der Recherche beobachtete Unit 42 mehrere Phishing-URLs, die versuchten, sich als offizielle OpenAI-Websites auszugeben. Typischerweise erstellen Betrüger eine gefälschte Website, die das Erscheinungsbild der offiziellen ChatGPT-Website genau nachahmt, und verleiten dann Benutzer dazu, Malware herunterzuladen oder vertrauliche Informationen zu teilen.

Gefälschte ChatGPT-Sites

Darüber hinaus können Betrüger ChatGPT-bezogenes Social Engineering für Identitätsdiebstahl oder Finanzbetrug verwenden. Obwohl OpenAI Benutzern eine kostenlose Version von ChatGPT zur Verfügung stellt, führen Betrüger Opfer zu betrügerischen Websites und behaupten, dass sie für diese Dienste bezahlen müssen. Beispielsweise versuchen gefälschte ChatGPT-Sites, Opfer dazu zu verleiten, ihre vertraulichen Informationen wie Kreditkartendaten und E-Mail-Adressen preiszugeben. Unit 42 bemerkte auch, dass einige Betrüger die wachsende Popularität von OpenAI für Krypto-Betrug ausnutzen.

Während ChatGPT in diesem Jahr zu einer der beliebtesten Anwendungen geworden ist, sind auch immer mehr Nachahmer-KI-Chatbot-Anwendungen auf dem Markt erschienen. Einige dieser Anwendungen bieten ihre eigenen großen Sprachmodelle an, andere behaupten, dass sie ChatGPT-Dienste über die am 1. März angekündigte öffentliche API anbieten. Die Verwendung von Nachahmer-Chat-Bots könnte jedoch die Sicherheitsrisiken erhöhen. Vor der Veröffentlichung der ChatGPT-API gab es mehrere Open-Source-Projekte, die es Benutzern ermöglichten, sich über verschiedene Automatisierungstools mit ChatGPT zu verbinden. Angesichts der Tatsache, dass ChatGPT in bestimmten Ländern oder Regionen nicht zugänglich ist, könnten Websites, die mit diesen Automatisierungstools oder der API erstellt wurden, eine beträchtliche Anzahl von Benutzern aus diesen Bereichen anziehen. Dies bietet Bedrohungsakteuren auch die Möglichkeit, ChatGPT zu monetarisieren, indem sie ihren Dienst vertreten. Benutzer sollten ChatGPT immer über die offizielle OpenAI-Website aufrufen.

Mehr bei PaloAltoNetworks.com

 


Über Palo Alto Networks

Palo Alto Networks, der weltweit führende Anbieter von Cybersicherheitslösungen, gestaltet die cloudbasierte Zukunft mit Technologien, die die Arbeitsweise von Menschen und Unternehmen verändern. Unsere Mission ist es, der bevorzugte Cybersicherheitspartner zu sein und unsere digitale Lebensweise zu schützen. Wir helfen Ihnen, die größten Sicherheitsherausforderungen der Welt mit kontinuierlichen Innovationen anzugehen, die die neuesten Durchbrüche in den Bereichen künstliche Intelligenz, Analytik, Automatisierung und Orchestrierung nutzen. Durch die Bereitstellung einer integrierten Plattform und die Stärkung eines wachsenden Ökosystems von Partnern sind wir führend beim Schutz von Zehntausenden von Unternehmen über Clouds, Netzwerke und mobile Geräte hinweg. Unsere Vision ist eine Welt, in der jeder Tag sicherer ist als der vorherige.


 

Passende Artikel zum Thema

Schutzlösungen für MacOS Sonoma im Test

Der große Test von Schutz-Software für Unternehmen und Einzelplatz-PCs für MacOS fand im AV-TEST-Labor erstmals unter der MacOS Version Sonoma ➡ Weiterlesen

BSI: Neue Studie zu Hardware-Trojaner 

Das BSI hat eine Studie veröffentlicht zu Manipulationsmöglichkeiten von Hardware in verteilten Fertigungsprozessen. Dabei geht es um versteckte Chips auf ➡ Weiterlesen

Intel schließt kritische und hochgefährliche Sicherheitslücken

Fast etwas unauffällig hat Intel viele Sicherheitslücken in seinen Produkten geschlossen. Mit dabei sind eine kritische Lücke mit dem CVSS-Wert ➡ Weiterlesen

BSI und Zero Day Initiative warnt vor kritischer Azure Schwachstelle  

Die Zero Day Initiative (ZDI) sammelt und verifiziert gemeldete Schwachstellen. Nun gibt es wohl eine kritische Schwachstelle in Azure mit dem ➡ Weiterlesen

Hoffnung für Unternehmen: FBI hat 7.000 LockBit Ransomware-Keys

Bereits im Februar und im Mai startete FBI, Europol und viele andere Behörden die Operationen gegen die Ransomware-Erpresser LockBit. Dabei ➡ Weiterlesen

Google-Leak: Datenbank belegt Datenpannen

Einem Journalist wurde eine Google-Datenbank zugespielt die tausende interne Datenpannen von 2013 bis 2018 enthalten und intern bei Google gelöst ➡ Weiterlesen

Keylogger stiehlt bei Exchange Servern Login-Daten

Das Incident Response Team des PT ESC hat einen neuartigen Keylogger in der Hauptseite eines Microsoft Exchange Servers entdeckt. Jeder ➡ Weiterlesen

Fluent Bit: Angriff auf Cloud-Dienste über Protokollierungs-Endpunkte

Tenable Research hat in Fluent Bit, einer Kernkomponente der Überwachungsinfrastruktur vieler Cloud-Dienste, eine kritische Sicherheitslücke namens „Linguistic Lumberjack“ entdeckt, die ➡ Weiterlesen