Темна сторона популярності ChatGPT полягає в тому, що він також привертає увагу шахраїв, які намагаються отримати прибуток від використання фраз і доменних імен, пов’язаних із сайтом.
У період з листопада 2022 року до початку квітня 2023 року кількість щомісячних реєстрацій доменів, пов’язаних із ChatGPT, у Unit 42 зросла на 910%. Підрозділ 42 також спостерігав зростання на 17.818 42 відсотків пов’язаних самовільних доменів із журналів безпеки DNS протягом цього періоду. Блок 118 також щодня реєстрував до XNUMX виявлень зловмисних URL-адрес, пов’язаних із ChatGPT.
Copycat Chatbots
Під час аналізу Unit 42 представляє кілька прикладів, щоб проілюструвати різні методи, які використовують шахраї, щоб обманом змусити користувачів завантажити зловмисне програмне забезпечення або надати конфіденційну інформацію. Коли OpenAI випустив свій офіційний API для ChatGPT 1 березня 2023 року, підрозділ 42 помітив, що кількість підозрілих продуктів, які його використовують, зростає. Таким чином, Розділ 42 підкреслює потенційну небезпеку використання копіювальних чат-ботів, щоб спонукати користувачів ChatGPT підходити до таких чат-ботів із захисним мисленням.
Коли OpenAI почав стрімке зростання, щоб стати одним із найвідоміших брендів у сфері штучного інтелекту, Unit 42 спостерігав численні випадки, коли зловмисники реєстрували та використовували сквотінгові домени в дикій природі, використовуючи «openai» та «chatgpt» як свої доменне ім’я (наприклад, openai[.]us, openai[.]xyz і chatgpt[.]jobs). Станом на початок квітня 2023 року більшість із цих доменів не містять нічого шкідливого, але викликає занепокоєння те, що вони не контролюються OpenAI чи іншими автентичними компаніями з керування доменами. Ними завжди можна зловживати, щоб завдати шкоди.
Під час дослідження підрозділ 42 помітив кілька фішингових URL-адрес, які намагалися видати себе за офіційні веб-сайти OpenAI. Як правило, шахраї створюють підроблений веб-сайт, який точно імітує зовнішній вигляд офіційного веб-сайту ChatGPT, а потім обманом змушують користувачів завантажити зловмисне програмне забезпечення або надати конфіденційну інформацію.
Підроблені сайти ChatGPT
Крім того, шахраї можуть використовувати пов’язану з ChatGPT соціальну інженерію для крадіжки особистих даних або фінансового шахрайства. Незважаючи на те, що OpenAI надає користувачам безкоштовну версію ChatGPT, шахраї направляють жертв на оманливі веб-сайти та стверджують, що вони повинні платити за ці послуги. Наприклад, підроблені сайти ChatGPT намагаються обманом змусити жертв розкрити конфіденційну інформацію, таку як дані кредитної картки та адреси електронної пошти. Підрозділ 42 також зазначив, що деякі шахраї користуються зростанням популярності OpenAI для криптошахрайства.
Незважаючи на те, що ChatGPT став одним із найпопулярніших додатків цього року, на ринку також з’являється все більше додатків-копіювачів штучного інтелекту. Деякі з цих програм пропонують власні основні мовні моделі, інші стверджують, що пропонують послуги ChatGPT через загальнодоступний API, анонсований 1 березня. Однак використання копіювальних чат-ботів може збільшити ризики для безпеки. До випуску ChatGPT API існувало кілька проектів з відкритим кодом, які дозволяли користувачам підключатися до ChatGPT за допомогою різних інструментів автоматизації. З огляду на те, що ChatGPT недоступний у певних країнах або регіонах, веб-сайти, створені за допомогою цих засобів автоматизації або API, можуть залучити значну кількість користувачів із цих регіонів. Це також надає суб’єктам загрози можливість монетизувати ChatGPT, представляючи їхній сервіс. Користувачі завжди повинні отримати доступ до ChatGPT з офіційного веб-сайту OpenAI.
Більше на PaloAltoNetworks.com
Про Palo Alto Networks Palo Alto Networks, світовий лідер у сфері рішень для кібербезпеки, формує хмарне майбутнє за допомогою технологій, які змінюють спосіб роботи людей і компаній. Наша місія — бути кращим партнером із кібербезпеки та захищати наш цифровий спосіб життя. Ми допомагаємо вам вирішувати найбільші світові виклики безпеки за допомогою безперервних інновацій, використовуючи останні досягнення в області штучного інтелекту, аналітики, автоматизації та оркестровки. Пропонуючи інтегровану платформу та надаючи можливості зростаючій екосистемі партнерів, ми є лідерами у захисті десятків тисяч компаній у хмарах, мережах і мобільних пристроях. Наше бачення — це світ, у якому кожен день безпечніший за попередній.