Боротьба за використання ChatGPT для боротьби з кіберзлочинністю призвела до семикратного збільшення кількості темних форумів, де хакери обговорюють, як маніпулювати чат-ботом. Про це свідчить нове дослідження компанії з кібербезпеки NordVPN.
Згідно з дослідженням, кількість нових повідомлень на темних веб-форумах про інструмент штучного інтелекту зросла зі 120 у січні до 870 у лютому — зростання на 625 відсотків. Кількість повідомлень на форумі, пов’язаних із ChatGPT, зросла на 145% з 37 до 91 за місяць, оскільки дискусії навколо зловживань бота стали найгарячішою темою темної мережі.
ChatGPT створено для створення шкідливих програм і сценаріїв
На початку січня багато тем зосереджувалися на тому, як зловмисники можуть обманом змусити ChatGPT створювати звичайне шкідливе програмне забезпечення, уразливість, яку згодом було виправлено. Через місяць хакерське співтовариство спрямувало більш агресивні заходи. У дописах описано плани взяти під контроль чат-бот і використовувати його, щоб сіяти хаос. Заголовки форумів Dark Web (які приховані від звичайних пошукових систем і відвідуються анонімними хакерами по всьому світу) включали «Як зламати ChatGPT», «ChatGPT джейлбрейк 2.0, ChatGPT – розвиток зловмисного програмного забезпечення» та «ChatGPT як інструмент для фішингу».
Завдяки ChatGPT злочинці можуть використовувати його штучний інтелект, щоб зупинити шахрайство, як-от. B. Любовне шахрайство – здійснювати в промислових масштабах і нападати на кількох жертв одночасно. Після того, як хакер заволодів чат-ботом, він може зняти його обмеження безпеки та використовувати його для створення зловмисного програмного забезпечення та фішингових електронних листів, поширення ненависті чи навіть пропаганди.
Багато нових способів із ChatGPT
«ChatGPT відкрив багато дверей у нові світи та змінює світ роботи, освіти та способи використання інформації. Як і будь-яка нова технологія, її можна використовувати для позитивних цілей, наприклад для виявлення вразливостей у смарт-контрактах.
У той же час небезпека для користувачів є незначною. Про це також свідчить розслідування NordVPN щодо збільшення кількості повідомлень на форумах у темній мережі. Це дозволяє зловмисникам використовувати виявлення вразливостей на основі ШІ для зловмисних цілей. Це також включає зловживання швидким пошуком та узагальненням особистої інформації з метою більш цілеспрямованого нападу на компанії та людей. Ще більш небезпечним є обхід перевірок безпеки та фільтрів у ChatGPT та інших постачальників штучного інтелекту, щоб обманом змусити програму робити расистські чи ворожі заяви», — сказав Марвін Петцолт, експерт із кібербезпеки Nord Security.
Більше на Nordsecurity.com
Про Північну Безпеку
Nord Security, заснована в 2012 році, є домом для передових рішень безпеки, які носять бренд Nord. Ми створюємо надійні інструменти кібербезпеки для особистого та бізнес-користування, включаючи найшвидший у світі VPN-сервіс NordVPN.