Відділ досліджень безпеки Check Point попереджає про хакерів, які можуть використовувати OpenAI ChatGPT і Codex для здійснення цілеспрямованих та ефективних кібератак. Інтелект може створювати фішингові електронні листи та генерувати небезпечний код VBA для файлів Excel.
Під час експериментального листування Check Point Research (CPR) перевірив, чи можна використовувати ChatBot для створення шкідливого коду для ініціювання кібератак. ChatGPT (Generative Pre-trained Transformer) — це безкоштовний чат-бот штучного інтелекту, який може надавати своїм користувачам контекстні відповіді на основі даних, знайдених в Інтернеті. З іншого боку, Codex — це штучний інтелект, також розроблений OpenAI, який здатний переводити природну мову в код.
Процедура була наступною:
🔎 Простий фішинговий електронний лист, створений ChatGPT (Зображення: Check Point).
CPR використовував ChatGPT для створення фішингового електронного листа під виглядом хостингової компанії
CPR повторив ChatGPT, щоб уточнити фішинговий електронний лист і полегшити ланцюг зараження
CPR використовував ChatGPT для створення коду VBA для вбудовування в документ Excel
За допомогою ChatGPT можна створити шкідливі електронні листи та цілі ланцюжки зараження
Щоб продемонструвати небезпеку обох технологій, CPR використовував ChatGPT і Codex для створення шкідливих електронних листів, коду та повного ланцюга зараження, які можуть атакувати комп’ютери користувачів. CPR документує своє листування з ChatGPT у новій публікації з прикладами створеного контенту. Це відкриття підкреслює важливість бути пильним, оскільки розвиток технологій ШІ, таких як ChatGPT, може суттєво змінити ландшафт кіберзагроз.
Використовуючи ChatGPT Open AI, CPR вдалося створити фішинговий електронний лист із вкладеним документом Excel, який містить шкідливий код для завантаження зворотних оболонок. Зворотні атаки оболонки спрямовані на підключення до віддаленого комп’ютера та перенаправлення вхідних і вихідних з’єднань оболонки цільової системи, щоб зловмисник міг отримати до них віддалений доступ.
ChatGPT виконує кроки атаки
🔎 Простий код VBA, згенерований ChatGPT (Зображення: Check Point).
Попросити ChatGPT видати себе за хостингову компанію (Зображення 1).
Попросіть ChatGPT повторити процес і створити фішинговий електронний лист із шкідливим вкладенням Excel (Зображення 2).
Попросіть ChatGPT створити шкідливий код VBA в документі Excel (Зображення 3).
Використання Open AIs Codex для створення шкідливого коду
CPR також вдалося створити шкідливий код за допомогою Codex. CPR дав Codex різні накази щодо цього, зокрема:
- Запуск зворотного сценарію оболонки на машині Windows і підключення до певної IP-адреси.
- Перевірте, чи є URL-адреса вразливою до впровадження SQL, увійшовши як адміністратор.
- Написання сценарію Python, який виконує повне сканування портів на цільовій машині.
Codex генерує шкідливий код на запит
🔎 Повторний фішинговий електронний лист, згенерований ChatGPT (Зображення: Check Point).
Сергій Шикевич, менеджер групи аналізу загроз у Check Point Software, коментує: «ChatGPT має потенціал суттєво змінити ландшафт кіберзагроз. Тепер будь-хто з мінімальними ресурсами та нульовим знанням коду може легко використати цю прогалину та дати волю своїй уяві».
Шикевич продовжує: «Легко генерувати шкідливі листи та код. Крім того, ChatGPT і Codex дозволяють хакерам додатково обробляти шкідливий код. Щоб попередити громадськість, ми продемонстрували, як легко створювати шкідливі листи та код за допомогою комбінації ChatGPT і Codex. Я вважаю, що ці технології штучного інтелекту є ще одним кроком у небезпечній еволюції все більш складних і ефективних кіберможливостей. Світ кібербезпеки швидко змінюється, і ми хочемо наголосити на важливості залишатися пильними, оскільки ця нова технологія, що розвивається, може вплинути на ландшафт загроз як добре, так і погано».
Більше на CheckPoint.com
Про КПП Check Point Software Technologies GmbH (www.checkpoint.com/de) є провідним постачальником рішень кібербезпеки для державних адміністрацій і компаній у всьому світі. Рішення захищають клієнтів від кібератак за допомогою найкращого в галузі рівня виявлення шкідливих програм, програм-вимагачів та інших типів атак. Check Point пропонує багаторівневу архітектуру безпеки, яка захищає корпоративну інформацію в хмарі, мережі та на мобільних пристроях, а також найповнішу та інтуїтивно зрозумілу систему керування безпекою «одна точка контролю». Check Point захищає понад 100.000 XNUMX компаній різного розміру.