Чат-бот OpenAI ChatGPT доводить, як штучний інтелект і машинне навчання можуть безпосередньо визначати життя та повсякденне життя. Просунуті ІТ-користувачі будуть використовувати такі інструменти для своїх цілей. А разом з цим, на жаль, і кіберзлочинці.
Модель OpenAI ChatGPT AI заснована на неконтрольованому навчанні. За допомогою цього підходу ML модель AI подається великим набором даних без міток. Величезний масив матеріалів із книг, статей і веб-сайтів базується на джерелах до 2021 року та не має зв’язку з поточним Інтернетом. Але цього вже достатньо, щоб вивчити структури природної мови і дати відповіді на питання, які здаються оманливо людськими.
Хакери також виграють від ШІ
Хакерам може бути корисна така допомога, навіть якщо потрібна обережність із конкретними прогнозами щодо використання. П’ять прикладів уже окреслюють можливості майбутнього:
Автоматичний фішинг:
Хакери можуть використовувати ChatGPT для запуску автоматичних фішингових атак, які виходять на новий рівень. Орфографічні та граматичні помилки, які раніше були очевидною ознакою таких атак, тепер можна виключити. З огляду на той факт, що автори багатьох фішингових електронних листів не володіють рідною мовою ні англійською, ні німецькою, це повинно мати серйозні наслідки для якості таких електронних листів у всіх напрямках. ChatGPT може писати повідомлення з ідеальною граматикою. Коло жертв, яких можна перехитрити, розширюється не по годинах, а по годинах. Він може писати код для автоматизації процесу написання.
прикидання ідентичностей
ChatGPT може імітувати реальних людей або організації оманливо реальним способом. Це сприятиме крадіжці особистих даних або іншим формам шахрайства. Хакери використовують чат-бота, щоб надсилати повідомлення від друга чи колеги, запитуючи конфіденційну інформацію та отримуючи таким чином доступ до облікового запису іншого користувача.
Соціальна інженерія
ChatGPT та інші чат-боти AI можуть зробити атаки соціальної інженерії більш цілеспрямованими. Хакери маніпулюють адресатами за допомогою ще більш персоналізованих і, здавалося б, законних розмов. Досі певний ступінь інтимності був неможливий без особистого фізичного контакту. Щонайпізніше, це більше не відбувається, коли інструмент використовує інформацію з Інтернету. Відповіді бота настільки схожі на людину, що майже не відрізняються від реакції людини.
Фальшива підтримка
Компанії використовуватимуть передові чат-боти зі штучним інтелектом для спілкування з клієнтами. Хакери будуть безкоштовними гонщиками та діятимуть самі – наприклад, створюючи оманливу імітацію шахрайського банківського вигляду та, здавалося б, людське обслуговування клієнтів. Знову ж таки, метою є захоплення конфіденційної інформації. У минулому банківське шкідливе програмне забезпечення було піонером у розробці нових методів атак.
Прискорена розробка атак – аж до допомоги коду
🔎 ChatGPT ще не може написати повністю вільний від помилок код сканування вразливостей. Але якщо поставити правильні запитання, хакери зможуть зробити це швидше (Зображення: Bitdefender).
Forbes вже повідомив про перші випадки. Очевидно, хакери використовують бота для написання шкідливого коду для шифрування та викрадання даних. ChatGPT знайомий з найпопулярнішими мовами кодування та може скоротити час для розробки атак. Хакер з необхідними спеціальними знаннями про вразливості мережі може використовувати бота, щоб швидше закрити прогалини в коді. Зворотне проектування кібератаки, що відбулася, може бути легшим. AI може допомогти змінити код, покращити його та краще адаптувати атаки до вибраної цілі.
ChatGPT ще не може писати код без помилок, але може допомогти. Викликає занепокоєння те, що заходи безпеки не обов’язково ефективні. «Запобіжний вимикач» можна обійти. Перемикач спрямований на те, щоб модель штучного інтелекту не створювала насильницькі, дискримінаційні або відверто сексуальні тексти. Він розроблений, щоб допомогти ідентифікувати ті запитання, які ставить користувач, які явно шукають відповіді, які служать мерзенним цілям. Чат-бот все ще відхиляє прямі запити на написання коду Python для використання вразливості Log4j. Однак обізнаний користувач може обійти механізм захисту. Наприклад, одна можливість полягає в тому, щоб поставити те саме запитання іншою мовою. Він знаходить підказки, щоб поставити правильні запитання.
Новий рівень у майбутньому
У майбутньому атаки з підтримкою ШІ вийдуть на новий рівень. Жертви повинні бути більш підозрілими. Класичні фішингові електронні листи, які є непомітною прелюдією до багатьох, якщо не більшості, серйозних атак, стають все більш оманливими. З іншого боку, лише обережність або більша економія даних в Інтернеті чи соціальних мережах може допомогти. Кібершахрайство на основі викрадення особи стає більш оманливим, оскільки хакери мають інформацію про ймовірного відправника зловмисного повідомлення. Чат-боти, які діють як нові пошукові системи, створюють нову якість для існуючих механізмів атак.
Більше на Bitdefender.com
Про Bitdefender Bitdefender є світовим лідером у сфері рішень для кібербезпеки та антивірусного програмного забезпечення, що захищає понад 500 мільйонів систем у понад 150 країнах. З моменту заснування в 2001 році інновації компанії регулярно забезпечували відмінні продукти безпеки та інтелектуальний захист для пристроїв, мереж і хмарних сервісів для приватних клієнтів і компаній. Як найкращий постачальник, технологія Bitdefender міститься в 38 відсотках розгорнутих у світі рішень безпеки, їй довіряють і визнають професіонали галузі, виробники та споживачі. www.bitdefender.de