Програмне забезпечення ChatGPT від Open AI викликає хвилю. За допомогою штучного інтелекту чат-бот дуже красномовно відповідає на різноманітні запитання. Тож не дивно, що, як це завжди буває з новими технологіями, злочинці вже думають про те, як використати ці можливості у власних цілях.
Спільне дослідження Європолу, Unicri та Trend Micro дослідило це. Згідно з цими результатами, навіть краще створені інструменти соціальної інженерії, такі як фішинг або BEC, можна розглядати для програмного забезпечення Open AI. Наразі інші дослідники безпеки також досліджували шахрайські електронні листи, створені за допомогою розкрученого ШІ, і отримали загрозливі результати. Крім того, зловмисники вже, схоже, обговорюють способи перенесення ChatGPT у темну мережу на підпільних форумах.
Роль ChatGPT
Зрозуміло, що ChatGPT не грає роль легендарної «скриньки Пандори», яку зараз відкрили, а лише представляє собою перший етап передбачуваного розвитку, який рано чи пізно призведе до використання ШІ в кіберзлочинності. Для виробників Open AI реліз може бути попередньою кульмінацією тривалої розробки, але для ІТ шлях лише починається. ChatGPT демонструє нові можливості та надихне багатьох інших зробити те саме. Базова технологія буде доступна для широкої громадськості та використовуватиметься економічно ефективно та розумно як компонент більших рішень. Загальна і також позитивна подія для ІТ. Зворотний бік монети полягає в тому, що злочинці також зможуть отримати до нього доступ і ефективно використовувати цю технологію.
Фішингові/атакуючі електронні листи
Фішингові електронні листи є частиною стандартної програми для більшості видів атак, щоб створити вихідну точку для подальшої злочинної діяльності. А це часто не так просто. Тому в цифровому підпіллі також є окремий сектор послуг, який пропонує так званий «Доступ як послугу» з гарною якістю — питання ціни, не більше того. Проблема для злочинців полягає в тому, що як технології, так і людська інтуїція здатні перехоплювати атаки, тому вони або здійснюються масово (мільярди), або, за великі витрати, за допомогою людини.
ШІ для підвищення ефективності звучить дуже спокусливо для цієї групи злочинців. Сучасний рівень техніки ChatGPT може допомогти сформулювати електронні листи більш достовірно. Вирази та орфографічні помилки, які часто згадуються на курсах з безпеки, усуваються, а новий вміст може генеруватися швидше, щоб листи виглядали «більш привабливими».
Безпомилкові електронні листи легше обдурити користувачів
Але «кращі» фішингові електронні листи — це не те, що хвилює дослідників безпеки, розглядаючи використання ШІ в Access-as-a-Service. Скоріше існує побоювання, що можливо створити штучний інтелект таким чином, щоб він міг вести цікаве спілкування з жертвою і, таким чином, зменшити величезні зусилля, які зараз витрачаються на цілеспрямовані атаки. Якщо це вдасться, майбутні фішингові листи більше не можна буде відрізнити від реального ділового спілкування.
Тоді жертви стикаються з особистими атаками, в які включаються знання, доступні, наприклад, через соціальні мережі. Варіант атаки Emotet вже продемонстрував наслідки, які це може мати, створивши свій електронний лист для атаки як відповідь на електронний лист, який раніше фактично надіслав жертва, на щастя, без підтримки штучного інтелекту – із загальним генерованим вмістом. Динамітний фішинг, як називають цей метод, уже довів свою надзвичайно ефективну дію.
Шахрайство – компроміс бізнес-електронної пошти (BEC)
Прогрес, досягнутий ШІ за останні роки, можна спостерігати, перш за все, щодо мови та міжособистісного спілкування. Особливістю ChatGPT є те, що програмне забезпечення не лише використовує те, що вже існує, але й створює цікавий, новий вміст для людей. Це говорить про те, що він використовується кіберзлочинцями в цій сфері. У всіх варіантах шахрайства є міжособистісне спілкування.
У корпоративному секторі, наприклад, це метод компромісу бізнес-електронної пошти (BEC), за якого співробітника обманюють, змушуючи його повірити, що він спілкується зі своїм начальником або важливим клієнтом. А ще в приватному житті є найрізноманітніші варіанти, наприклад, різноманітні романтичні афери чи горезвісний «принц з Нігерії». Коротше кажучи, жертву переконують у прямому, часто тривалому спілкуванні, щоб вона бездумно передала гроші злочинцеві. З нинішніми можливостями ChatGPT листи повинні бути культурно оптимізовані, наприклад, з віршами.
мовні бар'єри? Немає проблем для ШІ
Однак і тут більше викликає занепокоєння подальший етап розширення. Перше, що, ймовірно, впаде, це мовні бар'єри. Сьогодні AI вже доступний німецькою мовою. Попередні варіанти перекладу можуть германізувати слова чи речення, але лише погано відбілюють культурне походження людини. ШІ може це зробити. У сфері глибоких фейків уже існують відповідні методи, які дозволяють обмінюватися обличчями людей у реальному часі, що ускладнює ідентифікацію за допомогою відео.
Крім того, існує безліч перевірених шахрайських схем. Тому штучний інтелект можна легко навчити на успішних кейсах і дізнатися, як найкраще переконувати людей. Зловмисники можуть не тільки збільшити свою ефективність, але й кількість жертв, на яких вони атакують паралельно. Але штучний інтелект, який спеціалізується на шахрайстві, може призвести до абсолютно інших сценаріїв застосування, які ми ще не можемо оцінити взагалі.
Створення шкідливого ПЗ за допомогою ШІ
Річард Вернер, бізнес-консультант Trend Micro (Зображення: Trend Micro)
ChatGPT також може розробляти та налагоджувати програмне забезпечення/код. Таким чином, існує теоретична можливість створення шкідливих програм. Це вже було доведено в тестах на підтвердження концепції. Хоча розробники Open AI регулярно коригують свої політики, щоб запобігти цьому, завжди є приклади того, як це працює.
Існують перешкоди: створений код працює, але вимагає точного опису з боку запитувача. Також обговорюється те, що код, згенерований штучним інтелектом, ще не є переконливим, особливо в розробці програмного забезпечення. Таким чином, ChatGPT сьогодні, ймовірно, буде відносно мало корисним для рішучих кіберзлочинців. Однак тут також можна передбачити етап розширення.
Зрозуміло, що рано чи пізно програмне забезпечення для атак буде написано ШІ. Наприклад, це скорочує час між виявленням уразливості, її виправленням і кібератакою на неї до кількох хвилин – навіть для злочинців, які технічно не талановиті. Але все це добре відомі виклики, для яких існують рішення у сфері безпеки. Вже зараз індустрія стикається з більш ніж 300.000 XNUMX нових шкідливих файлів на день. Ми говоримо про нуль днів і кілька годин, і штучний інтелект уже давно взяв на себе роботу за нас, головним чином для виявлення невідомих у типі процедури.
Висновок: чи змінює ChatGPT майбутнє ІТ-безпеки?
ChatGPT не був ініціатором цієї розробки, а лише продемонстрував публіці те, що давно обговорюється в наукових колах. Можна припустити, що використання ШІ зіграє певну роль, особливо при початковому зараженні. Тут Access-as-a-Service конкурує за клієнтів, а ШІ може мінімізувати величезні зусилля або підвищити успішність масових атак. У результаті компанії повинні припускати, що зловмисники зможуть обійти їхні основні механізми захисту ще більше, ніж раніше.
Більше на TrendMicro.com
Про Trend Micro Як один із провідних світових постачальників ІТ-безпеки, Trend Micro допомагає створити безпечний світ для обміну цифровими даними. Завдяки більш ніж 30-річному досвіду в галузі безпеки, глобальним дослідженням загроз і постійним інноваціям Trend Micro пропонує захист для компаній, державних установ і споживачів. Завдяки нашій стратегії безпеки XGen™ наші рішення отримують переваги від поєднання методів захисту між поколіннями, оптимізованих для передових середовищ. Інформація про мережеві загрози забезпечує кращий і швидший захист. Оптимізовані для хмарних робочих навантажень, кінцевих точок, електронної пошти, Інтернету речей і мереж, наші підключені рішення забезпечують централізовану видимість у всьому підприємстві для швидшого виявлення загроз і реагування.