За допомогою ШІ кіберзагрози набувають нової форми. Злочинці використовують це, щоб націлитися на ідентифікацію та обійти механізми автентифікації. Це все нові вектори атаки ШІ.
Штучний інтелект (ШІ) впливає на сучасне суспільство безпрецедентною швидкістю. ChatGPT та інші генеративні інструменти штучного інтелекту пропонують багато переваг, але їх також можуть використовувати зловмисники, завдаючи значної шкоди. Лабораторії CyberArk дослідили цей ландшафт загроз, що розвивається, щоб краще зрозуміти, що означають нові вектори атак штучного інтелекту для програм безпеки ідентифікації, і допомогти розробити нові стратегії захисту.
Зокрема, CyberArk проаналізував три нових сценарії атак.
Сценарій 1: Vishing – голосовий фішинг
Співробітники стали дуже обережно ставитися до фішингових листів і знають, на що звертати увагу. Коли справа доходить до вішингу, тобто голосового фішингу, цей скептицизм часто відсутній, що відкриває нові можливості для кібер-зловмисників. Моделі перетворення тексту в мовлення штучного інтелекту полегшують їм використання загальнодоступної інформації, такої як інтерв’ю генерального директора в ЗМІ, і видавання себе за керівників компаній. Збудувавши довіру зі своєю цілі, вони можуть отримати доступ до облікових даних для входу та іншої конфіденційної інформації.
Такі атаки вішинга тепер можна здійснювати в масштабі за допомогою автоматизованої генерації моделей синтезу мовлення в реальному часі. Такі дипфейки на основі штучного інтелекту вже є звичним явищем, і їх дуже важко виявити. Фахівці зі штучного інтелекту прогнозують, що контент, створений штучним інтелектом, з часом стане невідрізним від контенту, створеного людьми.
Сценарій 2: біометрична автентифікація
Розпізнавання обличчя є перевіреним варіантом біометричної автентифікації для доступу до пристроїв та інфраструктури. Але його також можуть перехитрити зловмисники, які використовують генеративний штучний інтелект для компрометації особистих даних і отримання доступу до корпоративного середовища. Генеративні моделі ШІ існують уже багато років. Отже, ви можете поставити запитання: чому зараз так багато шуму навколо цього? Одним словом: це масштабування. Сучасні моделі піддаються неймовірному тренуванню. ChatGPT-3, наприклад, має 175 мільярдів параметрів, що в сто разів більше, ніж ChatGPT-2. Це експоненціальне зростання параметрів підтримує реалістичні фейки, в тому числі з точки зору розпізнавання обличчя.
Сценарій ШІ 3: Поліморфна шкідлива програма
В принципі, усі типи коду можна писати за допомогою генеративного штучного інтелекту, включаючи зловмисне або поліморфне зловмисне програмне забезпечення, яке може обійти рішення безпеки. Поліморфне шкідливе програмне забезпечення змінює свою реалізацію, зберігаючи початкову функціональність. Наприклад, цілком можливо, що зловмисник може використовувати ChatGPT для створення інфокради та постійно змінювати код. Якщо зловмисник заражає пристрій шкідливим програмним забезпеченням і отримує доступ до локально збережених файлів cookie сеансу, він може видати себе за користувача пристрою, обійти засоби захисту та непомітно отримати доступ до цільових систем.
Ідентичності є головною мішенню
Три загрози кібербезпеці на основі штучного інтелекту показують, що особи є основною ціллю зловмисників, оскільки вони забезпечують найефективніший спосіб отримати доступ до конфіденційних систем і даних. Таким чином, для запобігання небезпеці необхідно використовувати рішення безпеки ідентифікації. Це безпечно перевіряє автентичність і авторизує їх за допомогою правильних дозволів, надаючи їм доступ до критичних ресурсів у структурований спосіб. Техніки захисту від шкідливих програм також важливі. Тобто компанії також повинні вживати запобіжних заходів, таких як впровадження політики найменших привілеїв або умовного доступу до локальних ресурсів (таких як сховище файлів cookie) і мережевих ресурсів (таких як веб-додатки).
ШІ також підтримуватиме захист у майбутньому
«Хоча атаки на основі штучного інтелекту становлять загрозу безпеці ІТ, ШІ також є потужним інструментом для виявлення загроз і захисту», — підкреслює Лаві Лазаровіц, віце-президент відділу кібердосліджень CyberArk Labs. «Штучний інтелект стане важливим компонентом у майбутньому для вирішення мінливих ландшафтів загроз, підвищення гнучкості та допомоги компаніям бути на крок попереду зловмисників».
Більше на CyberArk.com
Про CyberArk CyberArk є світовим лідером у сфері захисту ідентифікаційних даних. Завдяки керуванню привілейованим доступом як основному компоненту CyberArk забезпечує комплексну безпеку для будь-якої ідентифікаційної інформації – людини чи не людини – у бізнес-додатках, розподілених робочих середовищах, гібридних хмарних робочих навантаженнях і життєвих циклах DevOps. Провідні світові компанії покладаються на CyberArk для захисту своїх найважливіших даних, інфраструктури та програм. Близько третини компаній DAX 30 і 20 компаній Euro Stoxx 50 використовують рішення CyberArk.