Злочинці використовують штучний інтелект – не лише для дипфейків. Європол, UNICRI та Trend Micro звітують про поточні та майбутні загрози ШІ.
Компанія Trend Micro опублікувала новий звіт про дослідження, підготовлений у співпраці з Європолом і Міжрегіональним інститутом ООН з вивчення злочинності та правосуддя (UNICRI). У ньому дослідники безпеки мають справу з поточним і можливим майбутнім використанням штучного інтелекту (ШІ) злочинцями. Звіт надає правоохоронним органам, політикам та іншим організаціям інформацію про поточні та потенційні майбутні атаки з використанням штучного інтелекту та рекомендації щодо зменшення цих ризиків.
Потенційні переваги технології ШІ
«ШІ обіцяє світові більше ефективності, автоматизації та автономності. У той час, коли громадськість дедалі більше стурбована можливим зловживанням штучним інтелектом, нам потрібно зробити загрози прозорими, а також вивчити потенційні переваги технології штучного інтелекту», — говорить Едвардас Шилеріс, керівник Центру боротьби з кіберзлочинністю Європолу (Europol EC3). «Цей звіт не тільки допоможе нам передбачити потенційне зловмисне використання та зловживання штучним інтелектом, але й завчасно запобігати та пом’якшувати ці загрози. Таким чином ми можемо розкрити потенціал ШІ та отримати вигоду від позитивного використання систем ШІ».
У звіті робиться висновок, що кіберзлочинці використовуватимуть ШІ як вектор атаки, так і як поверхню атаки. Deepfakes (реалістичний медіаконтент, такий як фотографії, аудіо та відео, модифіковані та спотворені штучним інтелектом) наразі є найвідомішим використанням штучного інтелекту як вектора атак.Однак у звіті попереджається, що в майбутньому знадобляться нові технології скринінгу. щоб виявити це Зменшити ризик кампаній дезінформації та здирництва, а також загроз, націлених на набори даних ШІ.
ШІ може підтримувати наступні типи атак
- Переконливі великомасштабні атаки соціальної інженерії
- Зловмисне програмне забезпечення, яке може викрадати певні дані з документів у великих масштабах (скрапінг документів)
- Обхід розпізнавання зображень і голосової біометрії
- Атаки програм-вимагачів, які ще точніше націлюються на жертв і обходять механізми захисту
- Забруднення даних через виявлення сліпих зон у правилах виявлення
«Оскільки програми штучного інтелекту все більше впливають на реальний світ, стає зрозуміло, що це стане фундаментальною технологією в майбутньому», — пояснює Іраклі Берідзе, керівник Центру штучного інтелекту та робототехніки в UNICRI. «Але подібно до того, як штучний інтелект приносить реальні переваги суспільству, такою ж є загроза зловмисного використання. Для нас велика честь об’єднати зусилля з Європолом і Trend Micro, щоб пролити світло на темну сторону штучного інтелекту та заохотити подальше обговорення цієї важливої теми».
У звіті також попереджається, що системи штучного інтелекту розробляються, щоб підвищити ефективність шкідливих програм і порушити роботу систем захисту від шкідливих програм і розпізнавання облич.
AI обчислює паролі, зламує коди CAPTCHA, клонує голоси
«Кіберзлочинці завжди були одними з перших, хто застосовував новітні технології, і це також стосується ШІ. Як показує наш звіт, він уже використовується для злому паролів, злому коду CAPTCHA та клонування голосу. І ще багато шкідливих інновацій у розробці», – сказав Мартін Реслер, керівник групи перспективних досліджень загроз Trend Micro. «Ми пишаємося тим, що співпрацюємо з Європолом і ЮНІКРІ, щоб підвищити обізнаність про цю загрозу і таким чином допомогти створити безпечніше цифрове майбутнє для всіх нас».
У кінці звіту три організації рекомендують різні заходи для боротьби зі штучним інтелектом:
- Використання потенціалу технології штучного інтелекту як інструменту боротьби зі злочинністю для перспективної індустрії кібербезпеки та правоохоронних органів
- Продовжуйте дослідження в галузі штучного інтелекту, щоб розробити більше оборонних технологій
- Сприяння та розробка безпечних фреймворків проектування ШІ
- Деескалація політично обтяженої риторики щодо використання ШІ для цілей кібербезпеки
- Використання державно-приватного партнерства та створення міждисциплінарних експертних груп
Весь звіт про дослідження доступний онлайн.
Перейдіть прямо до звіту на TrendMicro.com
Про Trend Micro Як один із провідних світових постачальників ІТ-безпеки, Trend Micro допомагає створити безпечний світ для обміну цифровими даними. Завдяки більш ніж 30-річному досвіду в галузі безпеки, глобальним дослідженням загроз і постійним інноваціям Trend Micro пропонує захист для компаній, державних установ і споживачів. Завдяки нашій стратегії безпеки XGen™ наші рішення отримують переваги від поєднання методів захисту між поколіннями, оптимізованих для передових середовищ. Інформація про мережеві загрози забезпечує кращий і швидший захист. Оптимізовані для хмарних робочих навантажень, кінцевих точок, електронної пошти, Інтернету речей і мереж, наші підключені рішення забезпечують централізовану видимість у всьому підприємстві для швидшого виявлення загроз і реагування.