Два дослідницькі звіти показують поточне використання штучного інтелекту для атак і, з іншого боку, ставлення кіберзлочинців до штучного інтелекту аналізується шляхом вивчення форумів темної мережі. Несподіванка: не кожен злочинець впевнений у перевагах ШІ.
Компанія Sophos опублікувала два звіти про використання ШІ в кіберзлочинності. Звіт «Темна сторона штучного інтелекту: широкомасштабні шахрайські кампанії, які стали можливими завдяки Generative AI» використовує конкретне прикладне дослідження, щоб дослідити, як шахраї можуть використовувати такі технології, як ChatGPT, у майбутньому для здійснення великомасштабних атак шахрайства з мінімальними технічними навичками. Другий звіт «Кіберзлочинці не можуть домовитися про GPT» представляє розслідування різноманітних темних веб-форумів. Результати показують, що деякі кіберзлочинці скептично ставляться до поточного використання чат-ботів та інших технологій ШІ, незважаючи на потенціал нової технології.
«Ми знайшли численні публікації в Dark Web про потенційний негативний вплив ШІ на суспільство та етичні наслідки його використання. Іншими словами, принаймні на даний момент схоже, що кіберзлочинці ведуть ті ж дебати про штучний інтелект, що й усі ми», — сказав Крістофер Бадд, директор із дослідження X-Ops у Sophos.
ШІ: темна сторона штучного інтелекту
Використовуючи простий шаблон електронної комерції та чудові інструменти мовної моделі, такі як GPT-4, Sophos X-Ops змогла створити повнофункціональний веб-сайт із зображеннями, аудіо та описами продуктів, створеними штучним інтелектом, а також підробленою сторінкою входу в Facebook і підробленим оформленням замовлення. сторінки, щоб отримати особисту інформацію про вхід і кредитну картку. Для створення та роботи веб-сайту були потрібні мінімальні технічні знання. Цей самий інструмент також дав змогу створити сотні подібних веб-сайтів за лічені хвилини одним натисканням кнопки.
«Це природно і очікувано, що злочинці використовуватимуть нові технології для автоматизації своїх операцій, щоб бути максимально ефективними», — сказав Бен Гелман, старший науковий співробітник Sophos. «Оригінальне створення спам-листів стало вирішальним кроком в історії шахрайства, оскільки воно значно змінило масштаб злочинного поля. Поточний розвиток штучного інтелекту має подібний потенціал: щойно з’явиться технологія штучного інтелекту, яка може генерувати повні автоматизовані загрози, вона буде використана. Спостережувана зараз інтеграція генеративних елементів штучного інтелекту в класичні шахрайства, наприклад, використання згенерованих штучним інтелектом текстів або фотографій для залучення жертв, — це лише початок».
Щодо намірів нинішнього дослідницького проекту Гелман каже: «Одна з причин, чому ми проводимо поточний проект, полягає в тому, щоб бути на крок попереду злочинців. Створюючи масштабну систему створення шахрайських веб-сайтів, яка є більш досконалою, ніж інструменти, якими зараз користуються зловмисники, ми маємо унікальну здатність аналізувати та готуватися до загрози до її поширення».
Кіберзлочинці сумніваються в потенціалі GPTs & Co
У другій частині свого дослідження ШІ Sophos Хоча використання штучного інтелекту кіберзлочинцями, здається, лише зароджується, суб’єкти загроз на цих платформах вже інтенсивно обговорюють потенціал соціальної інженерії. Прикладом цього є нинішня хвиля романтичних шахрайств, пов’язаних із «свинським бронюванням».
Крім того, Sophos виявив, що більшість публікацій стосуються скомпрометованих облікових записів ChatGPT для продажу та «втечі з в’язниці» — способів обійти засоби захисту, вбудовані в LLM, що дозволяє кіберзлочинцям зловживати інструментами для зловмисних цілей. Дослідницька група також знайшла десять додатків ChatGPT, які, як стверджували розробники, можуть використовуватися для кібератак і розробки шкідливих програм. Однак ефективність таких інструментів викликала серйозні сумніви в спільноті темної мережі, а іноді навіть розглядалася як спроба обдурити за допомогою непотрібних програм.
Дебати про штучний інтелект
«Хоча ми бачили, як деякі кіберзлочинці намагалися створити зловмисне програмне забезпечення або атакувати інструменти за допомогою LLM, результати були елементарними і часто зустрічали скептицизм з боку інших користувачів. Ми навіть знайшли численні публікації про потенційний негативний вплив ШІ на суспільство та етичні наслідки його використання. Іншими словами, принаймні на даний момент схоже, що кіберзлочинці ведуть ті ж дебати про штучний інтелект, що й усі ми», — сказав Крістофер Бадд, директор із дослідження X-Ops у Sophos.
Для отримання додаткової інформації про шахрайські веб-сайти, створені штучним інтелектом, і ставлення загрозливих суб’єктів до LLM, перегляньте повні звіти англійською мовою. «Темна сторона штучного інтелекту: широкомасштабні шахрайські кампанії, які стали можливими завдяки Generative AI» і «Кіберзлочинці не можуть домовитися про GPT» знайти.
Більше на Sophos.com
Про Софос Sophos довіряють понад 100 мільйонів користувачів у 150 країнах. Ми пропонуємо найкращий захист від складних ІТ-загроз і втрати даних. Наші комплексні рішення безпеки прості в розгортанні, використанні та керуванні. Вони пропонують найнижчу сукупну вартість володіння в галузі. Sophos пропонує відзначені нагородами рішення для шифрування, рішення безпеки для кінцевих точок, мереж, мобільних пристроїв, електронної пошти та Інтернету. Також є підтримка від SophosLabs, нашої глобальної мережі власних аналітичних центрів. Штаб-квартири Sophos знаходяться в Бостоні, США, та Оксфорді, Великобританія.