Generative AI змінює атаки та робить їх значно складнішими, ніж у минулому. Для цього потрібна нова оборонна стратегія — бажано з самонавчаючим ШІ, який також розпізнає, вивчає та негайно реалізує абсолютно нові моделі поведінки. Опитування Darktrace серед 6.700 співробітників щодо того, як вони працюють з електронною поштою в компаніях.
Останній випадок показує, на що здатний генеративний штучний інтелект – крах банку Кремнієвої долини (SVB) і, як наслідок, банківська криза. Зловмисники негайно скористалися ситуацією, щоб підробити дуже конфіденційні повідомлення. Для цього вони перехоплювали законні повідомлення, в яких одержувачам вказували оновити свої банківські реквізити для нарахування заробітної плати. Цей конкретний інцидент відповідає загальним цифрам: 62% співробітників компаній, що надають фінансові послуги, помітили збільшення кількості шахрайських електронних листів і текстових повідомлень за останні шість місяців. Генеративний ШІ насправді означає будь-який вид штучного інтелекту (ШІ), який створює новий текст, зображення, відео, аудіо, коди або синтетичні дані.
ШІ нападника проти ШІ захисника
Таким чином, для генеративного ШІ потрібна нова стратегія захисту, заснована на самонавчанні ШІ. На відміну від усіх інших інструментів захисту електронної пошти, Darktrace Emails не вивчає, як виглядають «атаки», а вивчає нормальні моделі поведінки в кожній окремій компанії. Завдяки глибокому розумінню компанії та того, як кожен співробітник взаємодіє зі своєю папкою "Вхідні", штучний інтелект може визначити для кожного електронного листа, чи є він підозрілим чи законним. Зокрема, електронні листи від генерального директора таким чином краще захищені.
Нові дані Darktrace показують, що рішенням безпеки електронної пошти, включаючи власні, хмарні та статичні інструменти ШІ, потрібно в середньому тринадцять днів, щоб виявити атаку на жертву. Тоді компанії залишаються незахищеними протягом майже двох тижнів, якщо вони покладаються виключно на ці інструменти. Соціальна інженерія – зокрема зловмисні кіберкампанії електронною поштою, як у банківському прикладі вище – залишається основною причиною вразливості організації до атак. Широкий доступ до генеративних інструментів штучного інтелекту, як-от ChatGPT, разом із зростаючою витонченістю державних суб’єктів означає, що шахрайство електронною поштою стає переконливішим, ніж будь-коли.
Більше результатів опитування
- 87% працівників у всьому світі стурбовані тим, що хакери можуть використовувати генеративний штучний інтелект для створення шахрайських електронних листів, які неможливо відрізнити від реальних повідомлень.
- Трьома основними комунікаційними характеристиками, за якими співробітники приймають електронний лист за фішингову атаку, є: прохання натиснути посилання або відкрити вкладення (72%), невідомий відправник або неочікуваний вміст (61%), погане правопис і граматика (62%) ).
- Чверть (25%) співробітників в минулому потрапляли на шахрайські електронні листи або SMS.
65% співробітників помітили збільшення частоти шахрайських електронних листів і текстових повідомлень за останні шість місяців. - 87% співробітників стурбовані обсягом особистої інформації про них в Інтернеті, яка може бути використана для фішингу та інших електронних шахрайств.
- Для 87% компаній спам-фільтри неправильно блокують важливу легітимну електронну пошту від потрапляння до папки "Вхідні".
Більш ніж кожен третій респондент пробував ChatGPT або інші генеративні чат-боти ШІ (36%).
Ці цифри отримано з глобального опитування Darktrace, проведеного в березні 2023 року в партнерстві з Censuswide за участю 6.711 співробітників у Великій Британії, США, Франції, Німеччині, Австралії та Нідерландах. Мета полягала в тому, щоб отримати уявлення про поведінку людей щодо електронної пошти та краще зрозуміти, як співробітники в усьому світі реагують на потенційні загрози безпеці, як вони розуміють безпеку електронної пошти та які сучасні технології використовуються як інструменти протидії загрозам.
Більше на Darktrace.com
Про Darktrace Darktrace, світовий лідер у галузі штучного інтелекту для кібербезпеки, захищає підприємства та організації за допомогою технологій ШІ від кібератак. Технологія Darktrace реєструє нетипові моделі трафіку, які вказують на можливі загрози. При цьому він розпізнає нові та раніше невідомі методи атак, які не помічаються іншими системами безпеки.