За словами дослідників безпеки в Ізраїлі, хакерські угруповання вже використовують штучний інтелект (ШІ) для навчання своїх нових членів. Їм також допомагає штучний інтелект вдосконалювати зловмисне програмне забезпечення, автоматизувати атаки та загалом безперебійно проводити злочинні операції.
З іншого боку, консультанти з менеджменту McKinsey з’ясували за допомогою опитування за 2022 рік, що 50 відсотків опитаних компаній використовують AI для підтримки роботи принаймні в одній сфері бізнесу – у 2017 році це було лише 20 відсотків. За даними журналу Forbes, 60 відсотків опитаних підприємців вважають, що штучний інтелект підвищить продуктивність їхньої компанії в цілому, причому 64 відсотки вірять у підвищення операційної продуктивності, а 42 відсотки пов’язані з покращенням робочих процесів.
Це порівняння добре показує, як одна й та сама технологія може бути використана тут як для хороших, так і для поганих цілей. Занепокоєння, яке наразі найбільше хвилює населення: чи може штучний інтелект дізнатися, які сфери застосування є хорошими чи поганими, щоб самостійно запобігти неправильному використанню?
ChatGPT і Google Bard допомагають хакерам
- Автоматизовані кібератаки: З тих пір, як обидва інструменти з’явилися на ринку, наші дослідники безпеки помітили поширення ботів, які віддалено керують зараженими комп’ютерами та іншими автоматизованими системами. Вони ідеальні для DDoS-атак, які можуть паралізувати сервер або всю систему за допомогою величезної кількості запитів на доступ. З цієї причини минулого року кількість ІТ-атак у всьому світі зросла на 38 відсотків.
- Допомога у створенні шкідливих програм, фішингові електронні листи, дипфейки та розробка кібератак: хакери на ранній стадії зрозуміли, що ChatGPT може створювати командні рядки для зловмисного програмного забезпечення або писати фішингові електронні листи – останні кращою англійською чи німецькою мовами, ніж це вміли самі злочинці. Крім того, оскільки ChatGPT і Google Bard навчаються з кожним введенням, вони навіть можуть створювати складний вміст, наприклад зображення, відео чи навіть звукозаписи. Ось тут і виникає небезпека дипфейків. Маються на увазі фільми, які показують і розмовляють з певною людиною так, як ми звикли від неї, навіть якщо це підробка. Сучасні технології дозволяють фальсифікувати міміку, жести та голос. Барак Обама, Джо Байден, Володимир Зеленський і Володимир Путін вже ставали жертвами таких дипфейків.
- дрібні злочинці без великих навичок програмування можуть стати хакерами: за допомогою таких чат-ботів, керованих штучним інтелектом, хакерські угруповання можуть, як згадувалося вище, навчати своїх нових членів, або люди з кримінальними нахилами можуть швидко повозитися та здійснити невелику ІТ-атаку. Це призводить до потоку, так би мовити, міні-атак і нових хакерських груп.
Щоб запобігти цьому зловживанню, виробники ChatGPT, компанія OpenAI, встановили деякі пристрої безпеки та виключили країни з використання, але це тривало недовго: спочатку блокування запитів було обійдено шляхом вмілого запиту чат-бота, потім обмеження країни були скасовані, потім преміум-акаунти були викрадені та продані у великих масштабах, і навіть клони ChatGPT тепер пропонуються в Darknet у формі інтерфейсів API.
Один із способів зробити сам ШІ менш вразливим до зловживань — навчити його самого. Інженери сходяться на думці, що після того, як отримані знання неможливо видалити з ШІ, ШІ слід з самого початку навчити певному каталогу етики, щоб він сам слідував певним правилам. Це також було б можливим із законами, які просто забороняють деякі дії.
Більше на Checkpoint.com
Про КПП Check Point Software Technologies GmbH (www.checkpoint.com/de) є провідним постачальником рішень кібербезпеки для державних адміністрацій і компаній у всьому світі. Рішення захищають клієнтів від кібератак за допомогою найкращого в галузі рівня виявлення шкідливих програм, програм-вимагачів та інших типів атак. Check Point пропонує багаторівневу архітектуру безпеки, яка захищає корпоративну інформацію в хмарі, мережі та на мобільних пристроях, а також найповнішу та інтуїтивно зрозумілу систему керування безпекою «одна точка контролю». Check Point захищає понад 100.000 XNUMX компаній різного розміру.