Модель ChatGPT AI може легше фільтрувати зловмисну активність у телеметрії XDR, покращувати фільтри спаму та спрощувати аналіз «Living Off the Land Binaries» — скорочено «LOLBins». Sophos нещодавно опублікував це в новому звіті.
Тема — мовна модель GPT-3, яка лежить в основі відомого фреймворку ChatGPT, і те, як індустрія кібербезпеки може використовувати цю модель для захисту від зловмисників. У поточному звіті «GPT for You and Me: Applying AI Language Processing to Cyber Defenses» описуються проекти, розроблені Sophos X-Ops, які використовують розширені мовні моделі GPT-3. Мета полягає в тому, щоб спростити пошук шкідливих дій у записах даних програмного забезпечення безпеки, точніше та швидше фільтрувати спам і швидше аналізувати бінарні атаки (LOLBin).
Використовуйте ШІ і для захисту
«Відколи OpenAI оприлюднив ChatGPT у листопаді 2022 року, індустрія безпеки зосередилася на потенційних ризиках, які може принести ця нова технологія. Чи може штучний інтелект допомогти потенційним зловмисникам створити зловмисне програмне забезпечення або кіберзлочинцям створити більш переконливі фішингові листи? Можливо, але в Sophos ми завжди бачили ШІ як союзника, а не ворога для захисту, що робить його наріжною технологією для Sophos, і те саме стосується GPT-3. Індустрія безпеки повинна звертати увагу не лише на потенційні ризики технології, а й на можливі можливості», — сказав Шон Галлахер, головний дослідник загроз у Sophos.
GPT-3 як помічник з кібербезпеки
Дослідники Sophos X-Ops працюють над трьома проектами-прототипами, які демонструють потенціал GPT-3 як помічника для захисників кібербезпеки. Усі три проекти використовують техніку під назвою «кількократне навчання» для навчання моделі штучного інтелекту лише за кількома зразками даних, зменшуючи необхідність збору великої кількості попередньо класифікованих даних.
Першою програмою, яку Sophos протестувала за допомогою методу покрокового навчання, була a Інтерфейс запитів природною мовою для сканування зловмисної активності в телеметрії програмного забезпечення безпеки. Зокрема, Sophos перевірив модель за допомогою рішення Endpoint Detection and Response. За допомогою цього інтерфейсу захисники можуть фільтрувати телеметрію за допомогою простих англійських команд, не розуміючи SQL або базову структуру бази даних.
Новий фільтр спаму з ChatGPT
🔎 ChatGPT може ще точніше виявляти спам (Зображення: Sophos).
Потім Sophos протестувала новий фільтр спаму за допомогою ChatGPT і знайшла що фільтр із GPT-3 був значно точнішим порівняно з іншими моделями машинного навчання для фільтрації спаму. Нарешті дослідники Sophos змогли створити програму, яка спрощує зворотне проектування командних рядків LOLBins. Така зворотна інженерія, як відомо, складна, але також критична для розуміння поведінки LOLBin і запобігання таким типам атак у майбутньому.
SOCs отримують сильну допомогу
«Одним із зростаючих проблем у SOC (операційних центрах безпеки) є величезний обсяг «шуму», який надходить. Існує просто забагато сповіщень і виявлень, які потрібно відсортувати, і багато організацій борються з обмеженими ресурсами. Ми довели, що за допомогою GPT-3 ми можемо спростити певні трудомісткі процеси та повернути захисникам дорогоцінний час. Ми вже працюємо над інтеграцією деяких із зазначених вище прототипів у наші продукти та оприлюднили результати наших зусиль на нашому GitHub для тих, хто зацікавлений у тестуванні GPT-3 у власних середовищах аналізу. Ми вважаємо, що GPT-3 цілком може стати другим пілотом для професіоналів у сфері безпеки в майбутньому», – сказав Галлахер.
Більше на Sophos.com
Про Софос Sophos довіряють понад 100 мільйонів користувачів у 150 країнах. Ми пропонуємо найкращий захист від складних ІТ-загроз і втрати даних. Наші комплексні рішення безпеки прості в розгортанні, використанні та керуванні. Вони пропонують найнижчу сукупну вартість володіння в галузі. Sophos пропонує відзначені нагородами рішення для шифрування, рішення безпеки для кінцевих точок, мереж, мобільних пристроїв, електронної пошти та Інтернету. Також є підтримка від SophosLabs, нашої глобальної мережі власних аналітичних центрів. Штаб-квартири Sophos знаходяться в Бостоні, США, та Оксфорді, Великобританія.