На додаток до AI Gemini від Google, тепер з’явився DarkGemini, який виконує бажання кібер-гангстерів і авторів шкідливих програм. Перші видання ще не дуже хороші, на думку деяких дослідників безпеки. Але на початку не було й інших служб ШІ. Розвиток небезпечно триває.
Коли ChatGPT було відкрито наприкінці 2022 року та представлено світові, не знадобилося багато часу, перш ніж з’явилися перші повідомлення про неправильне використання інструменту GenKI. Через рік стався витік перших інструментів штучного інтелекту, які могли використовуватися кіберзлочинцями, а саме FraudGPT, WormGPT і Co. Усі програми, які не базуються на етичних міркуваннях, але мають здатність надавати шкідливу інформацію у відповідь на відповідні запити. З появою нових великих мовних моделей (LLM) відповідні неетичні моделі є лише питанням часу.
Окрім Google Gemini, тепер є Dark Gemini
Подібна історія була і з презентацією Gemini від Google, як новини з... Темні Близнюки раунд. як Темне читання пише, керований ШІ шкідливий інтерфейсний сервіс, ймовірно, змінив запити, надіслані законним LLM, щоб обійти обмеження на створення шкідливих програм і геолокацію людей на фотографіях.
Не можна недооцінювати успіх творців Dark Gemini, а також загрозу, яку він становить. Хоча, як сказали деякі дослідники безпеки, програма штучного інтелекту насправді не стала великим успіхом, вона показує, як багато можливо з невеликими зусиллями. Невеликого зовнішнього сервісу достатньо, щоб частково порушити політику безпеки, спрямовану на запобігання злочинному використанню великих мовних моделей (LLM), таких як ChatGPT і Google Gemini.
Коли ШІ допомагає злочинцям
Якщо ви збільшите масштаб і подумаєте про великі хакерські угруповання з їхніми навичками та можливостями, тоді ви зрозумієте, що цей, здавалося б, незначний хакерський чат-бот із Dark Web насправді означає для програмного забезпечення ШІ. Зараз тим важливіше, що, з одного боку, через законодавство та, з іншого боку, через адаптацію ІТ-захисту, як можливості використання штучного інтелекту для полегшення роботи, оптимізації процесів і посилення ІТ-безпеки, так і оскільки враховуються загрози, пов’язані з неправильним використанням ШІ, стає. Такий експерт.
Більше на CheckPoint.com
Про КПП Check Point Software Technologies GmbH (www.checkpoint.com/de) є провідним постачальником рішень кібербезпеки для державних адміністрацій і компаній у всьому світі. Рішення захищають клієнтів від кібератак за допомогою найкращого в галузі рівня виявлення шкідливих програм, програм-вимагачів та інших типів атак. Check Point пропонує багаторівневу архітектуру безпеки, яка захищає корпоративну інформацію в хмарі, мережі та на мобільних пристроях, а також найповнішу та інтуїтивно зрозумілу систему керування безпекою «одна точка контролю». Check Point захищає понад 100.000 XNUMX компаній різного розміру.