Оновлення ChatGPT до версії 4 чекали з нетерпінням, і, за словами виробника Open AI, кажуть, що воно представляє «найпередовішу» технологію штучного інтелекту та навіть склало адвокатський іспит на найкращі оцінки. Однак єдине, що ChatGPT може відтворити, — це брехня, яку важко розпізнати в фактичних текстах, як сказав експерт із безпеки Sophos Честер Вишневскі в інтерв’ю.
Як представник індустрії ІТ-безпеки бачить стрімкий розвиток штучного інтелекту в чатах і як він класифікує отримані можливості та можливі недоліки? Честер Вишневскі, головний науковий співробітник Sophos, відповів на деякі запитання. Його висновок: користь, ймовірно, перевищує шкоду.
Які відмінності між GPT 3 і новим GPT 4?
Багато чого змінилося і покращилося, але не все відомо. OpenAI тримає свої карти трохи жорсткіше з цим випуском, ніж у минулому, тому не всі вдосконалення були оприлюднені. Загалом він виглядає розумнішим, точнішим і потужнішим, ніж попередні версії, що має зробити реакції ще більш реалістичними та компетентними. Все ж важливо пам’ятати, що, хоча ймовірність поширення неправдивої інформації менша, він все одно є досить хорошим брехуном.
Чи етично робити такий генеративний, попередньо навчений трансформатор загальнодоступним?
Він так само доступний для поганих хлопців, як і для хороших хлопців. Технічний прогрес схожий на джина в пляшці. Ви не можете просто відкласти його, коли це стає незручно. Наявність таких інструментів, як ChatGPT із засобами захисту, які намагається забезпечити OpenAI, навряд чи принесе більше шкоди, ніж користі. Хоча кримінальне зловживання штучним інтелектом є неминучим, користь, яка може прийти від відповідального використання цих інструментів, швидше за все, значно переважить будь-яке зловживання.
Схоже, що вже є численні приклади швидкого інженерного руйнування огороджень системи, і є принаймні один приклад непрямого швидкого введення. Як ви думаєте, чи вдасться колись створити модель GPT, якою не можна буде зловживати?
🔎 Інтерв’ю: експерт із безпеки Sophos Честер Вишневскі (Зображення: Sophos).
Немає. Більш детальна відповідь, ймовірно, була б більш бажаною зараз, але будь-яку систему, розроблену для запобігання зловживанням, а також розроблену для забезпечення автономної роботи системи, швидше за все, завжди можна буде обійти. Але оскільки OpenAI та інші дослідники ШІ дізнаються більше про те, як люди обходять свій захист, це стає складніше. Я сподіваюся й очікую, що в майбутньому від кіберзлочинців буде потрібно значно більше спритності. Однак скомпрометувати систему все одно буде можливо.
ChatGPT створює щось нове чи просто виконує те, що йому сказано? Що робити, якщо модель засвоїла або навчила неточностей?
Єдине, що може відтворити ChatGPT, це брехня. Це досить переконливий брехун, який конкурує з найкращими нарцисами, яких я знаю. Модель, безперечно, також навчали речам, які є неточними або неправдивими, і майже неможливо передбачити, коли вона включить ці фактичні неточності у свої відповіді.
Big AI буде належати Big Tech. Хоча особисті та конфіденційні дані компанії, що містяться в підказках, можуть не включатися в конкретну модель штучного інтелекту, вони точно будуть доступні для великих технологічних компаній. І бізнес-модель великих власників технологій часто покладається на продаж таких даних тому, хто запропонує найвищу ціну. Чи можна щось зробити з аспектами конфіденційності загальнодоступного ШІ у стилі GPT?
Для більшості користувачів систем ШІ сьогодні немає іншого вибору, окрім як довіряти обіцянкам і ліцензійним угодам, на які вони погоджуються, щоб використовувати такі моделі, як ChatGPT. Однак багато з цих моделей розвиваються неймовірно ефективно, тому немає причин, чому вони не можуть працювати на наших ПК, ноутбуках чи навіть телефонах у майбутньому. Навчання моделей є інтенсивним обчислювальним процесом, але його виконання – ні. Старіші моделі можуть пропонуватися як відкриті або навіть краудсорсингові, щоб вони були доступні кожному, хто хоче ними користуватися. Найсучасніші моделі, ймовірно, залишаться в руках великих технологічних гігантів, але моделі, які більш ніж «досить хороші», можуть працювати на iPhone у вашій кишені, якщо ви хочете.
Більше на Sophos.com
Про Софос Sophos довіряють понад 100 мільйонів користувачів у 150 країнах. Ми пропонуємо найкращий захист від складних ІТ-загроз і втрати даних. Наші комплексні рішення безпеки прості в розгортанні, використанні та керуванні. Вони пропонують найнижчу сукупну вартість володіння в галузі. Sophos пропонує відзначені нагородами рішення для шифрування, рішення безпеки для кінцевих точок, мереж, мобільних пристроїв, електронної пошти та Інтернету. Також є підтримка від SophosLabs, нашої глобальної мережі власних аналітичних центрів. Штаб-квартири Sophos знаходяться в Бостоні, США, та Оксфорді, Великобританія.