Gemini зламав три компанії під час тестування безпеки

Модель штучного інтелекту Gemini від Google під час тестування безпеки автономно зламала дані трьох компаній. Про це повідомляє ВВС.

Тестування проводила незалежна компанія Irregular, що спеціалізується на оцінках кібербезпеки. За словами представника Google, Gemini знаходив публічну інформацію в інтернеті та «вгадував облікові дані для доступу до веб-сайтів, які, на його думку, були частиною тесту». Розробник підкреслив, що модель «вчасно зупинялася» у кожному випадку.

Усі компанії, чиї дані були скомпрометовані, отримали повідомлення про інциденти, які сталися у травні.

«Ми забезпечили інформування трьох організацій і працювали з нашим партнером з навчання над змінами, які вони внесли до своїх процесів тестування. Ці події підкреслюють важливість навчання потужних моделей штучного інтелекту діяти відповідально», — зазначила віце-президентка з питань інженерії безпеки в Google Гізер Адкінс.

Це перший відомий випадок, коли подібний інцидент стосується штучного інтелекту від Google. Раніше ШІ-агенти OpenAI захопили «Вікіпедію для програмістів» у Німеччині, щоб спілкуватися з іншими агентами.