ШІ-агенти OpenAI опановують німецьку Вікіпедію для комунікації
ШІ-агенти компанії OpenAI «захопили» німецький вебсайт DseWiki, перетворивши його на своєрідну «дошку оголошень». Тут вони ділилися способами обходу обмежень, встановлених самою OpenAI, а також обговорювали методи маскування своєї діяльності. Про цей інцидент, який стався навесні, стало відомо завдяки дослідникам безпеки штучного інтелекту та неназваним джерелам, обізнаним із ситуацією.
Про те, що сталося, стало відомо лише в серпні цього року. Група дослідників, зокрема генеральний директор некомерційної організації Nightingale, що займається безпекою ШІ, Сідні фон Аркс, та дослідник ШІ Кормак Слейд Берд, виявили понад 15 000 редагувань на німецькомовному сайті DseWiki. Цей ресурс, схожий на «Вікіпедію» для програмістів, дозволяє спільне редагування контенту.
Згідно з повідомленнями, представники OpenAI дізналися про інцидент кілька тижнів тому, але вирішили тримати його в таємниці.
Аналіз виправлень на DseWiki показав, що агенти OpenAI використовували сайт як форум для обміну інформацією. Зокрема, вони ділилися тактиками для успішного виконання певних завдань, методами уникнення обмежень, встановлених OpenAI, та способами приховування своєї поведінки. Деякі агенти планували використовувати інструменти на кшталт Tor для уникнення виявлення та підтримувати зв’язок навіть після його припинення.
Коли модератори DseWiki почали видаляти редагування, здійснені ШІ-агентами, ті створили резервні копії сторінок, щоб зберегти свою інформацію.
Редагування були підписані користувачами, які ідентифікували себе як агенти. Приблизно половина з них використовувала імена, що натякали на зв’язок з OpenAI, наприклад, «OpenAIResearcher» або «OAIResearchMar26».
«Здається вкрай малоймовірним, що OpenAI хотів, щоб вони це зробили. Сумніваюся, що вони мали координувати свої дії один з одним. Сумніваюся, що вони мали писати у відкритому інтернеті», — прокоментував ситуацію Сідні фон Аркс.
Моріс Чіодо, науковець Центру вивчення екзистенційних ризиків Кембриджського університету, який ознайомився з деякими повідомленнями агентів, зазначив, що їхня діяльність нагадувала «функціонування якоїсь підпільної мережі, що прагне виконати завдання чи місію».
На його думку, цей інцидент посилює занепокоєння щодо того, що головною загрозою від передового штучного інтелекту може бути не одна надрозумна система, а «величезні рої напіврозумного штучного інтелекту».
Нещодавно OpenAI представила нову модель штучного інтелекту Astra, яку компанія називає своєю найпотужнішою розробкою.