Штучний інтелект зламав спортзал: технологічна спільнота у шоці

Сучасні ШІ-лабораторії Кремнієвої долини фактично створили найкращих хакерів у світі у вигляді ШІ-агентів. Дайте їм завдання, і вони виявляться настільки винахідливими, що виконають його, навіть якщо для цього доведеться вирватися зі свого “пісочниці” кібербезпеки та проникнути в чужу мережу. (Або ж вони вдадуться до соціальної інженерії та маніпуляцій).

Тим не менш, новина вихідних про австралійця, чий агент OpenClaw зламав систему бронювання його спортзалу і видалив бронювання іншого клієнта, щоб отримати йому місце на бажаний клас, є особливо показовою. Вона натякає, що якщо ми хочемо стримати свавільних ШІ-хакерів, ми, можливо, дивимося не в тому напрямку.

Хоча новина була опублікована австралійським ABC News, і в ній стверджується, що цей інцидент є першим документованим випадком злому за допомогою ШІ-агента в країні, сам злом стався кілька місяців тому.

Власник OpenClaw, Ендрю Берд, опублікував у блозі на сайті своєї компанії, який згодом було видалено, допис про це 10 квітня, згідно з копією, що досі доступна в Internet Archive.

Він навчив свій OpenClaw виконувати такі завдання, як бронювання йому зустрічей. Йому подобалося відвідувати популярний ранковий фітнес-клас, і він втомився від того, що потрапляв до списку очікування, а потім грав у “рулетку оновлення”, як він це описував, щоб отримати місце.

Коли він попросив бота забронювати йому місце, найкраще, що він міг зробити, це 4-те місце у списку очікування, як він розповів ABC. Тоді його агент повідомив йому, що знайшов спосіб забронювати йому місця заздалегідь. Дуже заздалегідь. За місяці до того, як спортзал зробив ці класи доступними для запису.

Берд запитав, чи може він перемістити його вище у списку очікування. Бот зробив, як просили, і спробував це зробити. Бот знайшов вразливість у частині авторизації програмного забезпечення для бронювання, яке використовував спортзал. Він зламав його та скасував бронювання №1 у списку очікування. Бот із задоволенням повідомив йому, згідно з логами чату, опублікованими ABC:

API не має жодних перевірок авторизації при скасуванні бронювань інших людей… Я протестував це з людиною на першому місці у списку очікування — і це спрацювало. Отже, ви вже перемістилися з №4 на №3, — написав він у відповідь.

Берд, який сам є розробником програмного забезпечення, був шокований тим, що його ШІ щойно зламав його спортзал, повідомив ABC. Він запитав, чи може він скасувати це і повернути іншу людину до списку очікування. Ні, це неможливо, відповів ШІ.

Тож він зробив наступне найкраще: попросив ШІ скласти “відповідальний лист із повідомленням для служби підтримки”. Лист “пояснював вразливість, пропонував виправлення і навіть порівнював несправні мутації з тими, які коректно застосовували авторизацію”, — написав Берд.

Окрім гумору в ситуації, коли хтось виштовхує іншого з дороги, щоб потрапити на заняття у спортзалі, є дві дійсно цікаві сторони цього інциденту. По-перше, Берд використовував Claude Opus 4.6, випущений у лютому, зі своїм OpenClaw. По-друге, реакція Кремнієвої долини на X, де історія стала вірусною.

Після відомого інциденту минулого місяця, коли непротестована модель OpenAI зламала Hugging Face, про що OpenAI тоді не знала, інші лабораторії почали досліджувати свої моделі. Згодом були зроблені розкриття від Kimi K3 від Moonshot, Muse Spark від Meta та Anthropic.

Насправді, Anthropic виявив, що три з їхніх моделей зробили це, включаючи Opus 4.7, випущений у квітні, який відомий своїми можливостями в складних кодуваннях, Mythos 5, Fable (відомий своїми навичками кібербезпеки) та внутрішню, непротестовану дослідницьку тестову модель.

Для вирішення цієї проблеми деякі ШІ-лабораторії обговорювали сповільнення розробки передових моделей або створення незалежних організацій для тестування наступного покоління моделей.

Але OpenClaw Берда використовував 4.6, як він розкрив. Це означає, що старіші моделі, а також безліч моделей з відкритим кодом, що відстають на три кроки, вже є винятково хорошими хакерами. Тож хто знає, скільки з них зламали, або зламують зараз, щоб задовольнити бажання своїх власників?

Аналогічно, багато людей на X побачили гумористичний потенціал у цьому інциденті. Як прокоментував партнер Andreessen Horowitz Крістіан Кайл: “Це просто жахливо. Хтось знає, чи працює це для бронювання часу гри в гольф?”

Або, як зазначив користувач X Roon: “система бронювання тенісу в Сан-Франциско стане одним з найзахищеніших програмних забезпечень на планеті Земля”.

Смішно, так. Але в цих жартах є частка правди. Існує майбутнє, яке будує Долина, де у кожного буде ШІ-агент, що працюватиме на його користь. Цей агент робив лише те, що йому було наказано, і не мав у своєму розпорядженні можливостей рівня Mythos.

То що, якщо розробники та власники агентів насправді не хочуть стримувати таке невідповідність? Ми можемо спостерігати перші ознаки хаосу для всього, від бронювання авіаквитків до квитків на концерти, або будь-якої іншої ситуації, що викликає розчарування у обслуговуванні клієнтів. Як зазначив один користувач X, який найдивовижніший хак, який ШІ виявив досі? Це може бути проходження без черги.

Коли ви купуєте за посиланнями в наших статтях, ми можемо отримати невелику комісію. Це не впливає на нашу редакційну незалежність.

За матеріалами: techcrunch.com