Зловмисний ШІ OpenClaw стер листи науковця Meta.

Фахівчиня з кібербезпеки Meta AI, Саммер Юе, поставила перед ШІ-агентом OpenClaw задачу сортувати її заповнений ящик електронної пошти, рекомендуючи, що потрібно прибрати, а що відправити до архіву. Натомість, програмний робот почав стирати електронні листи з великою швидкістю.

Вона зауважила, що віртуальний асистент не зважав на команди зупинки, які надходили з мобільного пристрою.

«Мені довелось МЧАТИ до свого Mac mini, ніби я знешкоджую вибухівку», — зазначила вона.

Юе додала знімки екрана, що демонструють ігнорування команд stop.

Mac mini — доступний комп’ютер від Apple — останнім часом став улюбленим девайсом багатьох користувачів для використання OpenClaw.

Користувачі X задалися питанням: якщо експерт з безпеки штучного інтелекту зіштовхнулася з подібною ситуацією, то які шанси у звичайних людей? Її також запитали, чи проводила вона тестування захисних обмежень, або ж зробила помилку.

«Якщо відверто, це помилка початківця», — відповіла Юе.

Раніше працівниця Meta випробовувала агента на іншій техніці. Він здобув її довіру, тому вона допустила помічника до реальної пошти.

Блокування криптовалюти

OpenClaw (раніше Clawdbot) — сервіс з відкритим кодом, що набув популярності в кінці січня. Він дає можливість створювати ШІ-агентів, які працюють локально на пристрої користувача.

У лютому стартап OpenAI запросив творця OpenClaw Пітера Штайнбергера очолити напрямок індивідуальних ШІ-агентів. Одночасно з цим підприємця звинуватили у відмові запускати токен проєкту.

В інтерв’ю Лексу Фрідману Штайнбергер повідомив, як на нього нападали в криптоспільноті. В якийсь момент розробник мав намір прибрати проєкт.

Він не має наміру випускати чи рекламувати токен, проте користувачі активно до цього спонукали. Люди створили цифровий актив і почали вимагати від Штайнбергера визнати його, одержувати відсотки та займатися розвитком. Вони надсилали спам у Discord і X.

В результаті його звинуватили в тому, що він не «розкручує» токен. В той же час криптошахраї намагалися зламати GitHub розробника, а під час ребрендингу проєкту всі нікнейми миттєво захоплювали для реклами нових цифрових активів.

Згодом творець OpenClaw заборонив будь-які згадки біткоїна чи криптовалют на Discord-сервері проєкту. Він заблокував одного з користувачів за порушення правила.

«У нас жорсткі правила сервера, з якими ви погодились під час входу. Повна заборона на згадування криптовалют — одне з них», — зазначив розробник.

Він стверджував, що саме переслідування з боку криптоспільноти змусило його запровадити сувору модерацію. Деякі користувачі намагались відрадити від такої суворої політики, але марно.

Частина користувачів висловила думку, що криптовалюти — кращий варіант використання для платежів серед ШІ-агентів на зразок OpenClaw:

«Ви створюєте децентралізований проєкт з відкритим вихідним кодом на базі Visa?».

Нагадаємо, у січні фахівці застерігали про небезпеку використання ШІ-помічника Clawdbot. Він міг ненавмисно розголошувати особисті дані та API-ключі.

No votes yet.
Please wait...

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *