Невелика група осіб без відповідного дозволу змогла отримати неавторизований доступ до нової ШІ‑моделі Mythos від Anthropic. Про це пише Bloomberg, посилаючись на внутрішні документи.
Згідно з даними агентства, декілька членів закритого онлайн‑форуму змогли скористатися нейромережею в день запуску і відтоді періодично її використовують.
Anthropic представляє Mythos як систему, здатну ідентифікувати та використовувати недоліки «у всіх основних операційних системах і веббраузерах». З огляду на це компанія надала доступ до неї лише обмеженому колу постачальників програмного забезпечення.
Щоб проникнути в систему, користувачі вдалися до декількох методів: використали дані для входу в обліковий запис співробітника стороннього підрядника Anthropic, вгадали URL моделі за принципами адресації інших систем компанії, а також отримали додаткові дані з витоку інформації стартапу Mercor.
Джерело Bloomberg запевняє, що група має намір лише проводити експерименти з новою моделлю і не має наміру завдавати шкоди. Крім Mythos, її учасники мають доступ і до ряду інших не випущених нейромереж Anthropic.
«Ми розслідуємо повідомлення про несанкціоноване підключення до Claude Mythos Preview через одне із середовищ сторонніх постачальників», — повідомив представник фірми.
Інцидент підкреслює складність контролю за розповсюдженням потенційно небезпечних технологій і залишає без відповіді питання: хто ще може отримати доступ до Mythos і з якою ціллю.
Здатність Mythos
Mozilla повідомила у своєму блозі, що рання версія Mythos допомогла знайти 271 уразливість у браузері Firefox під час внутрішнього тестування. Помилки були усунені.
Результат продемонстрував, як передові ШІ‑системи можуть аналізувати значні кодові бази та знаходити слабкі місця, які раніше вимагали пильної перевірки з боку спеціалістів із кібербезпеки.
Раніше Mozilla тестувала іншу модель Anthropic, яка виявила 22 недоліки в попередній версії Firefox. Незважаючи на нові результати, у компанії визнають, що досягнення повної безпеки є «недосяжною метою».
Фірма заявила, що всі виявлені помилки міг би знайти і висококваліфікований дослідник‑людина.
«Деякі оглядачі вважають, що майбутні ШІ‑моделі виявлять абсолютно нові типи вразливостей, які виходять за рамки нашого теперішнього розуміння. Ми так не вважаємо», — зазначили в компанії.
Нагадаємо, у квітні ЗМІ стало відомо, що Агентство національної безпеки США використовує Mythos, незважаючи на конфлікт стартапу з Пентагоном.
У березні фірма підтвердила витік частини початкового коду свого ШІ‑інструмента для програмування Claude Code.
Згодом вона випадково видалила тисячі репозиторіїв на GitHub, намагаючись виправити ситуацію.