Кібернетичний військовий підрозділ Пентагону сформував спеціальну робочу групу з метою прискорення впровадження передових штучних інтелектуальних інструментів, що володіють потужними хакерськими можливостями. Цю інформацію оприлюднив Politico, посилаючись на свої джерела.
Ця ініціатива об’єднає представників Кіберкомандування з АНБ та займеться дослідженням способів безпечного застосування передових моделей Пентагоном у всіх аспектах його діяльності.
Йдеться про оцінку потенціалу використання нейронних мереж у “високорівневих” системах, які зберігають найсекретнішу інформацію.
Ця ініціатива підкреслює занепокоєння Пентагону щодо раптової появи нейромереж, розроблених приватним сектором, які здатні виявляти слабкі місця в цифрових системах швидше, ніж найвправніші хакери.
На тлі цих побоювань адміністрація Дональда Трампа готує розпорядження щодо контролю за ШІ у сфері кібербезпеки. Цей документ може запровадити добровільну схему співпраці розробників ШІ з урядовими органами США.
За даними ЗМІ, компаніям буде запропоновано надавати свої розробки уряду за 90 днів до їх публічного випуску. Інша пропозиція стосується надання раннього доступу для операторів критичної інфраструктури, зокрема банківських установ.
Обговорення активізувалося після випуску Mythos від Anthropic. У квітні компанія заявила, що прев’ю-версія моделі виявила тисячі вразливостей високого рівня небезпеки. Це стосувалося, зокрема, основних операційних систем та браузерів.
Замість публічного випуску, компанія запустила Project Glasswing — ініціативу за участю AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks для тестування інструменту в захищених умовах.
У квітні стало відомо, що АНБ використовує Mythos, незважаючи на суперечності стартапу з Пентагоном. Немає інформації про те, як саме агентство використовує ШІ компанії, але інші організації застосовують його для сканування власних середовищ на наявність вразливостей.
Розбіжності між Anthropic і Пентагоном виникли через небажання компанії дозволяти використання моделей ШІ для масового спостереження за громадянами США та для розробки автономної зброї. У результаті Трамп доручив усім федеральним відомствам протягом шести місяців повністю припинити використання технологій цієї компанії.
Нагадаємо, у травні армія США зібрала провідних підрядників для інтеграції ШІ в озброєння.