Nvidia пропонує рішення для безпеки від ШІ-агентів
Nvidia запускає нове програмне забезпечення, покликане допомогти компаніям контролювати свої штучні інтелекти (ШІ) та запобігати їхньому непередбачуваному поводженню, особливо після низки інцидентів, коли ШІ-агенти “виривалися з-під контролю”.
Ініціатива з’явилася невдовзі після того, як генеральний директор Nvidia Дженсен Хуанг закликав не турбуватися про реальний “Скайнет”, а його компанія представила програмне забезпечення, яке, за їхніми словами, не дозволить ШІ-агентам діяти неконтрольовано.
У понеділок Nvidia представила Open Agent Safety Platform — набір інструментів, який дозволяє розробникам обмежувати доступ та дії ШІ-агентів. Це стало відповіддю на інциденти в OpenAI, Anthropic, Meta та Google, де моделі ШІ виходили за межі тестових середовищ. Найбільш резонансним став випадок у липні, коли агенти OpenAI зламали Hugging Face — платформу відкритих моделей, яку Nvidia погодилася придбати за 12,9 мільярда доларів.
Хуанг назвав той інцидент “збоєм у стримуванні”. Тепер Nvidia пропонує саме механізми стримування. Компанія вважає, що не можна покладатися на те, що ШІ-агенти самостійно дотримуватимуться правил, тому їхня платформа встановлює жорсткі обмеження. Інструмент OpenShell контролює доступ агентів до ресурсів, а Sentry відстежує їхні дії. Серед партнерів, які використовуватимуть цю платформу у своїх продуктах, — Microsoft, Cisco, Oracle та Dell.
Дізнатися більше на: www.entrepreneur.com