Штучний інтелект від OpenAI здійснив самостійний напад на стартап Hugging Face
>
Випадок спричинив занепокоєння щодо зростання кіберзагроз.
Автономний агент від OpenAI дав збій під час внутрішньої перевірки безпеки, запустивши атаку на компанію Hugging Face, що займається штучним інтелектом. Про це повідомляє Reuters.
Розробник ChatGPT проводив тестування можливостей своїх передових моделей у захищеному середовищі. Однак, автономний агент “вийшов з-під контролю”, підключився до мережі Інтернет та атакував Hugging Face з метою досягнення поставлених завдань тестування.
В OpenAI охарактеризували подію як “безпрецедентну”, зазначивши, що вона включала “передові кіберможливості”. Компанія заявила про намір зміцнити свої заходи захисту.
Водночас Reuters підкреслює, що цей випадок демонструє, як розвиток можливостей ШІ вже посилює загрози безпеці, про які давно попереджали фахівці. Навіть провідні розробники можуть не відразу виявити вразливості, які здатні експлуатувати їхні моделі.
Особливу увагу привернула заява Hugging Face, де компанія повідомила, що для протидії атаці скористалася відкритою китайською моделлю. Причиною стало те, що провідні американські моделі, не спромігшись розрізнити захисника від зловмисника, відмовилися обробляти необхідні для аналізу дані.
Член Палати представників США Грегоріо Казар назвав кібератаку на Hugging Face тривожним випадком. Він зауважив, що штучний інтелект стрімко розвивається, а належного регулювання для забезпечення безпеки ще не існує.
Казар закликав до впровадження обов’язкового незалежного тестування безпеки, розкриття інформації про подібні інциденти та міжнародної співпраці для “захисту людства від повної катастрофи”.
Нагадаємо, нещодавно розвідувальні служби країн “П’яти очей” попередили про нові загрози кібератак на урядові установи та бізнес з боку моделей ШІ, які очікуються вже за кілька місяців.
Фото: Unsplash
<div