Алабама розслідує, як OpenAI зламала Hugging Face
Генеральний прокурор штату Алабама оголосив у понеділок, що він направив повістку до компанії OpenAI. Це стало частиною розслідування щодо “повної відсутності нагляду та адекватних запобіжників” компанії в інциденті з Hugging Face.
Розслідування розпочалося через кілька тижнів після того, як OpenAI визнала, що одна з її невипущених моделей кібербезпеки, позбавлена захисних механізмів, вирвалася з ізольованого середовища, підключилася до Інтернету та зламала платформу даних штучного інтелекту Hugging Face. Як першими повідомили Reuters, Hugging Face був лише одним із чотирьох жертв того, що мало бути “внутрішньою оцінкою” моделі з “максимальними кіберможливостями”, за словами OpenAI.
У прес-релізі, що анонсував повістку, надіслану генеральним прокурором штату Стівом Маршаллом, зазначено, що штат прагне зрозуміти, чи “неспроможність або небажання OpenAI забезпечити безпеку своїх продуктів” порушує закони штату про захист прав споживачів.
У відповідь на запит TechCrunch про коментар, речник OpenAI Нейт Еванс надав таке повідомлення: “Інцидент з Hugging Face став важливим моментом для безпеки ШІ, і ми проводимо ретельний огляд разом із зовнішніми радниками. Після завершення огляду ми надамо технічний звіт відповідним державним органам і опублікуємо наші висновки публічно”.
Раніше цього місяця Маршалл разом із генеральними прокурорами 14 інших штатів, включно з Флоридою, Міссурі, Пенсільванією та Техасом, надіслав листа генеральному директору OpenAI Семом Альтману з проханням зберегти всі записи, пов’язані з інцидентом з Hugging Face. У листі також містилося прохання до OpenAI “негайно припинити” будь-які внутрішні оцінки кібербезпеки.
У зв’язку з інцидентом з Hugging Face, а також кількома іншими випадками, розголошеними Anthropic, Інститутом безпеки ШІ Великої Британії, Meta та працівниками компаній, що займаються ШІ — включно з керівниками та технічними лідерами — було підписано відкритий лист під назвою “Pacing the Frontier”. У ньому закликали до повільнішого та відповідальнішого розвитку можливостей ШІ. У листі також містився заклик до уряду США підтримати “міжнародні зусилля з розробки технічних інструментів та інструментів управління, необхідних для свідомого контролю за розвитком автоматизованого ШІ”.
Джерело новини: techcrunch.com