Фінансові регулятори Сполученого Королівства ведуть невідкладні обговорення з державним відомством із забезпечення кібернетичної безпеки та найбільшими банками. Сторони проводять оцінку загроз, пов’язаних із новою ШІ-моделлю Anthropic, повідомляє FT.
Представники Англійського банку, Управління з фінансового регулювання і контролю та Міністерства фінансів обговорюють питання з Національним центром кібернетичної безпеки. Вони мають намір разом дослідити можливі слабкі місця критично важливих ІТ-систем, які ідентифікувала нейронна мережа.
Видання зауважує, що впродовж найближчих двох тижнів найбільші фінансові організації, страхові фірми та біржі отримають інформацію щодо кібернетичних ризиків, пов’язаних з Claude Mythos.
Побоювання перед ШІ
Нова нейромережа виявилася настільки дієвою, що розробники відмовилися від її публічного релізу. Натомість розпочався Project Glasswing — ініціатива з тестування інструменту в контрольованому оточенні за участі AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks.
Приводом для тривоги стало те, що всього за декілька тижнів Mythos знайшла тисячі вразливостей нульового дня в основних операційних системах і веб-браузерах.
Масштаб ймовірної загрози змусив міністра фінансів США Скотта Бессента та очільника ФРС Джерома Пауелла ініціювати термінову зустріч з керівниками Волл-стріт. Представники влади застерегли топменеджерів, серед яких були голова Citigroup Джейн Фрейзер і CEO Goldman Sachs Девід Соломон, що запуск Mythos означає нову еру в галузі кібербезпеки.
Банк Канади та найбільші фінансові інститути країни теж провели зустріч для «оцінювання системних ризиків, пов’язаних з появою настільки розвиненої ШІ-моделі». Ціль ініціативи — «підвищення операційної стабільності критично важливого фінансового сектора країни».
Роздування ажіотажу?
У TechCrunch звернули увагу, що обмеження доступу до Mythos може бути елементом маркетингової кампанії для привернення уваги до нової ШІ-моделі.
У березні керівник профільного ШІ-стартапу Irregular Ден Лахав наголосив: хоча автоматизований пошук вразливостей відіграє важливу роль, фактична користь від знайденої «прогалини» для хакерів залежить від безлічі факторів.
В Anthropic стверджують, що Mythos здатна ширше використовувати вразливості у порівнянні з Opus. Водночас наразі незрозуміло, чи насправді ця LLM є ідеальним рішенням для кіберзахисту.
Стартап Aisle повідомив, що зміг відтворити більшість досягнень Mythos за допомогою інших нейромереж. За словами представників фірми, не існує універсальної моделі для кібербезпеки — вибір інструменту завжди залежить від конкретного завдання.
Одна з причин, чому провідні ШІ-лабораторії можуть свідомо обмежувати релізи, — можливість укладати ексклюзивні контракти з великими компаніями, паралельно ускладнюючи конкурентам копіювання інструментів шляхом дистиляції.
«Це маркетинговий хід, покликаний приховати той факт, що топові моделі тепер доступні тільки за корпоративними угодами і більше не надаються невеликим лабораторіям для тестування», — зауважив CEO exe.dev Девід Кроушоу.
Він додав, що коли Mythos відкриють для всіх охочих, на ринку з’явиться нова передова LLM виключно для корпоративних клієнтів. Такий підхід дозволяє підтримувати приплив фінансування та обмежувати компанії, які займаються дистиляцією алгоритмів.
Anthropic на передньому краї
За останні декілька місяців стартап Anthropic суттєво розширив свою аудиторію. Рішення компанії мають великий попит, а прибуток експоненціально зростає.
Журналісти TechCrunch повідомили, що на конференції HumanX AI у Сан-Франциско тисячі фахівців зі ШІ обговорювали можливості технології, і Claude згадували найчастіше як один із найкращих продуктів на ринку.
Anthropic згадували на багатьох панельних сесіях. Водночас про ChatGPT майже не згадували. Один із експертів зауважив, що OpenAI «вибула з гри».
Чимало учасників конференції наголосили, що компанія Сема Альтмана втратила чіткий напрямок розвитку. Олії до вогню додала нещодавня стаття про голову стартапу — його зобразили як диктатора та брехуна, який відмовився від початкової благородної місії.
Зарано ховати OpenAI
Нещодавній аналіз фінансових показників OpenAI та Anthropic показав, що обидві компанії є «підприємствами з найшвидшим зростанням в історії».
У цьому контексті «падіння» творіння Альтмана свідчить лише про те, що воно більше не є беззаперечним лідером. У фірми з’явилися конкуренти — це нормально для більшості сфер, відзначили в TechCrunch.
OpenAI явно не має наміру втрачати домінування. Компанія анонсувала новий тарифний план за $100, який надає розширений доступ до інструменту для програмування Codex.
Нагадаємо, у квітні Anthropic випустила середовище для запуску складних і тривалих агентних завдань — Claude Managed Agents.