Anthropic закликає до регулювання ШІ-моделей: що варто знати підприємствам

AI-Гіганти Закликають до Регулювання: Як «Федеральна Авіація Штучного Інтелекту» Змінить Бізнес

Даріо Амодеї, співзасновник та генеральний директор Anthropic, у своєму масштабному есе «Політика щодо експоненти штучного інтелекту» публічно закликає до впровадження нового державного регулювання для потужних моделей ШІ. Він порівнює галузь ШІ з комерційною авіацією, яка суворо регулюється Адміністрацією цивільної авіації США (FAA), наголошуючи на необхідності подібних заходів для забезпечення суспільної безпеки в умовах зростання можливостей та потенційних зловживань штучним інтелектом.

Паралельно з есе, Anthropic представила два комплексні плани дій: «Advanced AI Framework» для протидії катастрофічним ризикам від моделей ШІ та «Economic Policy Framework», що фокусується на змінах на ринку праці, спричинених ШІ. На підтримку останнього ініціативи компанія виділила 350 мільйонів доларів (приблизно 13,65 мільярдів гривень за поточним курсом).

Це оголошення збігається з релізом найпотужнішої загальнодоступної моделі Anthropic — Claude Fable 5, а також оновленої, більш контрольованої версії базової моделі Claude Mythos, тепер відомої як Claude Mythos 5. Остання має розширені можливості для кіберзахисту та кібератак.

Як зазначив Амодеї у своєму дописі в X: «Anthropic давно виступає за прозорість у розробці передових систем ШІ, оскільки ризики ще не були достатньо чітко визначені для точного регулювання. Це більше не є достатнім».

Для технічних керівників, CIO та архітекторів підприємств це есе — не просто політична заява, а й візія майбутніх операційних, регуляторних та кадрових обмежень, які визначатимуть наступне покоління корпоративних технологій.

Ось три ключові висновки, які керівники підприємств мають врахувати з останніх ініціатив Anthropic:

1. Передові Моделі ШІ Можуть Підлягати «Затримкам на кшталт FAA»

Останні три роки підприємства будували свої продукти, виходячи з припущення, що можливості API штучного інтелекту будуть лише зростати: ставати швидшими та потужнішими. «Advanced AI Framework» від Anthropic вводить новий фактор: регуляторні ембарго.

Амодеї прямо порівнює необхідний режим регулювання ШІ з Федеральною авіаційною адміністрацією (FAA), стверджуючи: «Передові моделі ШІ, як і літаки, повинні проходити технічне тестування та аудит, а їх випуск має бути заблоковано або скасовано, якщо вони становлять загрозу громадській безпеці та не відповідають високим стандартам безпеки».

Компанія пропонує, щоб моделі, навчені з використанням понад 10^25 операцій з плаваючою комою (FLOPs), або розроблені компаніями з річним доходом від ШІ понад 500 мільйонів доларів (приблизно 19,3 мільярда гривень) чи інвестиціями в R&D у сфері ШІ понад 1 мільярд доларів (приблизно 38,6 мільярда гривень), проходили обов’язкове незалежне тестування.

Якщо ці моделі створюватимуть серйозні біологічні, кібербезпекові або автономні ризики, уряд матиме законне право заборонити, затримати або обмежити їх впровадження.

Наслідки для Підприємств:

• Якщо ваша компанія використовує базові моделі ШІ як основу для критичної інфраструктури, необхідно враховувати потенційну нестабільність ланцюга постачання. Очікуване оновлення моделі від постачальника ШІ може бути нескінченно відкладене регуляторами, або вже існуюча модель може бути відкликана, якщо тестування виявить автономні загрози.
• Технічні лідери повинні проєктувати багаторівневі архітектури, які не прив’язуються до одного постачальника, забезпечуючи безперебійність бізнесу у випадку блокування флагманської моделі певним державним агентством.

2. Кібербезпека Навколо ШІ Стає Критично Важливою Інфраструктурою

Ініціатива Anthropic щодо регулювання значною мірою зумовлена нещодавнім зростанням кіберзагроз, керованих ШІ. Амодеї прямо згадує власний Claude Mythos Preview, зазначаючи, що його здатність виявляти критичні вразливості в основних операційних системах «змінила» глобальний ландшафт кібербезпеки.

Згідно з запропонованою Anthropic системою, безпека середовища розробки ШІ є першочерговою. Розробники передових моделей будуть зобов’язані захищати свої вагові коефіцієнти від зовнішніх кіберзагроз і внутрішніх зловмисників. Крім того, компанії повинні розробити канали для звітування про «атаки дистиляції моделей» — коли конкуренти або зловмисники використовують основну модель для навчання дешевшого, невідповідного клона.

Наслідки для Підприємств:

• Ризики для корпоративної безпеки подвоюються. По-перше, можливості ШІ для захисту стануть обов’язковими; як попереджає Амодеї, зловмисники, що використовують передові моделі для пошуку вразливостей, випереджатимуть традиційні методи захисту, керовані людьми.
• По-друге, підприємства, які доналаштовують моделі з відкритим кодом або розміщують пропрієтарні версії локально, ймовірно, зіткнуться зі значними новими регуляторними вимогами та обтяженнями інформаційної безпеки. Поводження з ваговими коефіцієнтами моделей як із суворо засекреченими корпоративними даними стане новим галузевим стандартом.

3. Плануйте Структурне Витіснення Робочої Сили, А Не Лише Ефективність

Мабуть, найсерйознішим аспектом оголошення є «Economic Policy Framework» від Anthropic. Компанія відкрито визнає, що якщо ШІ досягне прогнозованих можливостей, він діятиме як «загальний замінник праці», а не просто інструмент підвищення продуктивності.

Амодеї чітко формулює це: «Ключовим викликом у такому світі буде не стимулювання зростання, а пошук шляхів спільного використання переваг для всіх».

На підтвердження цих слів Anthropic виділяє 350 мільйонів доларів (приблизно 13,65 мільярдів гривень) для подолання економічних викликів: 200 мільйонів доларів (приблизно 7,7 мільярдів гривень) для Фонду досліджень майбутнього економіки для пілотного впровадження рішень державної політики та 150 мільйонів доларів (приблизно 5,95 мільярдів гривень) для національної програми стипендій. План активно передбачає сценарії, коли ШІ спричинить безробіття до 5%, 10% або навіть безпрецедентних рівнів, виступаючи за такі політики, як страхування заробітної плати, універсальний базовий дохід та моделі суверенних фондів.

Наслідки для Підприємств:

• Для технічних лідерів та відділів кадрів перехід до ери ШІ перетворюється на «мінне поле» трудових відносин. У документі зазначається, що компанії «можуть обирати перенавчання та переведення замість скорочення штату», але визнається, що добровільні дії не замінюють державної реакції.
• Підприємства, які планують активно впроваджувати ШІ, повинні негайно розпочати розробку планів переходу для робочої сили. Керівники, які розглядають ШІ виключно як механізм швидкого скорочення витрат через звільнення, можуть незабаром зіткнутися з новими «стимулами для зайнятості» або податковими політиками для утримання персоналу, запропонованими прихильниками сповільнення витіснення робочих місць.

Що Підприємствам Слід Робити Зараз

Оголошення Anthropic знаменує собою поворотний момент у діалозі галузі ШІ з Вашингтоном та світовим ринком. Як зазначив Амодеї: «Багато з цих політичних ідей мають загальноприйнятну привабливість у всьому політичному спектрі, і чим швидше ми діятимемо, тим швидше всі отримають переваги від ШІ».

Для бізнесу посил чіткий: ера «рухайся швидко і ламай» в генеративному ШІ добігає кінця. Наближається ера ретельної відповідності нормам, системної безпеки та складних трансформацій робочої сили.

Щоб підготуватися до цього зрушення, підприємства повинні спочатку відокремити свої стратегії ШІ від залежності від одного постачальника. Якщо флагманська модель буде раптово заблокована або відкликана відповідно до запропонованих регуляторних повноважень у стилі FAA, організації, які залежать від цього конкретного API, зіткнуться з негативним операційним паралічем. IT-лідери повинні створювати багаторівневі архітектури, які дозволять безперебійно замінювати базові моделі, забезпечуючи безперервність бізнесу у високорегульованій екосистемі.

По-друге, технічні директори повинні підняти рівень інфраструктури ШІ до рівня критично важливої кібербезпеки. Оскільки передові системи ШІ тепер здатні виявляти високопріоритетні програмні вразливості у великих масштабах, поверхня атаки швидко розширюється. Компанії, які доналаштовують моделі або розміщують їх внутрішньо, повинні забезпечити безпеку своїх середовищ розробки від зовнішніх та внутрішніх загроз, відповідаючи суворим стандартам безпеки, яких Anthropic вимагає від усієї галузі.

Нарешті, керівництво компаній повинно мати проактивну, а не реактивну, стратегію щодо робочої сили. Anthropic прямо застерігає від використання ШІ виключно для скорочення витрат шляхом звільнень, заохочуючи підприємства активно шукати нові варіанти використання, які дозволять зберегти та перенавчити їхній існуючий персонал. Оскільки уряди потенційно запроваджують податкові стимули для зайнятості та політики страхування заробітної плати для сповільнення витіснення робочих місць, компанії, які агресивно скорочують штат для фінансування впровадження ШІ, можуть опинитися не на боці громадської думки, а й на боці майбутніх економічних регуляцій.

Порада від INFBusiness:

Ця новина є надзвичайно важливою для будь-якого бізнесу, який планує або вже використовує передові моделі штучного інтелекту. Рекомендації Anthropic та їхні пропозиції щодо регулювання вказують на майбутні виклики та можливості. Підприємствам слід вже зараз розпочати адаптацію своїх стратегій, щоб відповідати потенційним регуляторним вимогам, посилити кібербезпеку своїх ШІ-систем та розробити плани для трансформації робочої сили, аби залишатися конкурентоспроможними та відповідати вимогам часу.

Джерело новини: venturebeat.com