Arcee: китайські ШІ-моделі не становлять загрози, заявляють в американській лабораторії
Відкриті моделі ШІ з Китаю: Чи варто їх боятися?
Зі зростанням можливостей та популярності китайських моделей штучного інтелекту з відкритим доступом (open-weight) дискусії щодо їхнього регулювання знову набувають гостроти.
З’являються чутки про можливу заборону таких технологій з боку адміністрації Трампа (хоча поки що жодних конкретних дій не було). Водночас компанії, що розробляють пропрієтарні моделі, зокрема OpenAI та Anthropic, висловлюють дедалі більше занепокоєння щодо конкуренції.
Відкриті моделі, такі як Kimi K3 від Moonshot AI або Qwen від Alibaba, пропонують значно нижчу вартість обробки токенів порівняно із закритими моделями великих американських лабораторій. Існує побоювання, що вони можуть становити певну загрозу, зокрема для прибутків великих пропрієтарних ШІ-лабораторій.
Чи справді китайські моделі ШІ є ризиком для корпоративної безпеки?
Чи варто компаніям, які розгортають ці моделі у власних дата-центрах, піддаватися страху, що вони можуть стати вектором для китайських хакерів?
Відповідь — ні, стверджує Лукас Аткінс, технічний директор Arcee, компанії, яка розробляє відкриті моделі, щоб надати американським підприємствам вітчизняну альтернативу китайським розробкам.
Навіть якби якась стартап-компанія виграла б від заборони китайських моделей, то це була б Arcee. Однак Аткінс зазначає, що китайські відкриті моделі не є небезпечнішими за будь-яке інше програмне забезпечення з відкритим вихідним кодом, яке може використовувати компанія. Насправді, він додає, вони навіть приносять користь його власній компанії.
«Багато хто сприймає це як китайську програму. Начебто, вона була написана з певними намірами (x, y, z)», — натякає він, — «з якими зловмисник міг би просто маніпулювати».
«Це принципово не те, як тренуються ці моделі. Насправді немає жодного способу, щоб така компанія, як Arcee чи Alibaba, створила модель, запустила її у власному середовищі клієнта, а потім мала до неї хоч якийсь доступ», — пояснює він.
Хоча більшість цих моделей є «open-weight» (з відкритими ваговими коефіцієнтами) і не є повністю відкритим програмним забезпеченням, вихідний код (частина, яка фактично запускається на серверах), якщо його завантажити з таких ресурсів, як Hugging Face, переважно є видимим і доступним для перевірки. (Недоступними залишаються методи та дані, використані для навчання моделей.)
Великі організації повинні піддавати ядра будь-яких моделей своїм процесам тестування безпеки та інспекції. Часто вони також дотреновують моделі для своїх специфічних завдань і можуть виявляти такі аспекти, як упередженість, токсичність, галюцинації та чутливість до певних тем. Таким чином, вони працюють з моделями, оптимізують їх та розуміють перед тим, як користувачі починають надсилати запити.
Потенційні ризики та їхня ймовірність
Чи може модель, яка використовується для написання коду, ненавмисно внести шкідливі бекдори у створений нею код? Знову ж таки, хоча це теоретично можливо, для цього знадобилися б надзвичайні зусилля.
«Немає жодних причин, чому достатньо винахідливий зловмисник не міг би навчити модель бути абсолютно чудовою моделлю для кодування за будь-яких обставин, але коли їй надається певний тип кодової бази… активувалося б приховане навчання», — припускає Аткінс, який присвячує свої дні навчанню моделей. Однак він додає: «Я не знаю, як би це можна було зробити».
Оскільки великі мовні моделі за своєю природою є творчими, шанси на те, що сучасна модель видасть шкідливий код у відповідь на заздалегідь спланований ідеальний збіг контексту та запиту, є мізерними. Ще менші шанси, що будь-яка компанія потім використає цей код.
Чи може це статися в майбутньому? Це вже питання здогадок. Але компанії також розробляють свої ШІ-застосунки так, щоб вони були незалежними від конкретної моделі, і використовували кілька моделей. Тому, навіть якщо китайські моделі сьогодні є найкращими за ціною, компанії не будуть прив’язані до їх використання назавжди.
«Я вважаю, що замість розмов про те, як заборонити китайські моделі, слід зосередитися на тому, як розвивати хорошу, відкриту екосистему тут, у США», — говорить Аткінс.
Arcee також отримує переваги від китайських моделей. Оскільки вони відкриті, стартап «отримує користь від того, що ці моделі є хорошими, тому що ми можемо вчитися на їхньому досвіді. Ми можемо будувати на їхній основі. Тоді вони можуть вчитися на тому, що робимо ми», — каже він. «Ми маємо величезну повагу до людей, які створюють ці моделі, до окремих дослідників».
Зрештою, спосіб конкурувати з китайськими моделями — «це випустити кращу модель», — стверджує Аткінс. «Нам потрібно дати їм привід для розмов».
При здійсненні покупок за посиланнями в наших статтях ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.
Порада від INFBusiness:
Ця інформація є надзвичайно корисною для українських компаній, які розглядають впровадження рішень на базі ШІ. Вона допоможе розвіяти необґрунтовані страхи щодо використання відкритих моделей, особливо китайських, і зосередитися на реальних перевагах, таких як зниження витрат та інноваційність. Важливо пам’ятати про необхідність ретельної перевірки безпеки будь-яких моделей, але не дозволяти страху перешкоджати доступу до потужних технологій.
Джерело новини: techcrunch.com