Liquid AI запускає потужні ШІ-агенти на мікрокомп’ютерах

Минулого тижня стартап Liquid, заснований 2023 року колишніми науковцями з MIT, представив LFM2.5-2.6B — нову мовну модель з відкритими ваговими коефіцієнтами, спеціально розроблену для роботи в режимі агентів.

У матеріалах компанії та нещодавньому інтерв’ю виданню VentureBeat дослідники Liquid зазначили, що LFM2.5-2.6B може працювати повністю на локальному обладнанні — від смартфонів і ноутбуків до Raspberry Pi — без потреби в хмарних обчисленнях чи потужних GPU. Це відкриває можливості для пристроїв граничного ШІ (edge AI) та надає більше опцій для підприємств, які працюють у регульованих галузях або з конфіденційною інформацією, яку не можна передавати в хмару.

Модель найкраще підходить для високооб’ємних, чітко визначених завдань агентів, які виконуються локально: виклик інструментів, управління документами, автоматизація робочих процесів та календарів, а також постійно працюючі фонові процеси. Вона також ефективна в середовищах з обмеженим підключенням, як-от автомобілі чи роботи, хоча складні завдання з програмування краще довіряти більшим моделям.

Навіть для бізнесів без таких обмежень, привабливість запуску ефективних, спеціалізованих агентів за ціною, що фактично дорівнює вартості електроенергії, може бути достатньою, щоб зробити нову модель доволі привабливою.

Однак, ліцензія на користувацькі відкриті вагові коефіцієнти, як і у випадку з більшою моделлю Kimi K3 від Moonshot, випущеною минулого місяця, потребує уважного вивчення юридичними відділами підприємств.

Основи

LFM2.5-2.6B містить 2,6 мільярда параметрів, підтримує контекстне вікно до 128 000 токенів і має вбудовану функцію виклику інструментів. Дещо заплутана назва пояснюється версією моделі (2.5) та кількістю параметрів (2.6B).

Як пост-тренована модель, так і базовий чекпоінт (LFM2.5-2.6B-Base) для розробників, які хочуть її доналаштувати, вже доступні на Hugging Face. Є підтримка основних стеків інференсу, зокрема llama.cpp, MLX, vLLM, SGLang та ONNX, що робить модель готовою до розгортання на споживчому обладнанні, корпоративній інфраструктурі та вбудованих системах.

Liquid також пропонує фреймворк для доналаштування з відкритим кодом під назвою LEAP.

Liquid AI не позиціонує LFM2.5-2.6B як конкурента найбільшим моделям, а навпаки, стверджує, що достатньо потужна мала модель може відкрити нові категорії корпоративних застосунків, де затримка, приватність, гнучкість розгортання або вартість інференсу важливіші за абсолютні показники у бенчмарках.

«Я також вважаю, що найкращі моделі будуть у хмарі, і в цьому немає проблем», — сказав Максим Лабонн, керівник відділу пост-тренування Liquid AI, в інтерв’ю VentureBeat після запуску. «Ми хочемо створювати моделі для іншого типу користувачів, і найкращий спосіб описати це: ви повинні використовувати [edge AI], коли ви не можете використовувати хмарну модель».

Достатньо мала для Raspberry Pi

На запитання про мінімально прийнятне обладнання, Лабонн відповів, що модель «дуже, дуже добре» працює на центральних процесорах (CPU), і що архітектура LFM, яка лежить в основі моделі, була спеціально розроблена з урахуванням реальної продуктивності CPU, а не тестів GPU.

«Я думаю, найкращий приклад — це Raspberry Pi», — сказав він. «У нас є багато демонстрацій, які показують, що вона працює досить швидко на Raspberry Pi».

За даними компанії, пропускна здатність декодування становить приблизно 220 токенів за секунду на Apple M5 Max і 113 токенів за секунду на AMD Ryzen AI Max+ 395, при використанні менше 2,5 ГБ пам’яті. На смартфоні модель видає близько 30 токенів за секунду. Користувачі можуть спробувати моделі на своїх телефонах через Apollo — мобільний додаток Liquid AI.

З іншого боку, Liquid AI повідомляє, що модель досягає майже 15 000 вихідних токенів за секунду на одному GPU Nvidia H100 при постійному паралельному навантаженні — це приблизно 1,3 мільярда токенів на день з однієї карти. Ці цифри є заявленими виробником і не були незалежно перевірені.

Для Лабонна обсяг пам’яті та швидкість — це не зручності, а жорсткі обмеження, які визначають, що взагалі можна розгорнути.

«Ми хочемо показати, що це справді хороший компроміс, тому що ви отримуєте рівень якості, який є у значно більших моделей, але в крихітному, крихітному форм-факторі», — сказав він. «Ви можете розгорнути її на цільових пристроях, де ви взагалі не можете розгорнути інші».

Навчена для агентів, а не чат-ботів

Liquid AI стверджує, що LFM2.5-2.6B розроблялася з припущенням, що мовні моделі все частіше використовуються через фреймворки агентів, а не традиційні розмовні інтерфейси.

«Моделі більше не використовуються в чат-ботах. Вони справді використовуються через агентські оболонки, як-от OpenClaw, Hermes Agent», — сказав Лабонн. «Ми хотіли переконатися, що ця модель не просто добре працює з математикою чи кодом, але й добре вміє використовувати інструменти».

Модель попередньо навчена на приблизно 34 трильйонах токенів, зі словником, подвоєним до 128 тис. для кращої підтримки нелатинських сценаріїв, та виділеною фазою навчання для розширення контекстного вікна до 128 тис. токенів для тривалих робочих процесів агентів.

Пост-тренування проходить за чотириетапним конвеєром: контрольоване доналаштування (supervised fine-tuning), спеціалізація вчителя (навчання окремих експертних моделей для таких доменів, як слідування інструкціям, математика, код та використання інструментів), дистиляція на основі декількох доменів (MOPD) для об’єднання можливостей цих експертів в одну студентську модель, і, нарешті, навчання з підкріпленням на основі агентів (RL).

Під час останнього етапу модель тренувалася безпосередньо в реальних агентських оболонках — включно з Hermes Agent та OpenClaw — на реалістичних завданнях продуктивності, що включають дослідження, кодування, управління документами, виклик інструментів та автоматизацію робочих процесів, що дозволило їй взаємодіяти з реальними інструментами, системними підказками та патернами взаємодії цих оболонок.

Лабонн описав переробку конвеєра як «щасливу випадковість»: покращення, які виходили далеко за межі цілей агентів.

«Завдяки цим новим методам навчання ми також стали набагато кращими в усьому. Ми стали кращими в математиці, у слідуванні інструкціям. Ми ніколи раніше не були хорошими в коді — а з цим ми стали справді хорошими й у коді», — сказав він.

Створення моделі — і оболонки

Важливо зазначити, що Liquid AI також створила власну агентську оболонку, а не покладалася виключно на існуючі фреймворки, і продемонструвала роботу моделі всередині неї на телефоні, плануючи та викликаючи інструменти повністю на пристрої.

«Це оболонка, що працює на телефоні, і я не знаю, чи є ще якісь оболонки, що працюють на телефоні», — сказав Лабонн.

Компанія мала дві причини, пояснив він. Перша — необхідність: нативної оболонки для телефону не існувало. Друга — інша модель взаємодії: сучасні оболонки чекають на підказку, а Liquid AI хоче мати асистентів, які діють самостійно.

«Ми хочемо проактивних агентів. Ми хочемо агентів, які працюють у фоновому режимі, перевіряють, що ви робите, перевіряють ваш календар, і на основі цього контексту виконують завдання», — сказав він. «Цього сьогодні справді не існує».

Спільне проєктування оболонки та моделі також дозволяє програмному забезпеченню компенсувати слабкі місця моделі. «Все, в чому модель погана, оболонка повинна допомогти моделі — надавати якомога більше допомоги, щоб зробити її більш надійною», — сказав Лабонн. «Кінцеві користувачі не піклуються про те, чи це модель, чи оболонка. Їм важливо, щоб завдання було виконано».

Незважаючи на це, модель працює «з коробки» зі стандартними оболонками, включаючи Hermes Agent, OpenClaw і Pi, обслуговуючись через будь-який сумісний з OpenAI endpoint.

Змінюйте оболонку, а не модель

Для корпоративного розгортання Лабонн стверджував, що реліз означає зміну того, для чого можуть використовуватися малі моделі. До цього часу, за його словами, локальні моделі мали економічний сенс переважно як вузько спеціалізовані — навчені робити одну річ на рівні хмарних моделей, але значно швидше та дешевше. Можливості агентів змінюють цей розрахунок, оскільки одна й та сама модель може бути перепрофільована шляхом зміни навколишніх інструментів, а не самої моделі.

«Ви можете мати асистента календаря, а потім повторно використовувати ту саму модель і створити асистента для зустрічей, який записуватиме все, що говорили, і підсумовуватиме — трохи схоже на Granola, наприклад», — сказав він. «Ви не змінюєте модель; ви просто змінюєте оболонку. Ви просто змінюєте інструменти навколо неї. Це надає значно більшу узагальненість, і це набагато простіше і дешевше».

Він все ще рекомендує доналаштування для продакшн-розгортань, коли це можливо: «Якщо ви не доналаштовуєте її, ви втрачаєте частину якості. Якщо ви добре її доналаштуєте, вона буде відповідати продуктивності GPT та Claude — справді, якщо ваше завдання не є найскладнішим у світі», — сказав він, додавши, що бар’єр для входу зник: «Бар’єр для доналаштування зараз надзвичайно низький. Це дуже доступно для всіх».

Порівняння з DeepSeek-V4-Flash, Gemma від Google та Qwen від Alibaba

Liquid AI опублікувала власні бенчмарки, що порівнюють LFM2.5-2.6B з моделями, які підприємства найімовірніше розглядатимуть для подібних локальних розгортань: Gemma 4 E2B (5,1B параметрів) та E4B (8B) від Google, а також Qwen3.5-4B (4,7B) та Qwen3.5-9B (9,7B) від Alibaba.

Окремий тест від платформи локального ШІ Atomic Chat показав, що LFM2.5-2.6B завершила 35 викликів інструментів для виконання трьох завдань (перевірка погоди та місцевого часу в шести містах, конвертація одного бюджету в шість валют, перевірка чотирьох готелів та бронювання на дату) у 3,7 рази швидше, ніж DeepSeek-V4-Flash (вражаючі 284B параметрів), яка з моменту випуску минулого тижня стрімко піднялася на вершину OpenRouter.

Малі моделі Gemma 4 є мультимодальними універсалами, що приймають вхідні дані зображень та аудіо разом з текстом, і використовують дизайн Per-Layer Embeddings, який активує лише частину своїх вагових коефіцієнтів на токен. Саме тому Google позиціонує їх за «ефективним» розміром (2,3B та 4,5B), незважаючи на загальний обсяг 5,1B та 8B. Мала серія Qwen3.5 від Alibaba, випущена в березні, є нативно мультимодальною від 4B і використовує масштабоване навчання з підкріпленням для досягнення міркувань, подібних до передових моделей. Alibaba стверджує, що 9B модель відповідає або перевершує значно більшу gpt-oss-120B від OpenAI за показниками міркувань.

LFM2.5-2.6B йде вужчим шляхом: вона є виключно текстовою, щільною та спеціалізованою для роботи агентів. Liquid AI випускає окремі версії LFM для роботи з відео та аудіо, а не інтегрує все в один чекпоінт.

Якщо пост-тренування Qwen з навчанням з підкріпленням спрямоване на міркування, то Liquid AI — на використання інструментів у реальних агентських оболонках.

Результатом, згідно з опублікованими компанією даними, є те, що найменша модель у порівнянні лідирує в усіх бенчмарках слідування інструкціям (IFBench, Multi-IF, IFStruct) і майже в усіх бенчмарках використання інструментів — 77,83 на ToolSandbox проти 76,44 у Qwen3.5-9B, моделі майже вчетверо більшої. Лише за показником BFCLv4 вона поступається цій 9B моделі.

За показниками агентських оцінок, модель перевершує обидві моделі Gemma та майже досягає рівня Qwen: 26,89 на BrowseComp+ проти 27,23 у Qwen3.5-9B. Вона також демонструє найкращий результат на AA Omniscience — бенчмарку знань, який штрафує за галюцинації.

Моделі Qwen зберігають перевагу в тих сферах, на яких зосереджено їхнє навчання: математика (Qwen3.5-9B лідирує в AIME25) та кодування, де більші моделі зберігають перевагу на LiveCodeBench — хоча Лабонн зазначив, що розрив менший, ніж можна було б очікувати, враховуючи кількість параметрів.

«У LiveCodeBench v6 ми, можливо, не найкращі серед цих моделей, але ми й найменші. Те, що ми конкурентоспроможні з ними, для мене вже велика перемога», — сказав він.

Ще один відмінний фактор: ліцензування. Gemma 4 та Qwen3.5 постачаються під дозвільною ліцензією Apache 2.0 — зміна, яку Google зробив спеціально для залучення корпоративних клієнтів. DeepSeek-V4-Flash постачається під аналогічною дозвільною ліцензією MIT.

Водночас, ліцензія Liquid AI, яка залежить від доходу (докладно описана нижче), вимагає від великих компаній укладення комерційної угоди. Підприємства, що перевищують поріг, фактично обмінюють складнощі ліцензування на переваги у форм-факторі та ефективності використання інструментів.

Ліцензування відображає комерційний компроміс

LFM2.5-2.6B розповсюджується за ліцензією LFM Open License v1.0, яка дозволяє використання, модифікацію та розповсюдження — включно з комерційним використанням — для організацій з річним доходом менше 10 мільйонів доларів. Комерційне використання великими компаніями не підпадає під дію цієї ліцензії, вимагаючи окремої угоди з Liquid AI; кваліфіковані некомерційні організації звільняються від цього порогу для некомерційних та дослідницьких цілей.

Лабонн представив цю структуру як спосіб підтримки розробки моделей — «моделі — це справжня конкурентна перевага, тому ми повинні бути розумними щодо того, як ми їх ліцензуємо; інакше ми не зможемо заробляти гроші, а отже, не зможемо створювати нові моделі» — характеризуючи поріг як на практиці невеликий механізм контролю.

На запитання, як компанія дізнається, чи велике підприємство тихо розгорне відкриті вагові коефіцієнти, він відверто відповів: «Я думаю, це питання до нашої юридичної команди, але особисто я не знаю. І навіть якщо ви перевищуєте 10 мільйонів доларів, єдине, що ми просимо, — це зв’язатися з нами».

Компанія доповнює випуски ліцензованих моделей безкоштовно опублікованими дослідженнями, додав він, включаючи нові оцінки структурованого виведення та техніку навчання, яка зменшує циклічні повторення, поширені в малих моделях — режим збою, в якому, за його словами, «певною мірою винні» моделі Qwen.

Мала модель, великі наслідки для підприємств

Реліз збігся з оголошенням MacPaw, української компанії-розробника програмного забезпечення, що стоїть за CleanMyMac та Setapp, про довгострокове стратегічне партнерство з Liquid AI для створення локального ШІ-стеку для Mac.

Liquid AI розроблятиме та доналаштовуватиме базові моделі для Eney, macOS-асистента MacPaw, які працюватимуть локально на Apple silicon через інференс-рушій Elix та шар пам’яті Mnemos від MacPaw. Результати очікуються пізніше цього року.

Лабонн вказав на цю угоду як на конкретне підтвердження переваг розміру: «Однією з причин, чому вони обрали нас, є також те, що модель досить мала, а вони не мають достатнього бюджету пам’яті для запуску інших моделей».

Реліз з’являється в той час, коли постачальники обладнання, розробники операційних систем та компанії-розробники корпоративного програмного забезпечення все більше інвестують у локальне виконання ШІ. А агентські оболонки поширюються по всій галузі. Ставка Liquid AI полягає в тому, що економіка розгортання, а не сира потужність, визначатиме важливий сегмент цього ринку: агенти, що працюють безперервно, скрізь, з нульовою граничною вартістю токенів.

Чи стануть малі, високооптимізовані агентські моделі значним сегментом корпоративного ШІ, зрештою залежатиме менше від показників бенчмарків, ніж від операційної надійності. Але останній реліз Liquid AI свідчить про те, що наступний конкурентний рубіж — це вже не просто створення більших моделей, а створення моделей, достатньо малих і достатньо потужних, щоб працювати там, де вже існують робочі процеси підприємств.

Дізнатися більше на: venturebeat.com