Google анонсувала новий Android-додаток AI Edge Gallery, що дозволяє запускати великі мовні моделі на смартфонах без необхідності підключення до інтернету. Зокрема, моделі на кшталт Gemma 3n функціонують повністю офлайн, використовуючи лише обчислювальні ресурси самого пристрою.
«Google AI Edge Gallery — це експериментальний додаток, який надає можливість використовувати потужність сучасних моделей Generative AI безпосередньо у ваших руках, працюючи виключно [на локальних пристроях]», — зазначено в документації.
Додаток було опубліковано 31 травня на GitHub під ліцензією Apache 2.0, що дозволяє його налаштування під особисті потреби. На даний момент доступна лише версія для Android, але в найближчому майбутньому планується реліз для iOS.
Програма націлена переважно на розробників і має три ключові функції: AI Chat (чат), Ask Image (візуальний аналіз) та Prompt Lab (разові завдання, такі як переформулювання тексту).
Дані: GitHub
Користувачі мають можливість завантажувати моделі, наприклад, з Hugging Face, але наразі підтримуються лише формати на кшталт Gemma-3n-E2B або Qwen2.5-1.5B. Завантажені моделі представляють собою окремі файли, що містять усі «знання», отримані під час навчання. Найбільша модель Gemma 3 має розмір близько 4,4 ГБ, тоді як найменша становить 554 МБ.
Без підключення до інтернету та можливості передачі даних на сервери, контрольовані компаніями, така менш потужна система має певні переваги:
Проте контекстне вікно обмежене 4096 токенами. Підтримка сторонніх моделей також наразі є обмеженою. AI Edge Gallery приймає лише формат .task, а не популярні .safetensor, які використовують більшість LLM на ринку.
Нагадаємо, у червні Microsoft інтегрувала генератор відео на основі моделі Sora від OpenAI у мобільний додаток Bing.
Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *
Цей сайт використовує Akismet для зменшення спаму. Дізнайтеся, як обробляються дані ваших коментарів.
Аналітики QCP Capital повідомили, що, незважаючи на загострення конфлікту між Іраном…
Президент Сполучених Штатів Дональд Трамп отримав понад $57 млн прибутку від…
Засновники Sky (раніше MakerDAO) Руне Крістенсен та Ethena Ґай Янг у…
Слово «метавселенная» звучит как фантастика, но на деле это объединённый виртуальный…
В рамках міжнародної операції RapTor правоохоронні органи США і Тайваню закрили…
Генеральний директор Bitwise Хантер Хорслі вважає, що можливості біткоїна значно перевищують…
Компанія Nvidia представила cBottle — генеративну модель штучного інтелекту, яка формує…
IBM планує створити перший у світі масштабований відмовостійкий квантовий комп’ютер, відомий…