Meta представила колекцію ШІ-моделей Llama 3.1
Meta представила колекцію нових ШІ-систем Llama 3.1, включно з «довгоочікуваною» 405B — «першою моделлю з відкритим вихідним кодом передового рівня». Також оновлено ШІ-помічник Meta AI.
Starting today, open source is leading the way. Introducing Llama 3.1: Our most capable models yet.
Today we’re releasing a collection of new Llama 3.1 models including our long awaited 405B. These models deliver improved reasoning capabilities, a larger 128K token context… pic.twitter.com/1iKpBJuReD
— AI at Meta (@AIatMeta) July 23, 2024
Флагманську ШІ-модель Meta навчали на даних із 15 трлн токенів із застосуванням 16 000 графічних процесорів Nvidia H100. Вона має 405 млрд параметрів — цим терміном описують навички вирішення проблеми. Вважається, що чим значення більше, тим краще. Система може виконувати низку завдань на кшталт написання коду, надання відповідей на базові математичні запитання або резюмування документів.
«Llama 3.1 405B перебуває у своєму власному класі, маючи неперевершену гнучкість, контроль і найсучасніші можливості, що конкурують із кращими моделями із закритим вихідним кодом», — йдеться в анонсі.
Порівняння Llama 3.1 405B з конкурентами. Джерело: Порівняння Llama 3.1 405B з конкурентами. Дані:
Llama 3.1 405B може працювати тільки з текстом. Розробники експериментують із мультимодальністю, але публічних моделей для роботи із зображеннями, відео або мовою поки немає.
Нова ШІ-система Meta має більше контекстне вікно порівняно з попередніми системами — 128 000 токенів, що відповідає приблизно 50-сторінковій книзі. Великий контекст означає можливість довше підтримувати спілкування, не забуваючи раніше обговорювані теми.
Для роботи Llama 3.1 405B потрібне потужне обладнання. Разом із флагманською нейромережею Meta представила дві менші моделі Llama 3.1 8B і Llama 3.1 70B. Вони теж мають контекстне вікно у 128 000 токенів.
Порівняння Llama 3.1 8B і Llama 3.1 70B з іншими ШІ-моделями. Джерело: Meta.
Марк Цукерберг за відкритий вихідний код
У відкритому листі Марк Цукерберг підтримав ідею розвитку штучного інтелекту з відкритим вихідним кодом.
«Сьогодні кілька технологічних компаній розробляють провідні закриті моделі. Але відкритий вихідний код швидко скорочує розрив. Минулого року Llama 2 могла конкурувати тільки зі старим поколінням моделей. Цього року Llama 3 конкурентоспроможна з найсучаснішими моделями і лідирує в деяких областях. Ми очікуємо, що з наступного року майбутні моделі Llama стануть найпередовішими в галузі. Але й до цього Llama вже лідирує за відкритістю, модифікованістю та економічною ефективністю», — зазначив він.
За словами мільярдера, відкритий вихідний код забезпечить більшій кількості людей в усьому світі доступ до переваг і можливостей ШІ, дасть змогу не концентрувати владу в руках невеликої кількості компаній і більш рівномірно та безпечно впроваджувати технологію в суспільстві.
У Meta AI додано нові функції
Разом із релізом нової ШІ-моделі оновився Meta AI — помічник на базі штучного інтелекту у Facebook, WhatsApp, Instagram і Messenger. Тепер він може говорити більшою кількістю мов і створювати стилізовані селфі.
Стилізовані фотографії. Джерело: Meta.
Функція Imagine Yourself дає змогу використовувати фотографію людини і промпти для її модифікації. Наприклад, можна сфотографувати себе і дати такий запит: «Покажи мене, що займається серфінгом». Сервіс поки працює в бета-режимі в США.
У Meta AI незабаром буде додано нові функції редагування. Наступного місяця з’явиться кнопка «Змінити за допомогою ШІ» для відкриття додаткових налаштувань.
У ШІ-сервіс інтегровано нову модель Llama 3.1 405B — користувачі можуть направляти їй запитання.
Перемикання на ШІ-помічника Llama 3.1 405B. Джерело: Meta.
Бачення Марка Цукерберга щодо ШІ-клонів
У новому інтерв’ю Роуену Чунгу Цукерберг розповів про своє бачення майбутнього, в якому творці контенту користуватимуться ботами на базі ШІ для особистих і корпоративних цілей. Вони зможуть перекласти частину роботи зі своєю спільнотою на цих ботів, щоб звільнити час для інших завдань.
«Я думаю, що буде величезний прорив, коли кожен автор зможе навчити ці системи відображати свої цінності та цілі, а потім люди будуть взаємодіяти з цим», — зазначив співзасновник Meta.
Нагадаємо, у червні компанія Цукерберга анонсувала додавання ШІ-персонажів в Instagram.
У квітні корпорація запустила асистента на базі штучного інтелекту Meta AI на своїх платформах.
