Новий ШІ від творця ChatGPT захоплює розробників
Діогу Алмейда, колишній дослідник OpenAI, розробник методу навчання з підкріпленням на основі відгуків користувачів (RLHF), який сприяв розвитку сучасного штучного інтелекту, був розчарований можливостями ChatGPT.
«Ми мали блискавку в пляшці, але вона була марною», — зізнався Алмейда виданню TechCrunch. «Я боровся з цією проблемою відтоді. Мені знадобився час, щоб дійти висновку: проблема полягає в тому, що ми оптимізуємо людську мову… Ми чудово справляємося з людською мовою протягом чотирьох років, але це не корисно для автоматизації, оскільки комп’ютери розмовляють іншою мовою».
Два роки тому Алмейда залишив OpenAI, щоб заснувати стартап TypeSafe AI, який прагне вирішити цю проблему. Цього тижня компанія випустила нову модель на основі трансформера під назвою Jev. Вона не є великою мовною моделлю (LLM) і не генерує текст, натомість видає ймовірності, які компанія називає «каліброваними рішеннями».
Відмова від мови має кілька переваг: модель стає надзвичайно дешевою та швидкою, а оскільки користувачі заздалегідь визначають вихідні дані, вона не може «галюцинувати». Її вихідні токени безкоштовні, а вхідні токени вимірюються мільярдами, а не мільйонами.
Розробники виявляють значний інтерес до продукту; компанія навіть тимчасово втратила можливість обслуговувати користувачів через API через надзвичайно високий попит. Jev, схоже, найбільш корисний для автоматизації програмного забезпечення. Розробники програмного забезпечення вважають його дешевшим і надійнішим способом інтегрувати інтелект у свій код.
Наприклад, Праніт Шарма, інженер-програміст у Vercel, компанії, що створює агентну інфраструктуру, розповів, що його компанія використовувала ChatGPT Luna 5.6 від OpenAI для запуску класифікатора, який перевіряв команди на безпеку. Коли Vercel замінила Luna від OpenAI на Jev, результати були отримані в 5-18 разів швидше та з більшою точністю.
Інший розробник, технічний директор Bryo AI Нікхіл Мудхолкар, протестував Jev проти Gemini для класифікації ділових електронних листів. У його тесті Gemini був трохи точнішим, але в 10-20 разів дорожчим. Більш цікавими для Мудхолкара були показники впевненості Jev — «це єдиний, хто повертає реальну ймовірність, що робить його ідеальним для автоматизації робочих процесів!!»
Крім заміни LLM у певних випадках використання, нова модель може також доповнювати їх, діючи як розумний контроль над неправильною поведінкою. Використання агентів для моніторингу агентів може швидко стати дорогим, але використання Jev для цього, стверджує Алмейда, має сенс. Він бачить, як користувачі розгортають Jev для відстеження слідів агентів LLM і запобігання «зламу».
«Зрештою, це трохи делегує проблему галюцинацій користувачеві», — пояснив Армін Ронахер, технічний директор Earendil, яка створює відкриту модель-обробник Pi. «Користувач повинен сказати: гаразд, якщо це повертає лише 50% ймовірності, можливо, це кидок монети, і я це ігнорую. Але якщо це 95%, то, звичайно, я можу щось із цим зробити».
Іншим потенційним використанням Jev є маршрутизація моделей, зазначив Ронахер. Передбачення того, чи вимагає певний робочий процес конкретної моделі, було б корисним, але використання LLM для цього завдання було б дорогим. Низька вартість і швидкість Jev роблять подібне сортування в реальному часі можливим.
І це надія Алмейди. Модель названа на честь Вільяма Стенлі Джевонса, економіста 19-го століття, чий однойменний парадокс описує, як падіння вартості товару може призвести до його все більшого використання. У цьому випадку падіння вартості інтелекту має призвести до його широкого розгортання.
«Ми вважаємо, що буде багато інтелектуального програмного забезпечення всюди, яке буде виникати та розподілятися… набагато більше схоже на ранній Інтернет, ніж на мега-додатки, які люди намагаються побудувати зараз», — сказав Алмейда.
Алмейда тримає в таємниці архітектуру моделі, яка, на думку зовнішніх спостерігачів, побудована на основі LLM з відкритими вагами. Компанія називає Jev «моделлю Системи Один», що зосереджена на інтуїції, а не на міркуваннях, і зокрема на правильному завданні. Алмейда каже, що Jev навчається виключно на синтетичних даних за допомогою техніки, яку він називає «навчання з підкріпленням на основі каліброваних рішень».
«Ми зробили ранню ставку на те, що будемо створювати всі наші дані, і це була одна з найкращих ставок, які я коли-небудь робив у своєму житті — краща, ніж наш запуск, на мою думку, краща, ніж RLHF», — сказав він TechCrunch. «Половина [нашої компанії] — це лабораторія, яка володіє цим усім підполем статистично добре зрозумілих синтетичних даних, і це тепер моя життєва радість».
Наразі Jev стоїть окремо як модель такого типу, але Ронахер очікує, що конкуренти з’являться, як тільки його корисність стане очевидною.
«У багатьох відношеннях ми мали побачити це раніше, але, ймовірно, тому, що LLM такі дешеві та субсидовані, вам часто ще не потрібно бути винахідливим», — сказав він.
Сама TypeSafe буде створювати нові версії моделі в нових модальностях. На запитання, чи є TypeSafe передовою лабораторією, Алмейда відповів: «Головним продуктом передових лабораторій є страх або ажіотаж. Я б хотів, щоб нашим головним продуктом був інтелект… [але ми] не лабораторія в сенсі, знаєте, ставки на нескінченне багатство, чи релігія, чи створення Бога в центрі обробки даних, або будь-що інше, що актуально сьогодні».
За даними порталу: techcrunch.com