Стартап Infinity залучив $15 млн від дослідників OpenAI та Anthropic

Infinity залучає $15 мільйонів для розробки універсального програмного забезпечення для ШІ-чипів

Компанія Infinity, що спеціалізується на інфраструктурі штучного інтелекту, оголосила про залучення 15 мільйонів доларів (приблизно 600 000 ₴ за поточним курсом) інвестицій за оцінки в 100 мільйонів доларів (приблизно 4 000 000 ₴). Серед інвесторів – фонди Touring Capital, Principal VC, а також дослідники з таких компаній, як OpenAI та Anthropic.

Проблема домінування Nvidia на ринку ШІ-чипів

Infinity розробляє програмне забезпечення, яке покликане спростити роботу ШІ-моделей на різноманітних апаратних платформах. Однією з ключових причин домінування Nvidia на ринку стала не лише висока продуктивність її чипів, але й програмне забезпечення CUDA (Compute Unified Device Architecture). CUDA дозволяє використовувати графічні процесори (GPU), які спочатку призначалися для обробки графіки, як універсальні обчислювальні одиниці (CPU).

• Найпопулярніші фреймворки для розробки ШІ, такі як PyTorch та TensorFlow, побудовані на базі CUDA.
• Це дає змогу розробникам створювати свої застосунки, використовуючи популярні мови програмування, наприклад Python.
• Застосунки, розроблені з використанням цих фреймворків, за замовчуванням оптимізовані для роботи на чипах Nvidia.

Рішення від Infinity: універсальна програмна альтернатива

Більшість стартапів, що створюють застосунки на рівні ШІ, не мають ресурсів чи експертизи для написання власних низькорівневих програм (кернелів), які керують роботою чипів, та адаптації своїх застосунків до інших типів ШІ-прискорювачів. Саме тому Infinity працює над створенням програмного забезпечення, альтернативного CUDA, яке буде сумісне з будь-якими типами чипів, включаючи SRAM, GPU, мобільні процесори та матричні прискорювачі (Systolic Arrays). Infinity є частиною нової хвилі стартапів, які крок за кроком намагаються зменшити ринкову монополію Nvidia.

Універсальна бібліотека для виконання завдань ШІ

Infinity прагне створити універсальну бібліотеку для інференсу (виконання навчених моделей), яка працюватиме на всіх типах чипів. Це дозволить автоматизувати відтворення найсучасніших результатів досліджень за допомогою різноманітного апаратного забезпечення.

Засновники та бачення компанії

Компанія Infinity була заснована минулого року Джеремі Ніксоном, колишнім дослідником Google Brain та творцем хакерської спільноти AGI House. Ніксон розповів TechCrunch, що вирішив запустити цей стартап, захопившись ідеєю “автоматизованого винаходу” – вірою в те, що “системи ШІ можуть стати мета-технологіями”. Він особисто розробив алгоритм машинного навчання Omega, який, за його словами, самостійно створював нові алгоритми машинного навчання та оцінював їх у циклі зворотного зв’язку.

Цей успіх спонукав його дослідити інші сфери застосування такого підходу. Ніксон зосередився на апаратному забезпеченні, вважаючи, що автоматизовані системи також можуть генерувати низькорівневий код, необхідний для ефективної роботи чипів.

AI Research Agent Ignition

AI-агент Infinity під назвою Ignition призначений для написання низькорівневого коду, необхідного для виконання завдань ШІ на альтернативних до Nvidia чипах. Він тестує, налагоджує та вимірює продуктивність апаратного забезпечення з цим кодом, а також автоматично переписує код для покращення ефективності. Система самооптимізується, тобто постійно навчається та вдосконалюється. За словами Ніксона, вона також адаптується до різних архітектур чипів, незалежно від їх пропрієтарних розробок. Результатом, як стверджує Infinity, є програмний стек рівня CUDA.

Клієнти та модель співпраці

Серед клієнтів Infinity – виробник ШІ-чипів D-Matrix, який також є конкурентом Nvidia. Ніксон повідомив, що компанія веде переговори з іншими великими виробниками чипів та хмарними провайдерами.

Люди продовжують відігравати ключову роль, надаючи загальні вказівки, тоді як агент виконує рутинну та об’ємну роботу. В одному з кейсів стартап виявив, що агент працює значно швидше, ніж людина, скорочуючи процес, який міг би зайняти місяці або роки, до кількох днів. Infinity не стягує плату за ліцензування; натомість компанія отримує відсоток від досягнутого приросту продуктивності та економії коштів, вимірюючи зміни в кількості токенів за секунду.

Наразі в Infinity працює 26 співробітників, серед яких інженери, спеціалісти з дизайну та операційної діяльності.

Під час здійснення покупок за посиланнями в наших статтях ми можемо отримувати невелику комісію. Це не впливає на нашу редакційну незалежність.

Порада від INFBusiness:

Новина від Infinity є надзвичайно актуальною для всіх, хто працює у сфері розробки ШІ або планує займатися цією діяльністю. Розробка універсального програмного забезпечення, яке усуває залежність від конкретного апаратного забезпечення, може суттєво знизити бар’єри для входу, прискорити інновації та зменшити витрати. Це відкриває нові можливості для стартапів та дослідницьких команд, дозволяючи їм зосередитись на алгоритмах та моделях, а не на складних технічних аспектах оптимізації під різні чипи.

Оригінал статті: techcrunch.com