Компанія Nvidia анонсувала нове покоління ШІ-чіпів і програмне забезпечення для роботи з великими мовними моделями. Презентація відбулася на конференції GTC 2024.
За словами CEO компанії Дженсена Хуанга, кожні два роки Nvidia оновлює архітектуру GPU з метою підвищення продуктивності. Багато з раніше випущених ШІ-моделей навчені на архітектурі Hopper. Вона використовується в чипах на кшталт H100, анонсованих у 2022 році.
«Hopper — це фантастика, але нам потрібні більш потужні GPU», — заявив генеральний директор компанії.
Нове покоління графічних ШІ-процесорів отримало назву Blackwell. Перша модель GB200 буде випущена наприкінці цього року.
Чип Blackwell. Джерело: Nvidia.
Nvidia стверджує, що нові процесори забезпечують істотний приріст продуктивності для компаній, що працюють з нейромережами — 20 петафлопс у нових чіпів замість 4 петафлопс у H100. За словами Хуанга, додаткова обчислювальна потужність дасть їм змогу навчати більші і складніші моделі.
Наприклад, для тренування GPT-4 за 90 днів знадобилося 8000 старих чипів і 15 МВт потужності. Для навчання на новій відеокарті знадобиться всього 2000 процесорів і 4 МВт.
Також стало відомо, що GB200 матиме 192GB пам’яті з пропускною спроможністю 8 ТБ/с.
«Blackwell — не просто чіп, це ціла платформа», — зазначив Хуанг.
Графічний процесор об’єднує дві окремо виготовлені матриці в один чіп, вироблений компанією TSMC. Сукупно в них міститься 208 млрд транзисторів.
Nvidia Grace Blackwell Superchip. Джерело: Nvidia.
Модель стане доступна у вигляді сервера під назвою GB200 NVLink 2, що складається з 72 графічних процесорів Blackwell. Його загальний обсяг оперативної пам’яті складе 30 ТБ.
Сервер GB200 NVLink 2. Джерело: Nvidia.
Компанія продаватиме доступ до GB200 через хмарні сервіси. Nvidia повідомила, що Amazon Web Services побудує серверний кластер, що складається з 20 000 цих моделей.
Хуанг також оголосив про додавання нового продукту під назвою Nvidia Inference Microservice (NIM) до підписки на корпоративне ПЗ. Він спрощує використання старих графічних процесорів для обчислень.
Нагадаємо, у січні 2024 року Марк Цукерберг пообіцяв закупити чипи Nvidia для Meta, оскільки «майбутня дорожня карта» в галузі штучного інтелекту вимагає «величезної обчислювальної інфраструктури».
Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *
Цей сайт використовує Akismet для зменшення спаму. Дізнайтеся, як обробляються ваші дані коментарів.
Корпорація McDonald’s протестувала ШІ-рішення від IBM для автоматизованого прийняття замовлень. Про…
Приватний китайський банк Bank of Huludao розкрив схему крадіжки та відмивання 1,8 млрд CNY…
Президент Euro Pacific Capital Пітер Шифф виклав можливу стратегію хедж-фондів, яка…
Компанія Runway представила альфа-версію моделі штучного інтелекту Gen-3 для генерації відеороликів…
Кількість користувачів DEX на Base збільшилася до максимальних в історії 267 000. За цим показником…
Команда Ethena Labs представила функцію рестейкінгу для governance-токена ENA і «синтетичного…
4100 з 10 000 найбільших адрес, які отримали роздачу від L2-мережі ZKsync,…
17 червня відтік із BTC-ETF становив $145,8 млн, за останні три торгові…