Суперкомпьютер для ИИ от NVIDIA, способный работать с 200B-параметрическими моделями

NVIDIA представила самый маленький суперкомпьютер для задач ИИ. Project Digits в основном ориентирован на ученых, изучающих данные, исследователей ИИ и просто пользователей по всему миру, которые хотели бы протестировать Grace Blackwell. 

Суперчип GB10 Grace Blackwell

Особенность проекта - в суперчипе GB10 Grace Blackwell, который обладает петафлотной производительностью для работы с огромными моделями ИИ, для создания прототипов и других больших задач.

Суперчип GB10 основан на архитектуре Grace Blackwell и обладает эксклюзивными характеристиками производительности в 1 петафлоп при точности FP4. Чип разработан в сотрудничестве MediaTek и NVIDIA, которые достигли исключительных результатов и создали продукт с эксклюзивными возможностями подключения, энергоэффективностью и производительностью. Такая мощная производительность суперчипа может быть обеспечена при использовании стандартной розетки.

Project DIGITS оснащен 4 ТБ NVMe-накопителя и 128 ГБ когерентной памяти. Для достижения более высокого прогресса в инновационных подходах суперкомпьютер может прогонять около 200 миллиардов параметров моделей. Чтобы удвоить количество запускаемых параметров, можно использовать 2 связанных суперкомпьютера.

Пользователи Project DIGITS также имеют доступ к огромной библиотеке программного обеспечения для ИИ, включающей фреймворки и различные модели, инструменты оркестровки, прототипирования, а также наборы для разработки. Среди наиболее распространенных фреймворков - Jupyter и PyTorch.

Согласно текущей информации, Project DIGITS появится в продаже в конце весны, а его цена составит от 3 000 долларов.