Intel представила Gaudi 3 — ускоритель ИИ, способный на большее, чем Nvidia H100

Intel представила Gaudi 3, ускоритель ИИ быстрее Nvidia H100

Intel анонсировала новое поколение ускорителей для искусственного интеллекта — Gaudi 3. В пресс-релизах и обзорах, например, на ixbt.com, отмечается, что в состав семейства входят несколько моделей, объединённых общей архитектурой.

Новый Gaudi 3 — чиплетный процессор, как и современные продукты данного сегмента, он состоит из двух основных кристаллов и восьми стеков памяти HBM2e. Удивляет использование HBM2e, тогда как конкуренты уже перешли на более быстрые HBM3 и её варианты.

Производство чипа ведётся по 5-нм техпроцессу на заводах TSMC, но точное количество транзисторов Intel пока не раскрыла. Известно, что объём видеопамяти составляет 128 ГБ с пропускной способностью 3,7 ТБ/с. Поддерживается шина PCIe 5.0 и имеется 96 МБ кеша SRAM с пропускной способностью 12,8 ТБ/с. Энергопотребление модели верхнего уровня достигает 900 Вт, но также будут выпущены версии мощностью 450 и 600 Вт.

По данным Intel, модель HL-325L в режиме FP8 демонстрирует 1835 терафлопс производительности — почти 2 PFLOPS, что примерно вдвое превышает показатели Gaudi 2. В формате BF16 новое решение и вовсе в четыре раза быстрее предшественника.

В состав Gaudi 3 входят два чипа по 32 ядра TPC, основанные на архитектуре VLIW, тогда как Gaudi 2 имела 24 ядра TPC на одном кристалле.

Уникальной особенностью Gaudi 3 остаётся подход к масштабированию через Ethernet-порты. Скорость передачи данных достигает 24×200 Гбит/с — удвоенный показатель по сравнению с Gaudi 2. Обычно восемь таких ускорителей интегрируют в сервер, объединяя через Ethernet. Intel именно этот интерфейс предлагает использовать для горизонтального масштабирования от одного серверного шкафа до крупных кластеров. Для сравнения, Nvidia применяет собственный интерфейс NVLink с пропускной способностью до 1,8 ТБ/с.

Intel сравнивает Gaudi 3 с Nvidia H100 и утверждает, что новинка может быть либо немного медленнее, либо заметно быстрее в зависимости от задачи, при этом демонстрируя более чем двукратную энергоэффективность. Однако Nvidia уже анонсировала новое поколение Blackwell, что меняет конкурентный ландшафт.

Первые образцы Gaudi 3 будут доступны партнёрам во второй четверти 2024 года, массовые поставки начнутся во второй половине года.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.