Intel представила Gaudi 3, ускоритель ИИ быстрее Nvidia H100
Intel анонсировала новое поколение ускорителей для искусственного интеллекта — Gaudi 3. В пресс-релизах и обзорах, например, на ixbt.com, отмечается, что в состав семейства входят несколько моделей, объединённых общей архитектурой.
Новый Gaudi 3 — чиплетный процессор, как и современные продукты данного сегмента, он состоит из двух основных кристаллов и восьми стеков памяти HBM2e. Удивляет использование HBM2e, тогда как конкуренты уже перешли на более быстрые HBM3 и её варианты.
Производство чипа ведётся по 5-нм техпроцессу на заводах TSMC, но точное количество транзисторов Intel пока не раскрыла. Известно, что объём видеопамяти составляет 128 ГБ с пропускной способностью 3,7 ТБ/с. Поддерживается шина PCIe 5.0 и имеется 96 МБ кеша SRAM с пропускной способностью 12,8 ТБ/с. Энергопотребление модели верхнего уровня достигает 900 Вт, но также будут выпущены версии мощностью 450 и 600 Вт.
По данным Intel, модель HL-325L в режиме FP8 демонстрирует 1835 терафлопс производительности — почти 2 PFLOPS, что примерно вдвое превышает показатели Gaudi 2. В формате BF16 новое решение и вовсе в четыре раза быстрее предшественника.
В состав Gaudi 3 входят два чипа по 32 ядра TPC, основанные на архитектуре VLIW, тогда как Gaudi 2 имела 24 ядра TPC на одном кристалле.
Уникальной особенностью Gaudi 3 остаётся подход к масштабированию через Ethernet-порты. Скорость передачи данных достигает 24×200 Гбит/с — удвоенный показатель по сравнению с Gaudi 2. Обычно восемь таких ускорителей интегрируют в сервер, объединяя через Ethernet. Intel именно этот интерфейс предлагает использовать для горизонтального масштабирования от одного серверного шкафа до крупных кластеров. Для сравнения, Nvidia применяет собственный интерфейс NVLink с пропускной способностью до 1,8 ТБ/с.
Intel сравнивает Gaudi 3 с Nvidia H100 и утверждает, что новинка может быть либо немного медленнее, либо заметно быстрее в зависимости от задачи, при этом демонстрируя более чем двукратную энергоэффективность. Однако Nvidia уже анонсировала новое поколение Blackwell, что меняет конкурентный ландшафт.
Первые образцы Gaudi 3 будут доступны партнёрам во второй четверти 2024 года, массовые поставки начнутся во второй половине года.





