Google представила TPU седьмого поколения: 42,5 ExaFLOPS на модуль

Компания Google на протяжении длительного времени работает над созданием собственных ИИ-процессоров, которые активно задействуются в её инфраструктуре. В этот раз на повестке дня седьмое поколение таких ускорителей.

Лучшие ускорители для ИИ вовсе не у Nvidia? Google представила TPU седьмого поколения (Ironwood) с производительностью 42,5 ExaFLOPS на модуль
Скриншот видео

Новую модель назвали Ironwood. По словам представителей Google, это наиболее мощный и масштабируемый специализированный ускоритель для ИИ. Он создан для поддержки больших моделей, требующих умственной обработки и инференса.

Хотя много технических характеристик не раскрыто, известно, что ускоритель на одном чипе комплектуется 192 ГБ памяти HBM3E с пропускной способностью 7,37 ТБ/с. Производительность в режиме FP8 составляет 4614 TFLOPS. Однако Google оптимизирует свою технологию для работы с модулями: новый чип может быть сконфигурирован до 9216 чипов на модуль, что в конечном итоге дает 42,5 ExaFLOPS. Этот результат в 24 раза превышает показатели самого мощного суперкомпьютера мира, El Capitan, хотя стоит учесть, что последний проектируется под другие задачи и ориентирован на режим FP64. Модули связываются с помощью сети Inter-Chip Interconnect, которая обеспечивает скорость 9,6 Тбит/с и в совокупности включает около 1,77 ПБ памяти HBM3E.

Смотреть видео

Google также проводит параллели между своими новинками и акселераторами от Nvidia, что выглядит более уместно. Например, стойка Nvidia GB300 NVL72 демонстрирует всего 0,36 ExaFLOPS, при этом сравнение по энергопотреблению и цене остается открытым вопросом.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.