Компания Google на протяжении длительного времени работает над созданием собственных ИИ-процессоров, которые активно задействуются в её инфраструктуре. В этот раз на повестке дня седьмое поколение таких ускорителей.
Новую модель назвали Ironwood. По словам представителей Google, это наиболее мощный и масштабируемый специализированный ускоритель для ИИ. Он создан для поддержки больших моделей, требующих умственной обработки и инференса.
Хотя много технических характеристик не раскрыто, известно, что ускоритель на одном чипе комплектуется 192 ГБ памяти HBM3E с пропускной способностью 7,37 ТБ/с. Производительность в режиме FP8 составляет 4614 TFLOPS. Однако Google оптимизирует свою технологию для работы с модулями: новый чип может быть сконфигурирован до 9216 чипов на модуль, что в конечном итоге дает 42,5 ExaFLOPS. Этот результат в 24 раза превышает показатели самого мощного суперкомпьютера мира, El Capitan, хотя стоит учесть, что последний проектируется под другие задачи и ориентирован на режим FP64. Модули связываются с помощью сети Inter-Chip Interconnect, которая обеспечивает скорость 9,6 Тбит/с и в совокупности включает около 1,77 ПБ памяти HBM3E.
Google также проводит параллели между своими новинками и акселераторами от Nvidia, что выглядит более уместно. Например, стойка Nvidia GB300 NVL72 демонстрирует всего 0,36 ExaFLOPS, при этом сравнение по энергопотреблению и цене остается открытым вопросом.






