Google представила впечатляющий суперкомпьютер A3 на базе GPU Nvidia H100

Google анонсировала новые суперкомпьютеры A3, разработанные для обучения и обслуживания самых требовательных моделей искусственного интеллекта, которые лежат в основе современных генеративных ИИ и передовых языковых технологий. Интересно, что A3 используют ускорители Nvidia H100, несмотря на наличие у компании собственных решений для таких задач.


Выбор H100, по всей видимости, обусловлен его выдающимися эксплуатационными характеристиками, для которых Google пока не имеет альтернатив.

Как сообщается в пресс-релизе, A3 впервые внедряют специальные интерфейсы со скоростью передачи 200 Гбит/с, что позволяет передавать данные между GPU без участия процессора через выделенные интерфейсы, минуя сетевой трафик других виртуальных машин. Это обеспечивает до десяти раз большую пропускную способность в сравнении с предыдущей моделью A2.

Кроме того, Google подчеркивает, что имеющаяся у них интеллектуальная сетевая структура центра обработки данных Jupiter масштабируется до десятков тысяч высокозависимых GPU. Это также позволяет использовать настраиваемые оптические каналы, которые могут изменять свою топологию по мере необходимости.

С масштабируемостью A3 компания ставит цели производительности ИИ в 26 экзафлопс.

Названия A3 подразумевают, что речь идет о конкретной системе, включающей восемь GPU H100, процессор Intel Xeon Sapphire Rapids и 2 ТБ оперативной памяти DDR5-4800.

Важно отметить, что A3 предназначены для клиентов Google, а не для внутреннего использования компанией.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.