МФТИ протестировал альтернативные GPU для работы с ИИ

Исследование, проведенное Институтом искусственного интеллекта МФТИ, выявило возможности альтернативных графических процессоров, в то время как был создан Центр компетенций для бизнеса. Он призван облегчить процесс построения инфраструктуры, независимой от решений Nvidia при работе с искусственным интеллектом.

В МФТИ нашли альтернативу Nvidia: протестированы альтернативные GPU для работы с ИИ
Сервер с установленными GPU от MetaX (производство Китай). Фото: МФТИ

Как пояснили в МФТИ:

Ограниченный доступ к оборудованию и ПО от Nvidia в последние годы серьезно затрудняет работу. Компании сталкиваются с увеличением сроков поставок, трудностями с загрузкой драйверов и отсутствием официальной поддержки. В таких условиях бизнесу необходимо искать новые способы формирования вычислительных систем для машинного обучения.

Исследование охватило анализ рынка альтернативных ускорителей, включая устройства китайских производителей Moore Threads и MetaX. Эксперты МФТИ исследовали архитектуру оборудования, совместимость с существующими фреймворками и их поведение под высоким нагрузками. Тесты включали запуск больших языковых моделей, задачи компьютерного зрения и распределенные вычисления.

Результаты показывают, что модели S4000 от Moore Threads и C500 от MetaX могут эффективно использоваться в различных сценариях без потери функциональности. Тестирование подтвердило стабильность запуска популярных языковых моделей и адекватную работу с современными фреймворками. В некоторых вычислительных задачах альтернативные устройства не только достигли, но и превзошли показатели Nvidia A100. При этом оборудование показало высокую устойчивость даже при длительных нагрузках.

В будущем команда планирует углубить тестирование новых поколений ускорителей, расширив список поддерживаемых моделей, а также подготовить отраслевые рекомендации по созданию автономной инфраструктуры для ИИ.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.