Исследование, проведенное Институтом искусственного интеллекта МФТИ, выявило возможности альтернативных графических процессоров, в то время как был создан Центр компетенций для бизнеса. Он призван облегчить процесс построения инфраструктуры, независимой от решений Nvidia при работе с искусственным интеллектом.
Как пояснили в МФТИ:
Ограниченный доступ к оборудованию и ПО от Nvidia в последние годы серьезно затрудняет работу. Компании сталкиваются с увеличением сроков поставок, трудностями с загрузкой драйверов и отсутствием официальной поддержки. В таких условиях бизнесу необходимо искать новые способы формирования вычислительных систем для машинного обучения.
Исследование охватило анализ рынка альтернативных ускорителей, включая устройства китайских производителей Moore Threads и MetaX. Эксперты МФТИ исследовали архитектуру оборудования, совместимость с существующими фреймворками и их поведение под высоким нагрузками. Тесты включали запуск больших языковых моделей, задачи компьютерного зрения и распределенные вычисления.
Результаты показывают, что модели S4000 от Moore Threads и C500 от MetaX могут эффективно использоваться в различных сценариях без потери функциональности. Тестирование подтвердило стабильность запуска популярных языковых моделей и адекватную работу с современными фреймворками. В некоторых вычислительных задачах альтернативные устройства не только достигли, но и превзошли показатели Nvidia A100. При этом оборудование показало высокую устойчивость даже при длительных нагрузках.
В будущем команда планирует углубить тестирование новых поколений ускорителей, расширив список поддерживаемых моделей, а также подготовить отраслевые рекомендации по созданию автономной инфраструктуры для ИИ.





