Тестирование китайских GPU в российских ИИ-системах: результаты и перспективы

В России исследуют возможности применения китайских графических процессоров (GPU) в системах искусственного интеллекта (ИИ) как альтернативу решениям Nvidia. Совместные испытания программно-аппаратного комплекса (ПАК) с восемью китайскими GPU провели компании MWS AI и Rubytech.

Rubytech планирует начать коммерческий запуск ПАКов на базе китайских ускорителей в 2027 году. В компании «МТС Web Services» диверсификацию поставщиков рассматривают как стратегический шаг по снижению инфраструктурных рисков, а не как замену одного производителя другим.

В ходе испытаний на ПАКе были запущены две модели MWS AI: старшая Cotype Pro 3 с 27 миллиардами параметров и более легкая Cotype Light 3 с 9 миллиардами параметров. Обе модели работают с текстовой и графической информацией и предназначены для создания ИИ-агентов, которые могут разворачиваться в закрытой инфраструктуре заказчика. Перед тестами MWS AI изучала пять вариантов китайских ускорителей, однако конкретный чип в ПАКе не раскрывается.

По данным Rubytech, в некоторых сценариях инференса комплекс с китайскими GPU показал производительность, сопоставимую с системами на базе Nvidia H100. При объеме входного контекста около 27 000 токенов модель начинала генерацию ответа примерно через 8 секунд, а последующие токены формировались с интервалом от 111 миллисекунд, что соответствует скорости до 9 токенов в секунду. Оптимизация драйверов и программного обеспечения позволила увеличить производительность платформы в отдельных задачах в 2–2,2 раза.

После пилотного проекта Rubytech продолжает доработку комплекса. На первом этапе ПАК будет ориентирован преимущественно на инференс, а возможность дообучения моделей планируется реализовать позднее.

Крупные российские заказчики находятся на разных стадиях освоения китайских GPU. Весной ВТБ начал опытно-промышленную эксплуатацию таких ускорителей для задач компьютерного зрения, обработки текстов, распознавания речи и работы генеративных моделей, не раскрывая производителя и объем приобретенного оборудования. В мае глава Сбербанка сообщил, что китайские чипы пока не используются в проекте GigaChat, но банк планирует их постепенное внедрение.

Компания Yadro также проводит испытания нескольких альтернативных ускорителей, включая китайские решения, с целью выбора конфигураций для заказчиков. Представители Yadro ожидают роста интереса к таким решениям на фоне удорожания продукции Nvidia и перехода от традиционных PCIe-карт к более закрытым проприетарным платформам.

По информации интегратора, российский бизнес уже тестирует ИИ-модели на китайских ускорителях MetaX, Moore Threads и Huawei Ascend.

Заявленные характеристики китайских GPU не всегда подтверждаются в реальных условиях. Например, ускоритель Tongxin от Shanghai Wutongshu High-Tech, который должен был уступать Nvidia A100 на 20–25% и превосходить A40, фактически оказался медленнее обеих карт из-за несовместимости с CUDA и незрелого программного обеспечения. Более развитые решения, такие как Huawei Ascend, достигают 60–80% производительности Nvidia H100.

При тестировании MetaX C550 компания Astra Cloud выявила ограничения совместимости и оценила его уровень как сопоставимый с Nvidia A100. Российские ускорители «НТЦ Модуль» и LinQ ориентированы преимущественно на периферийный инференс и видеоаналитику, поэтому их прямое сравнение с Nvidia A100 и H100 некорректно.

Читайте также на «FiNE NEWS»В контексте новых технологий стоит обратить внимание на Cursor запускает Origin — платформу с ИИ для альтернативы GitHub, которая может повлиять на развитие ИИ-систем.

По оценке Cloud.ru, зрелость китайских платформ значительно варьируется, а перенос моделей с Nvidia CUDA может занимать несколько месяцев. Распространение альтернативных GPU в России ожидается прежде всего через готовые ПАКи и облачные сервисы. В ГК «Аквариус» считают, что рост числа таких решений в 2027 году не приведет к массовому замещению Nvidia, поскольку для этого потребуется несколько лет развития программного обеспечения и сервисной поддержки. Компания Fplus прогнозирует формирование мультиплатформенного рынка.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.