Российские сервера с нейроускорителями от Модуля

ЭдFplus начал выпуск серверов с ускорителями нейросетевых алгоритмов НТЦ Модуль. Они представляют собой спецвычислители, подключаемые в слот расширения PCIe на материнской плате и используются для реализации нейронных сетей, решения задач цифровой обработки сигналов и изображений. Fplus протестировали и подтвердили совместимость нейроускорителей НТЦ Модуль со своими серверными решениями — двухсокетными и четырехсокетными серверами «Восход» и «Буран», внесёнными в Реестр Минпромторга.

НТЦ «Модуль» производит карты двух видов: NM Quad 20 ГБ (большой модуль) и NM Card Mini 5 ГБ (малый модуль). СМТ-монтаж карт осуществляется в России. Компоненты работают под управлением ОС Astra Linux.

Для тестирования было выбрано потоковое видео дорожной ситуации в Москве, так как требовался видеоряд с большим количеством автомобилей, чтобы обеспечить нагрузку на спецвычислители при распознавании объектов. Распознавание проводилось параллельно на всех четырех модулях NM Card Mini 5 ГБ на базе модели YOLOv3-tiny. Результаты тестирования подтвердили, что решение позволит компенсировать сложность обработки чисел FP32 и FP64 и сократить время обработки в три раза.

В компании пояснили:

Решение пока уступает по быстродействию продуктам зарубежных вендоров, однако карты НТЦ «Модуля» значительно дешевле и более энергоёмкие. Несмотря на то, что с его помощью еще нельзя обучать ИИ-модели, сервера с этими компонентами позволяют запускать нейронные сети, которые обучены на западных аналогах.