| Наименование РИД |
База данных с результатами тестирования сценариев инференса и обучения на аппаратно-программном стеке: Moore Threads, MetaX
|
| Реферат |
База данных представляет собой результаты исследований производительности и качества различных моделей и приложений искусственного интеллекта, проведенных на аппаратно-программных стеках Moore Threads и MetaX. Работа охватывает ключевые сценарии жизненного цикла ИИ-решений: инференс и обучение.
В ходе тестирования были зафиксированы следующие основные характеристики:
Для сценариев инференса: пропускная способность (throughput), время до генерации первого токена (Time-to-First-Token, TTFT) и полная задержка ответа (end-to-end latency).
Для сценариев обучения были получены итоговое значение функции потерь (train loss) и общая продолжительность процесса обучения (train runtime).
Вид и версия операционной системы: Linux
Тип реализующей ЭВМ: ниже представлены конфигурации серверов, использованных для тестирования аппаратно-программных стеков Moore Threads и MetaX. Оба решения представляют собой высокопроизводительные системы, предназначенные для выполнения сложных вычислительных задач, включая обучение и инференс крупных языковых моделей.
Сервер на базе Moore Threads:
Процессоры: Два процессора Intel Xeon Gold 6430 (по 32 ядра каждый), обеспечивающие высокую производительность в многопоточных нагрузках.
Оперативная память: 16 модулей DDR5 ECC RDIMM по 64 ГБ — суммарно 1 ТБ. Такой объем позволяет эффективно обрабатывать большие объемы данных.
Графические ускорители: Восемь ускорителей Moore Threads MTT S4000 с интерфейсом MTLink, общим объемом видеопамяти 384 ГБ. Конфигурация подходит для задач, требующих значительных ресурсов GPU.
Сервер на базе MetaX:
Процессоры: Два процессора Intel Xeon Gold 6530 (по 32 ядра, 2.1 ГГц, TDP 270 Вт), оптимизированные для высокопроизводительных вычислений.
Оперативная память: 16 модулей DDR5-5600 ECC RDIMM по 64 ГБ — итого 1 ТБ оперативной памяти.
Графические ускорители: Восемь ускорителей MetaX C500 с интерфейсом MetaXLink, суммарный объем видеопамяти — 512 ГБ. Это делает систему пригодной для масштабных GPU-задач.
|
| Возможные направления использования |
1. Оценка эффективности алгоритмов и моделей ИИ
2. Оптимизация архитектуры
3. Подбор оптимального ПО и оборудования (аппаратно-программного стека)
|
| Количество опытных образцов |
0
|
| Количество просмотров |
4
|
| Наличие дополнительных файлов |
True
|
| Использование РИД правообладателем |
False
|
| Внешнее использование РИД |
False
|
| НИОКТР (JSON) |
{}
|
| ИКСИ (JSON) |
[]
|
| ИКСПО (JSON) |
[{"last_status": {"created_date": "2025-12-22T08:47:54.637108+00:00", "registration_number": "825122200077-8", "status": {"name": "Подтверждена"}}, "copyright_protections": [{"protection_way": {"name": "Осуществлена государственная регистрация"}}]}]
|
| ОЭСР (JSON) |
[]
|
| Дата первого статуса |
2025-11-20T07:24:30.408287+00:00
|
| Предполагаемый тип результата |
База данных
|
| Ожидаемая роль |
Исполнитель
|
| Заказчик |
МИНИСТЕРСТВО НАУКИ И ВЫСШЕГО ОБРАЗОВАНИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ
|
| Руководитель работы |
Соколов Вячеслав Сергеевич
|
| Руководитель организации |
Гаричев Сергей Николаевич
|
| Регистрационный номер НИОКТР |
125071608642-4
|
| Последний статус |
Подтверждена, 625120500203-6, 2025-12-05 12:20:42 UTC
|
| ОКПД |
Услуги, связанные с научными исследованиями и экспериментальными разработками в области компьютерных наук и информационных технологий
|
| Ключевые слова |
обучение; база данных; производительность; инференс; оценка качества моделей; MetaX; Moore Threads; аппаратно-программный комплекс
|
| Исполнители |
ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "МОСКОВСКИЙ ФИЗИКО-ТЕХНИЧЕСКИЙ ИНСТИТУТ (НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ)"
|
| Авторы |
Михайлов Андрей Алексеевич; Кузьмин Дмитрий Сенденович; Асокар Арредондо Джоксан Фелипе; Косенко Дмитрий Павлович
|
| Коды тематических рубрик |
28.23.37 - Нейронные сети; 28.23.25 - Модели и системы обучения; 28.23.33 - Аппаратная реализация интеллектуальных систем
|
| OESR |
Компьютерные, информационные науки и биоинформатика (разработка аппаратного обеспечения относится к разделу 2.2, социальный аспект относится к разделу 5.8)
|
| Приоритеты научно-технического развития |
а) переход к передовым технологиям проектирования и создания высокотехнологичной продукции, основанным на применении интеллектуальных производственных решений, роботизированных и высокопроизводительных вычислительных систем, новых материалов и химических соединений, результатов обработки больших объемов данных, технологий машинного обучения и искусственного интеллекта;
|
