we_are_coded.by CODE · Светът, декодиран
EN

Кой е кой

MLPerf: общият изпит за скорост на AI хардуера

Всеки производител на чипове казва, че неговият е най-бърз. MLPerf е мястото, където трябва да го покаже по едни и същи правила, пред конкурентите си. Ето как се чете резултатът, без да се хванеш на рекламата.

Обновено на 17 ноември 2026 г. · Проверено на 17 ноември 2026 г.

Накратко

MLPerf е набор от тестове за скорост на AI системи, поддържан от инженерния консорциум MLCommons. Първите тестове, за обучение, тръгват през май 2018. MLPerf Inference мери колко бързо една система обработва входни данни и дава резултат с вече обучен модел. В затворената категория всички ползват един и същ еталонен модел, за да се сравнява ябълка с ябълка.

Представи си автомобилно списание, което кара всички коли по една и съща писта, в един и същи ден, с един и същи шофьор. Рекламата на всяка марка казва нещо свое. Пистата показва едно. MLPerf е пистата.

Трите думи, които решават

Затворена или отворена категория. В затворената моделът е фиксиран и сравнението е честно. В отворената можеш да смениш модела или да го доучиш, затова числата не се сравняват пряко с другите.

Наличен, предварителен или изследователски. Наличен значи, че можеш да го купиш или наемеш днес. Предварителен (preview) значи, че системата трябва да може да се подаде като налична в следващия кръг. Изследователски е експериментален или вътрешен хардуер. Преди да повярваш на голямото число в заглавието, виж от коя кутия е.

Пример от септември 2026: в MLPerf Inference v6.1 NVIDIA подаде Vera Rubin NVL72 за първи път, като предварителен резултат. По данни на NVIDIA системата дава до 3,7 пъти по-висока пропускливост от предишното поколение GB300 NVL72. Резултатът е в затворената категория, но е за машина, която тепърва трябва да стане налична.

Ноември 2026 добави два нови кръга. В MLPerf Training v6.1 NVIDIA взе всички задачи и беше единствената с резултат по всяка от тях. Дебютът на Vera Rubin NVL72 дава до 2 пъти повече производителност на графичен процес от GB300 NVL72. На теста с DeepSeek-V3 системата мина от 256 на 1024 процесора и скъси обучението от 16 минути на около 4, при около 97 на сто ефективност на мащабирането, по данни на NVIDIA.

В първото си подаване в MLPerf Endpoints, новият кръг за агентни задачи, NVIDIA дава над 10 пъти по-голяма пропускливост на ват от GB300 NVL72 при еднаква скорост на отговора. Числата там са предварителни: чакат проверка на MLCommons и подлежат на промяна.

Рекордът от презентацията и рекордът от таблицата невинаги са един и същ рекорд.

Визуалът е генериран код-арт, без чужди изображения.