MetaRoCE е транспортен протокол, писан от нулата за разговорите между хиляди AI ускорители върху обикновен Ethernet. По данни на компанията пази около 86 процента от скоростта дори при един процент загубени пакети. Спецификацията, референтният код и тестът за съвместимост излизат публично.
- Нов протокол за директен трансфер между памети, писан специално за AI върху обикновен Ethernet.
- По данни на Meta пази около 86 процента от пропускателната способност при 1 процент загуба на пакети.
- Излиза публично през Open Compute Project: спецификация, референтна реализация libsoftmetaroce и тест за съвместимост.
Хиляда чипа тренират един и същ модел и през цялото време си казват какво са смятали. Изгуби се един пакет от този разговор и стандартният протокол спира да бърза.
MetaRoCE е отговорът на Meta. Не кръпка върху стария RoCE, а протокол, писан от чист лист, специално за колективните операции между хиляди ускорители, тоест разговорите, в които всеки чака всички.
Защо го пускат навън
Мрежов протокол, писан вътре в една компания, обикновено си остава там. Meta прави обратното и слага спецификацията, кода и теста в Open Compute Project, откъдето всеки производител може да провери своя чип срещу тях.
Сметката е проста. Отворен протокол печели само ако достатъчно чипове го говорят. AMD Pensando е първият партньор, обявен по име. Ако до година го говорят трима големи производители, Meta е спечелила стандарт. Ако не, е дала безплатно добра работа.