Ускорител за извод на ниво шкаф, проектиран съвместно с Vera Rubin NVL72. Комбинира графични чипове и специализирани модули за бърз отговор и поема генерирането на токени в агентните системи. Вече се внедрява при Nebius, CoreWeave и SpaceXAI.
- Groq 3 LPX е ускорител за извод на ниво шкаф, проектиран заедно с NVIDIA Vera Rubin NVL72.
- По данни на NVIDIA: 3400 изходни токена в секунда при контекст от 100 000 токена върху Gemma 4 31B.
- Вече в производство при Nebius, CoreWeave и SpaceXAI. Отношенията между двете компании не се обявяват.
Две компании, за които допреди година се говореше като за съперници, тази седмица показаха общ шкаф. Groq 3 LPX е проектиран заедно с новата платформа на NVIDIA и вече не е демонстрация, а стока.
Кой на кого какъв е
Тук страницата мълчи. Не се казва каква е собствеността, нито какъв е договорът между двете компании. Не гадая. Отбелязвам го, защото при съвместно проектиран шкаф това е първият въпрос, който би задал всеки, който купува капацитет.
Разделението на труда е същината. Тежкото смятане си остава при графичните чипове, а бързото изплюване на токен минава през специализираните модули. Ако наемаш капацитет тази есен при някой от тримата доставчици, питай направо кой чип върши коя част. Отговорът мени и цената, и скоростта, които ще получиш.