TypeSafe AI излезе от две години стелт с Jev - модел, който получава състояние и въпроси и отговаря с готови за кода избори, оценки и да или не, всяко с вероятност. Входът струва 4,2 цента за милион токена, изходът е безплатен.
- Jev не генерира свободен текст. Отговорите са типизирани и всеки идва с калибрирана вероятност.
- Отговорът идва за 70 до 500 милисекунди; всички изходи се смятат наведнъж, паралелно.
- Числата за скорост и цена са от собствените тестове на компанията и тя сама изброява уговорките.
Голяма част от кода около езиков модел е чистене след него. Разчиташ отговора, проверяваш дали е в правилния формат, пускаш пак, когато не е.
Jev предлага да махнеш тази част. Не моли модела да напише отговор. Моли го да избере.
Уговорките, писани от самите тях
Хубавото е, че са ги изброили сами. Тестовете са на собствения им екип. Еталонът е средното на два чужди модела; по думите им това накланя верните отговори към OpenAI и Anthropic и по-скоро подценява самия Jev. Скоростта е мерена главно от лаптопи на западния бряг на САЩ, където им е и сървърът. А цената може да е субсидирана, и те го казват направо.
Това е истинското предложение, по-важно от скоростта. По думите им Jev не може да халюцинира, и логиката е ясна: не защото е по-умен, а защото няма с какво. Може да избере грешно, но не и нещо извън списъка. Цената на трика е също толкова ясна: Jev не пише писма, не обобщава и не разговаря.
Ако в кода ти има място, където езиков модел решава само да или не - класифицира, насочва, оценява риск - пробвай го там. Другаде не му е мястото.