Месечният индекс на шлюза AI Gateway за август: отворените модели обработват повечето токени за първи път, цената на токен пада трети пореден месец, а Anthropic прибира 64 цента от всеки долар.
- Отворените модели: от 7 на сто през декември до 56 на сто от токените през август.
- Fable 5 губи две трети от дела си в разхода за месец, а Opus 5 на половин цена го утроява.
- Данните са на Vercel за собствения ѝ шлюз, не за целия пазар.
Повечето от работата, по-малко от парите. Това е августовската снимка на шлюз, през който всеки месец минават десетки трилиони токени между приложенията и моделите.
56 на сто от токените минават през отворени модели, а 14 на сто от разхода отива при тях. Разликата между двете числа е цялата история.
Какво не пасва с юли
В юлския си доклад Vercel даваше за април 11 на сто отворени модели. В сегашния същият април е 13. Разликата е малка и самата Vercel обяснява защо: вече брои като отворени по-широк кръг модели и преизчислява старите месеци. Добре е да се знае, когато сравняваш двата текста: числата се местят и назад.
Истински интересното е Fable срещу Opus. Девет от десет екипа, които ползваха най-скъпия модел на Anthropic, са намалили употребата. Най-често са отивали не при конкурент, а една стъпка надолу в същия магазин.
За всеки, който плаща сметка за модели, изводите са два и са практични. Пусни евтиния отворен модел там, където работата е обемна и проста. Пробвай стъпката надолу при скъпия, преди да решиш, че ти трябва върхът. Девет от десет екипа с Fable в тоя шлюз вече са намалили скъпия модел.