Платформата зад 1.1.1.1 държи над 250 милиарда записа в кеша по всяко време. Пет последователни промени в подредбата им свиват всеки запис с над половината. Освободената памет е колкото цялата RAM на 130 от сървърите им.
- При 250 милиарда записа един пропилян байт на запис струва над 250 гигабайта през целия флот.
- Резултатът: над 50 на сто по-малък запис, около 100 терабайта освободена памет, вмъкването с 43 на сто по-бързо.
- Обичайната сделка памет срещу скорост тук не се е състояла - спестиха и от двете.
Един байт. Ако го пропилееш на запис, при тях това са 250 гигабайта.
Big Pineapple е платформата, която върти 1.1.1.1, Gateway DNS, DNS Firewall и още няколко услуги на Cloudflare. По всяко време в паметта ѝ седят над 250 милиарда кеширани отговора. При такъв мащаб оптимизацията не е спорт - тя е сметка, която се плаща в сървъри.
Защо това е рядко
Обикновено при такива преработки има сделка. Свиваш паметта - плащаш със скорост, защото добавяш едно ниво разопаковане. Гониш скорост - плащаш с памет, защото държиш всичко разгънато и готово. Който е пипал кеш, го е усетил.
Тук сделката не се е състояла. По-малкото заделяне на памет и по-плътното подреждане правят и двете едновременно, защото процесорът чете съседни байтове, вместо да скача из паметта. Това е стар инженерен факт, който на този мащаб просто се вижда с просто око.
Какво взимам оттук
Не държим 250 милиарда записа и никога няма да държим. Но същата аритметика важи и в малкото: една излишна структура в горещия път на нашия админ панел се умножава по всяка заявка, всеки ден, тихо. Разликата е само в това, че при нас никой не праща сметка, така че никой не поглежда.
И още нещо, което ми харесва в текста им: няма нито едно изречение за изкуствен интелект. Просто хора, които са гледали къде отива паметта.