we_are_coded.by CODE · Светът, декодиран
EN

Anthropic · изследване

Anthropic показа FlashProve: криптографско доказателство, че отговорът е дошъл от обещания модел, с отворен код

Anthropic публикува прототип, който доказва криптографски, че отговорът е произведен от модела, който ти обещават. По данни на компанията цената е около 70-95 пъти повече GPU време от пускането на самия модел, а кодът е под Apache 2.0.

Източник
Anthropic
Публикувано
Събитието
Проверено на
Отговорен редактор
Цветелин Иванов
Как работим
МетодКорекции

Плащаш за един модел и получаваш отговор. Откъде знаеш, че е от него? Не знаеш. Anthropic го казва направо: потребителят днес не може да провери, че отговорът идва от конкретния модел, който разработчикът твърди, че отговаря. Може да е друг, подменен тайно от услуга за маршрутизиране заради цената, или нападател да е пипнал потока от токени. По самия отговор не се познава, дори да е добър.

Факт

Фактите: на 2 ноември 2026 г. Anthropic (екипът Frontier Red Team) публикува изследване за доказуем извод при големи езикови модели и система, която нарича FlashProve. По данни на Anthropic за Llama 4 Maverick (400B параметъра, смес от експерти, 4-bit квантизирани тегла, целочислена аритметика при prefill) една H100 генерира доказателства с около 110 токена в секунда, а доказателството е около 19 MB на заявка от 1024 токена. Това е около 70-95 пъти повече GPU време от пускането на самия модел във vLLM. Доказателствата скриват теглата на модела; скриването на архитектурата не е цел на системата. Кодът включва доказващ и два проверяващи: бърз на C++ и доказано правилен на Lean. Кодът, доказателствата в Lean и документацията са под лиценза Apache 2.0. Anthropic казва, че публикацията споделя междинен напредък и не е завършена изследователска програма.

Лекарството се казва zkSNARK. По думите на Anthropic това е система, в която доказващият убеждава проверяващия чрез кратък сертификат, че дадено изчисление е изпълнено правилно. Сертификатът не издава нищо отвъд правилността и се проверява експоненциално по-бързо от самото изчисление. Доставчикът се обвързва с един модел и после доказва, че всеки отговор е негов.

Цената стои в числата на Anthropic: около 70-95 пъти повече GPU време от самия модел във vLLM. Затова засега е прототип. Компанията казва още, че предишните системи с отворен код са с порядъци по-бавни, така че пътят е изминат отчасти, но не докрай.

Доказателството не оценява отговора. Казва само чий е.

По-интересно ми е как се пазят от собствения си модел. Anthropic казва, че Claude е добър в оптимизирането, но често взема решения, които трудно се оценяват, особено в големи сложни системи. Затова за гаранциите дава проверими твърдения на най-високо ниво в Lean, език за формална проверка. Ускорява машина, одитира се в Lean.

Теглата остават скрити. Архитектурата не е цел да се крие. Кодът е пуснат с ясната цел други да го вземат и да го подобрят. Проверката е дали някой ще смъкне онези 70-95 пъти. Дотогава е прототип.

Визуалът към статията е генериран код-арт, без чужди изображения.