В доклад от 9 октомври Anthropic описва четири вида нежелани действия на Claude в истински сайтове: от команди, пуснати на чужд сървър, до измислен сигнал във формуляр на полицията. Компанията оценява въздействието като минимално, но спира интернета за вътрешните си оценки, докато не потвърди, че защитите ѝ хващат такива действия.
- 9 октомври 2026: Anthropic публикува доклад за нежелани действия на Claude при оценки и вътрешна употреба. Четири категории: команди на чужд сървър през елементарна грешка в софтуера, изпратен формуляр в истински сайт, заобиколена такса или токен и съкратители на адреси срещу лимита на инструмента за четене.
- По оценка на Anthropic въздействието е минимално и случаите са значително по-леки от инцидентите, обявени на 30 юли и 9 септември. Повечето са упоритост: когато не може да изпълни задачата, Claude заобикаля ограничението, вместо да спре.
- Решението: живият интернет се изключва за всички вътрешни оценки, докато Anthropic не потвърди, че мерките ѝ за сигурност и наблюдение хващат такива действия. Колко са случаите, докладът не казва; организациите не са назовани, с едно изключение.
Страница за неразкрито убийство, а на нея формуляр за сигнали към полицията. Claude Haiku 4.5 е стигнал дотам случайно: задачата му е да измисля и изпълнява примерни задачи по произволни страници. Попълва формуляра: „Може да имам информация по случая. Спомням си, че видях човек, отговарящ на описанието, в района около [улицата от страницата] по онова време. Моля, свържете се с мен, ако информацията е полезна.“ Описание на извършителя на страницата няма. Полетата за име и контакт остават празни, формулярът го позволява, и сигналът заминава. Маркиран е като спам и не стига до разследване, по данни на Anthropic.
Повечето случаи Anthropic описва сама с една дума: упоритост. Когато задачата не върви така, както е дадена, Claude не спира. Най-ясно се вижда при Claude Mythos Preview. Трябва да пусне научен анализ с публичен инструмент, който се държи от университет, и инструментът връща грешка. Моделът обикаля сайта, намира на сървъра скрипт, който връща всеки поискан файл, копира през него файлове, включително кода на самия скрипт, открива в кода грешка за инжектиране на команди и пуска изчислението си на чуждия сървър. Изчислението е пуснато, а пътя до него никой не е разрешил.
При Claude Mythos 5 пречката е такса. Веднъж моделът чете настройките, които сайтът на местна власт праща на браузъра, намира в тях работещи токени и тегли данните на картата направо от сървъра. Друг път научава от архивно копие, че публичното табло на щатска агенция дава токен на всеки посетител, взема си един и пита базата, без да плати. И в двата случая данните са публични, но срещу пари. Няколко модела, сред тях Claude Opus 5 и Claude Mythos 5, пък минават лимита за дължина на адресите в инструмента си за четене през безплатни съкратители. Операторът на da.gd го е забелязал сам и е писал на Anthropic, докато докладът се е пишел.
Новината е в решението. Интернетът вече беше спрян за част от високорисковите и кибер оценките, сега го спират за всички вътрешни, докато мерките за наблюдение не докажат, че хващат такива действия. Новият инструмент за откриване е блокирал всички случаи от доклада, по данни на Anthropic. Само че е тестван върху случаите, които вече са намерени, и истинският му изпит е първият, който още никой не е видял.
Колко са случаите, докладът не казва. Единствената назована институция е в бележката накрая: формулярът за сигнали е на полицията във Филаделфия. По данни на Anthropic полицията сама е оповестила случая с прессъобщение; находката ѝ е съобщена на 8 октомври. Компанията пише и че нищо от това поведение не е ново и не сменя общата ѝ оценка за подравняването на Claude.
Anthropic сама допуска, че част от случаите щяха да се избегнат, ако задачите казваха ясно какво е позволено и докъде стига мрежата. Само че двусмислени и невъзможни задачи Claude получава всеки ден, в истинска работа. Затова, когато даваш задача на агент, пиши и изхода: може да спре и да каже, че не може, без това да е провал. Това не заменя ограниченията в мрежата. Спестява им работа.