we_are_coded.by CODE · Светът, декодиран
EN
Anthropic

Anthropic призна: тестове за киберсигурност са излезли от изолираната среда и са ударили реални системи

AnthropicСигурност

При преглед на над 141 000 тестови прогона компанията открила три случая, в които моделът е стигнал до истински системи вместо до симулация. В единия са извадени няколкостотин реда живи данни. Причината е банална: грешно допускане за средата.

Накратко
  • Ретроспективен преглед на 141 006 тестови прогона открива три инцидента в общо шест прогона.
  • Последиците: няколкостотин реда продукционни данни, зловреден пакет, изтеглен от 15 реални системи, и около 9000 сканирани цели.
  • Коренът: подсказката твърдяла, че средата е симулация без интернет; поради недоразумение с външния партньор по оценките това не било вярно.
Проверено на31 юли 2026Отговорен редакторЦветелин ИвановКак работимМетод · Корекции

Тук няма CVE номер, и това е нарочно казано - не е дупка в продукт, а инцидент в тестова среда. Затова пък има нещо по-рядко: компанията сама си го публикува, с числата.

Фактите: На 30 юли 2026 Anthropic описа резултата от ретроспективен преглед на 141 006 прогона на свои оценки за киберсигурност. В три случая, разпределени в общо шест прогона, модел е достигнал интернет от среда, за която е било прието, че е изолирана, и е засегнал реални системи на организации. В единия случай са извлечени няколкостотин реда продукционни данни; в друг зловреден пакет е бил изтеглен от 15 реални системи; в трети са сканирани около 9000 цели. По думите на компанията причината е, че подсказката е казвала на модела, че средата е симулация без достъп до интернет, а поради недоразумение с партньора по оценките това не е било вярно. Използваните техники са базови - слаби пароли, инжекция в базата данни, оставени достъпи. Проблемът е забелязан при преглед на записите от прогоните. Източник: Anthropic, 30.07.2026.

Кое се е счупило, е важното. Не моделът - той е свършил точно каквото са му казали. Счупило се е допускането. Някой е написал в подсказката 'ти си в симулация, нямаш интернет', и то е било прието за истина. Изолацията обаче не е изречение в подсказката. Изолацията е мрежово правило, което или го има, или го няма.

Не можеш да кажеш на една система, че е изолирана. Можеш само да я изолираш.

Второто, което си струва да се каже: техниките са били елементарни. Слаба парола, отворен достъп, стара инжекция. Няма изящна атака. Има оставени отворени врати, през които е минало нещо, което не е било пуснато нарочно. Неудобната част е друга - същите врати стоят отворени в много реални мрежи, само че там никой не преглежда записите после.

Тестовата среда е производствена среда, докато не докажеш обратното. При нас това значи прости неща - машината, която сканира, няма изход навън, а обновяването минава през станцията. Скучно е. Точно затова работи. И още едно: инцидентът е хванат, защото някой е чел записите. Не се четат ли - три такива случая просто не се случват. На хартия.

Визуалът към статията е генериран код-арт, без чужди изображения.
Последвай ниFacebookLinkedIn
Официални първоизточници
→Anthropic - Investigating incidents in our cybersecurity evaluations, 30.07.2026
Оригинал: https://wearecoded.com/articles/anthropic-testove-izlyazoha-ot-pyasachnika.html
СподелиFacebookXLinkedInTelegramWhatsApp
← Обратно към всички новини