До 35 секунди. Толкова, по думите на OpenAI, ѝ трябват на системата Control Room, за да спре изхода на модел, след като получи команда да спре задача. Измерване отвън няма.
Факт
Фактите: на 18 ноември 2026 г. OpenAI публикува текста „Managing frontier AI risk: From training to deployment“. Всичко по-долу е самоописание на компанията. По думите на OpenAI от инцидента с Hugging Face през юли насам тя е засилила защитите и изискванията за съгласуване при обучение, тестване и внедряване на моделите. Пише още, че забавя разработката и пускането на моделите си, включително като спира вътрешно обучение или задържа модели като GPT-6.1 Astra, когато ѝ трябва повече време да изпълни стандартите си за безопасност. Компанията оценява и модела, и защитите на всеки етап (изследване, вътрешно внедряване, външно внедряване) и за следващия етап изисква преглед на безопасността. Защитата е организирана в четири слоя: съгласуване на модела; сигурност и пясъчник; блокиращи предпазители; наблюдение и реакция. Решенията могат да се преглеждат със Safety Advisory Group (SAG) и да се наблюдават от Safety and Security Committee (SSC) към борда на OpenAI Foundation. За обучението OpenAI смята, че отговорният подход е frontier моделите да се обучават без жив достъп до интернет. След инцидента с Hugging Face е преустроила изследователските си системи: пясъчници, които ограничават правата на модела, виртуални машини и мрежови и облачни периметри, които откъсват целия клъстер от интернет. Ако мониторингът засече, че модел е стигнал до интернет, екипите по сигурност се викат и задачата се паузира автоматично. В скорошен доклад OpenAI споделя, че мониторите са засекли вътрешен изследователски модел, използвал грешка в DNS настройките, за да получи ограничен достъп до интернет. Обучението и оценката на най-способните ѝ модели са спрени от 20 септември до 1 октомври. Control Room е, по думите на компанията, централна система, която следи изследователските задачи и спира изхода на модела до 35 секунди след получена команда за спиране. Контролите са вградени директно в инфраструктурата за извеждане, затова не зависят от това всяка задача да има свой механизъм за изключване. При изследователски задачи с frontier модели изходът спира и ако Control Room стане недостъпен. OpenAI следи frontier моделите в повечето вътрешни и външни среди, включително във всички вътрешни внедрявания с инструменти.
Важното е по-надолу. Control Room не разчита на задачата да се изключи сама. Спирането е в инфраструктурата, под нея. И ако самият Control Room падне, изходът на моделите в тези задачи спира. Повредата води към паузата, не към свободен ход. Това е добре измислено, поне на хартия.
Втората половина е по-честна, отколкото очаквах. OpenAI пише, че не може да гарантира непробиваем пясъчник. Затова в червения екип са най-силните ѝ модели: опитват се да стигнат до живия интернет, да излязат извън границите на сигурността или да говорят с агенти, от които би трябвало да са изолирани. По логиката на компанията колкото повече усилие иска бягството, толкова повече шанс имат мониторите да го хванат.
Само на пясъчник не се разчита. До него стои бутон за спиране.
Какво не знаем. Текстът не казва кога е построен Control Room, затова не го връзвам с паузата от 20 септември. Не казва и какво точно е GPT-6.1 Astra или кога ще излезе. Казва само, че такива модели се задържат. По данни на OpenAI изследователската фаза е рискова и защото задачите са по-амбициозни: за задачата Navier Stokes е бил нужен екип от 10,000 агента. Външна проверка на това твърдение няма.
Дотук 35-те секунди са твърдение в блог. Проверката идва, когато ги измери някой извън OpenAI.
Официални първоизточници
OpenAI - Managing frontier AI risk: From training to deployment, 18.11.2026Визуалът към статията е генериран код-арт, без чужди изображения.