На 15 юли OpenAI изложи предложение за уредба на безопасността на челните AI модели - смес от щатски закони, засилен федерален орган за оценка и план за устойчивост срещу най-тежките рискове. Компанията, която строи най-мощните модели, пише правилата, по които иска да я съдят. Само помисли за това.
- OpenAI публикува предложение за уредба на безопасността на frontier модели: щатска рамка + засилен федерален орган (CAISI) + план за устойчивост.
- Фокусът е върху най-тежките рискове (химически, биологични, радиологични, ядрени) от челните модели.
- Това е позиция на компанията за това как да бъде регулирана, не приет закон.
Когато компания предложи как да я регулират, си струва да прочетеш кой какво печели. OpenAI изложи своя рамка за безопасност на челните модели - и тя е точно толкова интересна с това, което казва, колкото с това кой я казва.
Кой печели от това - въпросът не е циничен, задължителен е. Компания, която строи най-мощните модели, предлага рамката, по която тези модели да се оценяват. Може да е добросъвестно - тежките рискове са реални и някой трябва да ги мери. Може и да е сценография - пишеш правилата рано, за да са ти по мярка, и излизаш като отговорния възрастен в стаята. Най-вероятно е и двете наведнъж. Едното не изключва другото.
Важното в такива ходове не е текстът на предложението, а кой държи писалката. Предлага ли мереният как да го мерят, точно тогава липсва независимата инстанция. Записвам го не защото рамката е готова. Записвам го, защото показва накъде бута индустрията - към правила, писани отвътре.