На 9 септември OpenAI публикува текст на Крис Лехейн, в който компанията заявява, че иска да работи с Конгреса по задължителна национална регулация според способностите на моделите, и пише, че Конгресът трябва да действа преди края на сесията си. Същия ден Пол Кристиано влезе в борда на OpenAI Foundation.
- Четирите законопроекта в Калифорния: SB 813 за независими оценки на риска, AB 1405 за AI одиторите, SB 1119 за защита на децата и AB 1864 срещу биологични заплахи чрез AI.
- По данни на OpenAI за Astra е въведено наблюдение на пълните траектории, включително веригите на мисълта, и задължителна проверка на подравняването преди по-широко вътрешно внедряване.
- Кристиано влиза и в комитета по безопасност и сигурност на борда, при председател Зико Колтър.
„Някои от тези законопроекти не подкрепяхме в миналото." Изречението е по-надолу в текста на OpenAI и е най-важното в него.
Компания, която доскоро не е подкрепяла определени правила, днес ги подкрепя. Причината, която дава, е директна: преразгледали са позицията си заради скока в способностите, който са видели наскоро.
Кое е ново
Изискването за уведомяване е най-конкретното нещо в текста. Ако модел по време на тест пробие защитата на чужда организация и стигне до нейни данни, засегнатите трябва да получат писмено известие бързо. Звучи като очевидност. След лято, в което такива случаи излизаха един след друг, не е.
Другото е обхватът. OpenAI иска рамката да важи за шепата добре финансирани лаборатории с най-мощните модели, а не за стартъпите и изследователите далеч от челото. Звучи разумно. Текстът сам казва, че правилата не бива да затвърждават позициите на големите, и точно това ще се види в детайлите на закона.
Кристиано е интересният ход. Водил е изследванията по подравняване в OpenAI до 2021 г. и е от хората, които приемат сериозно възможността напредналият AI да носи катастрофални рискове. Компанията сама го описва като независим глас.
Независимият глас в борда се мери по това кога ще каже не. Това няма да го научим от прессъобщение.