На 23 септември Сам Алтман говори пред Съвета за сигурност на ООН за два пътя към провал: загуба на контрол над AI и власт в твърде малко ръце. Поиска изключителна предпазливост около моделите, които подобряват сами себе си, и общи международни стандарти. Пълният текст е публикуван от OpenAI.
- Двата риска според Алтман са загуба на контрол над бъдещето и концентрация на власт в една компания или държава.
- Дословно: „We have unilaterally slowed down in the past. We will do so in the future.“
- Той поиска общи стандарти за измерване на способности, докладване на инциденти и сигурни канали между правителствата.
Изречението, което ще се цитира, е от две части. Забавяли сме сами в миналото. Пак ще го направим.
Казано пред Съвета за сигурност, от човека, който ръководи OpenAI. Звучи като отстъпка. Чете се и като позиция: ние решаваме кога да спрем, и сме го доказали.
Кое е новото в речта
Не предупреждението за загуба на контрол, него го повтарят от години.
Новото е второто. Алтман казва пред правителствата, че компания или държава, която вярва, че само тя може да носи тази технология, може да оправдае с това вярване почти всичко. И че важните решения не бива да се взимат само от лаборатории в Сан Франциско. Това е изречение, което някой ден ще му бъде прочетено обратно.
За Навие-Стокс: твърдението е огромно и в речта е хвърлено мимоходом. Ще го приемем, когато математиците го приемат, не когато го каже продавачът.
Думите стоят дословно на сайта на OpenAI.