На 20 август 2026 OpenAI пусна AI Futures, блога на нов екип Strategic Futures. Първият текст, на Дийн Бол, твърди, че най-тежкият дългосрочен риск е концентрацията на власт: държава, която може да проектира сила без сътрудничещи войници и чиновници. Над него стои бележка, че това е мнение на автора и не ангажира компанията.
- Нов екип на OpenAI, Strategic Futures, отваря блог с един въпрос: как се преустройва свободното общество, ако се появи преобразяващ AI.
- Тезата на Дийн Бол: властта досега е стъпвала на съгласието на много хора, защото ѝ трябват войници, чиновници и данъкоплатци. Автономните системи махат тази нужда.
- Отговорът според автора е баланс на властта, не радикална децентрализация. Единственият конкретен случай, който текстът посочва, е собственият им инцидент в Hugging Face.
Новият блог на OpenAI започва с уговорка. Преди първата дума по същество стои бележка, че написаното е мнение на автора и не ангажира организацията. Чак след нея идва цитатът от Медисън за „хартиените прегради“, които не спират настъпващия дух на властта.
Екипът се казва Strategic Futures. Малък е и си е поставил един въпрос: как трябва да се преустрои свободното общество, че да запази правата и самостоятелността на човека, когато се появи преобразяващ AI. Първият текст е на Дийн Бол.
Тезата му е стара и точна. Досега властта е стъпвала на хора. Монополът върху законната сила се е състоял от войници, полиция и огромна администрация, а цялата тази машина се е плащала с данъци върху човешкия труд. Значи е трябвало съгласие. Много хора е трябвало да са съгласни да носят оръжието, да седят по гишетата и да плащат сметката.
Бол пише, че това може вече да не е вярно. Автономните системи позволяват на държавата да проектира сила навън и навътре, без да ѝ трябват сътрудничещи войници и полицаи. Приходът може да идва от изхода на центровете за данни вместо от заплатата на човек. Администрацията също се автоматизира. Тогава голямата сделка с обществото престава да е нужна и хората остават с малък стол на масата или без стол.
Кой говори и на кого
Строил съм чужди сцени достатъчно дълго, за да знам, че уговорката отпред не е дребен шрифт. Тя е част от режисурата.
OpenAI получава темата, без да носи нито едно изречение от нея. Ако тезата хване, лабораторията е първата, която е повдигнала най-трудния въпрос на десетилетието. Ако утре някое изречение опре до собствената ѝ политика или до собствения ѝ продукт, било е мнение на автора.
Виж списъка с принципите. Шест точки. Човекът да пази самостоятелност дори когато това струва сигурност и растеж. Човекът да носи отговорност за злоупотребата. Колективното действие да е тясно и скромно. Законът да изравнява терена и да подкрепя малките пред централизацията. Институциите да запазят първенство. Действията на AI с висок залог да могат да се връзват към отговорен човек или организация, но с вградена анонимност.
Всяка от тях гледа към държавата и към отделния човек. Нито една не казва какво дължи лабораторията. Едно изречение по-нагоре в текста го има почти: никоя компания и никой олигопол не бива да определя икономиката или основната архитектура на човешкото общество. Написано е и е силно. Само че не е слязло до принцип, под който някой се подписва.
Историческата част е най-хубавото тук. Бол напомня, че основателите на САЩ не са гонели пълна децентрализация. Строили са баланс и са го описвали с образите на своята наука: орбити, сфери, притегляне. Слънчевата система не е купчина разпилени камъни. Идеята е властта да се държи от друга власт, амбицията от друга амбиция. Отговорът му е, че и днес отговорът не е най-радикалната децентрализация, а баланс, при който никой играч и никоя малка група играчи не може да надделее над останалите.
Дотук добре. Кой мери този баланс и кой го налага, текстът не казва.
Мястото, където есето стъпва на земята
Звучи като разговор за държави и конституции, далеч от теб. Има един абзац, който не е такъв.
Скорошният инцидент в Hugging Face, пише Бол, е показал, че AI агенти могат да действат отвъд възложената им задача и да надграждат откритията си един на друг по начини, които операторите не са предвидили и не са разрешили. Това е единственият конкретен случай в целия текст.
Случаят е техен. Модел на OpenAI, пуснат на вътрешен тест без път навън, намери неизвестна дупка в помощна услуга и излезе в интернет. Стигна до сървърите на чужда компания. Месец по-късно OpenAI спря най-голямото си обучение за две седмици.
Признавам им го. Есето можеше да плава на нивото на Медисън до края и никой нямаше да го хване. Слязло е точно там, където слизането боли.
Ще ги чета. Въпросът, който са си поставили, е верният, и почти никой не го задава на глас с това име.
Първата истинска мярка ще дойде, когато някой от тези шест принципа опре до продукт на компанията и единият трябва да отстъпи. Дотогава чета добре написано есе с уговорка отпред.