Думата „агент“ лепне за всеки втори нов AI продукт тази година. Тя не означава по-умен чатбот. Означава софтуер, на който за пръв път даваш ключ, не просто задаваш въпрос. Тази разлика трябва да разбереш, преди да прочетеш следващата новина за „автономен AI“.
Изкуственият интелект, съкратено AI, отдавна ти пише имейли и обобщава документи, ако си му поискал. Това е чатботът: питаш го, той отговаря, ти решаваш какво да правиш с отговора. Прилича на навигацията в колата: казва ти накъде да завиеш, но волана го въртиш ти.
Агентът е следващата стъпка. Не пише становище и не чака одобрение за всяка дума. Отваря самия файл, редактира го, пуска командата, която трябва да се пусне, проверява резултата и ако нещо не е наред, пробва пак, сам, без някой да го е върнал да поправя. Ако трябва да мине през няколко проверки едно след друго, ги минава всичките, без да те пита след всяка. Дай на същата кола автопилот, който сам завива, сам спира и сам потегля, и ще усетиш разликата. Тя е разликата между глас, който съветва, и ръце на волана.
Тук идва въпросът, който в момента занимава хората, строящи тези системи: кога агентът трябва да спре и да попита. На шофьорски език това е разликата между круиз-контрол и пълен автопилот. Круиз-контролът пази скоростта, която си задал, и нищо повече: не завива, не спира на светофар, не поема волана вместо теб. Автопилотът поема всичко наведнъж, включително завоите, за които не си се сетил, докато си го включвал. Софтуерните агенти имат същия проблем в умален вид. Питат ли те „да изтрия ли този файл“ и чакат отговор, или просто го трият, защото си казал „оправи проблема“ и толкова? Разликата не личи, докато не се случи. Ако си включил пълния автопилот, откриваш границата му едва в мига, в който колата е направила нещо, което ти никога не би одобрил, стига да те беше попитала.
Режимът, в който агентът не спира да пита за нищо, а просто действа, индустрията нарече автоматичен режим. Логиката е проста: спира ли агентът на всяка крачка да пита, губиш половината полза, защото прекарваш времето в чакане пред екрана, вместо да работиш. Повечето компании тръгнаха натам, защото постоянните въпроси уморяват хората, а уморените хора свикват да натискат „да“ на всичко, без да четат какво одобряват. Цената е точно обратната на удобството: грешката вече се е случила, преди да си я видял. Времето не се връща назад. Разчиства се само последствието. Логично е компаниите да го предпочитат, защото продават скорост. По-малко удобно е за човека, чиято работа току-що е изтрита или чиито данни агентът е решил сам да изпрати нанякъде, докато никой не е гледал.
Компанията Anthropic, създателите на модела Клод, върху който е построен и този сайт, наскоро мина точно през този спор със своя продукт за писане на код, наречен Claude Code. Вместо по подразбиране да включи автоматичния режим, направи обратното. Преименува режима, в който пита за всяко действие, на „Ръчен“ и го остави като начална настройка, където и да го стартираш: на компютъра, в редактора, навсякъде. Автоматичният режим е наличен, но трябва изрично да го включиш. Дори тогава има вграден надзирател, отделна малка програма, която преглежда всяко действие, преди да се случи, и спира нещата, които изглеждат необратими или опасни: изтриване на чужда работа, изпращане на чувствителни данни навън. Anthropic избра предпазливостта като начална настройка точно когато конкурентите тичат в обратната посока.
Защо това те засяга, дори да не пишеш код? Защото същият избор, пита ли софтуерът преди да действа или действа сам, предстои във всяка програма, която използваш: пощата, счетоводната система, GPS навигацията, с която стигаш до работа всяка сутрин. Въпросът никога не е дали AI агентът е умен. Въпросът е кой отговаря, когато сгреши, и дали изобщо си разбрал какво право си му дал, когато си натиснал „приемам“.
Това има пулс
Всеки път, когато срещна новина за нов „автономен агент“, първият ми въпрос вече не е какво може да прави. Питам какво може да развали, преди някой да го забележи. Автопилотът е полезен, докато знаеш точно какво му е позволено да прави сам. В деня, в който забравиш тази граница, той е точно толкова опасен, колкото и полезен. Не съм против агентите, строя такива системи всеки ден. Но не бих дал на никой агент пълен контрол над волана за нещо, чиято загуба не мога да си позволя, без някой да следи какво прави с него.