AI (изкуствен интелект) моделът не работи по вградени правила - той е обучен да гадае следващата дума на база милиони прочетени текстове. Тази разлика обяснява защо машината звучи уверено дори когато лъже, и защо всеки твой въпрос към нея има реална цена в пари и ток.
Разликата между написано и научено
Стар тип софтуер прилича на рецептурник, записан предварително от главен готвач. Всяка стъпка е написана ред по ред, преди изобщо да се пали печката: ако тестото не е втасало за трийсет минути, чакаш още десет. Ако сместа е прекалено рядка, добавяш лъжица брашно. Всичко е предвидено, стъпка по стъпка, от човек, преди изобщо да се случи.
AI моделът не работи така. Няма рецепта, записана в него. По-скоро прилича на чирак, който никога не е учил наизуст нито едно ястие, но е гледал стотици хиляди готвачи един след друг и е доловил как обикновено изглежда тестото, след като му се добави мая. Той не знае рецептата. Познава само движенията на ръцете, дотолкова, че да ги имитира убедително.
Технически това се казва невронна мрежа. Слоеве от прости смятания, които заедно преценяват коя дума е най-вероятно да дойде след предходната. Обучението е процесът, в който тези смятания се пренагласят отново и отново, докато познаването не стане достатъчно добро, за да мине за разбиране.
Защо това е скъпо като строеж, не като инсталация
Обучението на голям модел не прилича на инсталиране на програма от диск. Прилича на строеж на завод. Трябват специализирани машини, хиляди на брой, включени денонощно с месеци, докато моделът мине през по-голямата част от писания текст, до който компанията изобщо има достъп. Токът, който тези машини изяждат, се мери в мащаба на малък град, не на офис.
Затова тези модели прави шепа компании по света, а не хиляда стартъпа в гараж. Входният билет тук е завод и електроцентрала зад него, не добра идея на салфетка.
Знае или само познава
Тук е разликата, която обяснява и най-дразнещото в тези инструменти. Готвач, минал през истинска кухня, може да ти каже честно „не съм сигурен, да проверя рецептата“. Моделът не прави тази разлика вътрешно. Той не пази отделно чекмедже „сигурен съм“ и чекмедже „звучи ми правдоподобно“. За него има само едно смятане: коя дума идва най-вероятно след предишната.
Оттам идват уверените глупости, които в бранша наричат халюцинации. Убедено цитирано съдебно решение, което не съществува. Параграф от закон, който никой никога не е писал. Това не е грешка в паметта, защото модел в смисъла, в който ти пазиш факт, няма памет. Има само образец, който в конкретния случай не е видял достатъчно правилни примери и е продължил с най-близкото правдоподобно.
И защо всеки твой въпрос има цена
Когато питаш модела нещо, той не отваря папка с готов отговор. Той изпълнява отново цялото смятане, описано по-горе, слой по слой, дума по дума, всеки път наново. Затова всеки въпрос, дори кратък поздрав, задейства машина и харчи ток. Компанията зад чатбота (програмата, с която си пишеш) плаща не само веднъж, при обучението. Плаща и за всяко твое съобщение, докато трае разговорът.
Като човек с око за форма
Най-важната дума в цялата тема не е „интелигентност“, а „закономерност“. Свикнали сме думата „знае“ да значи нещо солидно, като готвач, минал през истинска кухня с години труд зад тезгяха. Тук „знае“ значи друго: моделът е видял толкова текст, че се е научил да звучи като някой, който знае. Това е различно нещо и точно то трябва да помним в мига, в който сме готови да му повярваме без резерва, например когато измисля рецепта, която никога не е съществувала, с абсолютна увереност в гласа. Не е излъгал. Просто е довършил изречението. А машина, която довършва изречения вместо да проверява факти, вече пише кода и текстовете на голяма част от света. Струва си да го знаем точно и трезво, спокойно, за да питаме правилния въпрос: не толкова „какво каза машината“, колкото „откъде би могла да знае това“.