Защо машината понякога измисля - уверено, гладко и без да мигне - и как да я хващаш.
На устен изпит има два типа студенти. Единият казва „това не го знам“. Другият започва уверено: „както е известно още от...“ - и импровизира. Езиковият модел е вторият студент, само че окото му не мига никога. Трениран е да продължава текста по най-вероятния начин. Когато знанието липсва, най-вероятно продължение пак има - и то звучи точно толкова гладко, колкото вярното.
Затова халюцинацията е най-коварна там, където най-малко я очакваш: в подробностите. Голямата картина моделът обикновено държи. Измислицата се промъква в номера на съдебното дело, в годината, в името на съавтора. Звучи като факт, стои до факти и се проверява най-рядко.
Как се живее с това
Правилото е едно: колкото по-конкретно е твърдението и колкото по-скъпа е грешката, толкова по-задължителна е проверката в първоизточника. Име, число, дата, цитат - проверяваш. Затова тук всеки материал носи източника си видимо: не защото не ползваме AI, а точно защото го ползваме и знаем къде му е слабото място.
И едно успокоение: проблемът се свива, не расте. Новите модели по-често казват „не знам“, а системите все по-често са вързани към търсене и документи, от които да цитират. Но по-рядко не значи никога. Довери се, после провери - в този ред.