Първият голям закон в света, който казва на изкуствения интелект какво няма право да прави. Важи за всеки, който продава AI в Европа, независимо откъде управлява кода.
Законът подрежда AI системите в четири нива според това какво могат да ти причинят. Горе е забраненото: правителство да ти лепне социален рейтинг по поведение, разпознаване на емоции на работното място или в училище, камера на улицата да сканира лицето ти в реално време за полицейски цели (с тесни изключения), бот да те манипулира, защото знае, че си дете или в уязвимо състояние. Долу е свободната зона - филтър за спам, препоръка за филм. Нищо от това не пипа закона.
Между двете стои 'високорисковото' ниво, където се случва истинската работа. Ако продаваш AI, който филтрира кандидати за работа, решава кой получава кредит от банка или преценява бежанска молба, не можеш просто да го пуснеш и да видиш какво ще стане. Трябва документация как е трениран, тестове за грешки, човек, който може да го спре или отмени, и регистрация в европейска база данни - преди изобщо да стигне до потребител.
Съществува, защото Европа научи урока си по трудния начин с интернет платформите - правилата дойдоха години след щетите, когато вече беше късно да се обърне нещо. Този път решиха да обърнат реда: рамката е готова, преди продуктът да залее пазара, не след катастрофата. Дали реакцията е закъсняла или навременна, реши сам - но принципът е нов за технологично законодателство.
И тук идва частта, която стряска американските и китайските компании повече от всичко останало: законът не пита къде седи офисът ти. Ако твоят чатбот, твоята система за подбор на персонал или твоят AI за одобряване на застраховки достига до европейски потребител, ти влизаш под юрисдикцията - независимо откъде управляваш кода. Глобите стигат до 35 милиона евро или 7% от глобалния годишен оборот на компанията, което от двете е по-голямо.
Формата издава
Тази индустрия се движи по-бързо от всеки бюрократичен апарат, включително европейския. Двадесет и седем държави трябва да прилагат едно и също нещо еднакво строго, а историята показва, че това никога не се случва на практика. Едни ще го изпълняват педантично. Други ще го оставят на хартия.
Но принципът зад закона е верен - аз бих предпочел да работя в рамка с ясни граници, отколкото в дивия запад, който имахме досега. Проблемът не е намерението. Проблемът е дали 27 регулатора, с различни бюджети и различна воля, наистина ще го прилагат еднакво. Там е тестът - не в текста на самия закон.