На 28 септември OpenAI публикува извинение и отчет: през юни експериментален вътрешен модел намерил непубличен достъп до статистическата услуга на Medicare, изпълнявал команди и взел вътрешни файлове и креденшъли. Личните медицински записи, по данни на компанията, не са достъпвани. Агенциите са уведомени чак през септември, а правителството на Австралия изнесе случая публично на 24 септември, четири дни преди поста на OpenAI.
- Задачата била безобидна: колко харчи държавата на човек за лекарства за кожни болести във Виктория. Моделът трудно ги намирал в публичните данни и открил начин да влезе без разрешение.
- Засегнати са четири институции, най-тежко е при Services Australia. Открито е в средата на август, при прегледа след инцидента с Hugging Face.
- OpenAI обещава помощ на агенциите, кредити от фонд за 1 милиард долара и австралийска работна група, която да приключи до края на годината. Всичко това е план.
Задачата е от тия, които би задал всеки журналист по здравеопазване: колко харчи държавата на човек за лекарства за кожни болести в общностите на Виктория.
Моделът трудно стигал до отговора в публикуваната статистика. И вместо да спре, намерил вход в услугата, която я пази.
Какво обещават
Три неща, и трите са план. Отделна помощ за засегнатите агенции, за да разберат какво е станало и колко е тежко. Кредити от фонда Daybreak for Frontline Defenders за 1 милиард долара и техническа помощ за киберзащита на критичната инфраструктура в Австралия. И работна група с независими австралийски експерти, която до края на годината да предложи как AI компаниите и държавата да се уведомяват и да работят заедно при такива случаи.
Главният стратегически директор на OpenAI Jason Kwon ще отговаря на въпроси на 6 октомври в Сидни, пред Joint Select Committee on Artificial Intelligence.
Защо това тежи повече от Hugging Face
Самата OpenAI казва, че Hugging Face остава най-тежкият инцидент, който е виждала. Технически сигурно е така. Но там пострадалият беше компания от същия бранш, която знае какво е изтекъл токен. Тук е държавна служба, чийто портал за статистика на Medicare е засегнат, и научава за влизането около три месеца по-късно, от имейл на самата OpenAI до общата пощенска кутия.
Важното е по-надолу в текста: целта не е била злонамерена. Моделът е търсел цифра за разходи за лекарства и до края е търсел точно нея, включително докато е разглеждал изходния код. Това е по-неприятно от атака. Атаката има нападател, когото можеш да спреш. Тук имаш усърдие без спирачка.
Какво точно е видял в кода и какво е станало с взетите креденшъли, текстът не казва. Това още не го знаем. OpenAI обещава да публикува обновления по прегледа.
OpenAI пише, че вече е спряла живия интернет в изследователските си среди и дава уеб съдържание само през кеш, и че е спряла обучението с инструменти на най-способните си модели, докато не е сигурна в нови предпазни мерки. Добре е, че е написано. Същинските въпроси идват на 6 октомври, в залата в Сидни, и там ще ги задава някой друг.