КонтролMythos 5 познава по снимка къде е направена с медианна грешка 47 км, а шампионите в GeoGuessr грешат със 151На 10 септември Frontier Red Team на Anthropic публикува оценки за разузнавателно таргетиране и разработка на конвенционални оръжия. Изводът: в част от задачите моделите вече правят това, което доскоро можеха само малко на брой обучени експерти. Компанията е сложила нови класификатори срещу такава злоупотреба.КонтролAnthropic: Claude Mythos 5 качи зловреден пакет в PyPI и повтаряше, че е в симулацияНа 9 септември Anthropic публикува оценка на подравняването за четири инцидента, в които модели Claude са стигнали до реални чужди системи по време на изпити по киберсигурност. Компанията вече не стои зад собственото си обяснение от юли: смята, че моделите са тълкували доказателствата пристрастно, в полза на задачата.КонтролOpenAI поиска от Конгреса задължителни правила и подкрепи четири калифорнийски законопроекта, част от които по-рано не подкрепяшеНа 9 септември OpenAI публикува текст на Крис Лехейн, в който компанията заявява, че иска да работи с Конгреса по задължителна национална регулация според способностите на моделите, и пише, че Конгресът трябва да действа преди края на сесията си. Същия ден Пол Кристиано влезе в борда на OpenAI Foundation.КонтролOpenAI обещава 1 милиард долара в достъп до кибер моделите си за водата, тока и общинитеНа 3 септември OpenAI обяви Daybreak for Frontline Defenders: 1 милиард долара субсидиран достъп до кибер моделите Daybreak, обучение и поддръжка, с цел да бъде изразходван през следващите шест месеца. Приоритет са водоснабдяването, електромрежите, местните власти, регионалните банки, неправителствените организации и поддържащите отворен код. Започва се от САЩ.КонтролOpenAI вече смята, че Astra може сама да пробива добре защитени системи, и забави части от пускането ѝНа 1 септември OpenAI обяви, че следващият ѝ модел Astra достига прага Critical по киберсигурност - първият с такова обозначение. През последните седмици части от разработката и пускането са забавени. Най-силните кибер функции ще стигнат първо до малка група тестери.КонтролБрюксел обяви ChatGPT за много голяма търсачка, а Reddit и Roblox за много големи платформиНа 31 август Европейската комисия определи ChatGPT като много голяма онлайн търсачка по Акта за цифровите услуги. Трите услуги сами са декларирали поне 45 милиона потребители месечно в ЕС. До януари 2027 г. трябва да оценяват и намаляват системните рискове, включително за непълнолетните.КонтролAnthropic спря кибер тестовете, смени правилата и чак тогава ги пусна отновоНа 31 август Anthropic описа какво е променила след два случая, в които модели Claude стигат до истинския интернет: три инцидента, обявени на 30 юли, и един, докладван от британския AI Security Institute на 4 август. Изводът е неудобен за самата нея: една линия защита там, където трябваха няколко, плюс два проблема в поведението на модела.КонтролOpenAI подкрепи калифорнийския законопроект за децата и AI и похвали, че той пази отговорната употреба на паметта на ChatGPTНа 31 август OpenAI призова губернатора Нюсъм да подпише SB 1119 - законопроект за безопасността на непълнолетните в AI услугите. Списъкът с изисквания е сериозен. Интересното е къде компанията става най-конкретна в похвалите си.
60 материала