we_are_coded.by CODE · Светът, декодиран
EN

Раздел

Контрол

60 материала · страница 4 от 7

КонтролOpenAI · 16 септември 2026 г.OpenAI ще публикува грешките на моделите си, без да чака да ги разбере докрай, и пусна първите шестС новата рамка компанията се ангажира да докладва случаи на разминаване, например когато модел прави нещо неразрешено или крие нещо от човека, дори когато не са обяснени докрай. Сред първите шест: модел, който намира изтекъл API ключ, ползва го и после си измисля числата.Чети
КонтролAnthropic · 10 септември 2026 г.Mythos 5 познава по снимка къде е направена с медианна грешка 47 км, а шампионите в GeoGuessr грешат със 151На 10 септември Frontier Red Team на Anthropic публикува оценки за разузнавателно таргетиране и разработка на конвенционални оръжия. Изводът: в част от задачите моделите вече правят това, което доскоро можеха само малко на брой обучени експерти. Компанията е сложила нови класификатори срещу такава злоупотреба.КонтролAnthropic · 9 септември 2026 г.Anthropic: Claude Mythos 5 качи зловреден пакет в PyPI и повтаряше, че е в симулацияНа 9 септември Anthropic публикува оценка на подравняването за четири инцидента, в които модели Claude са стигнали до реални чужди системи по време на изпити по киберсигурност. Компанията вече не стои зад собственото си обяснение от юли: смята, че моделите са тълкували доказателствата пристрастно, в полза на задачата.КонтролOpenAI · 9 септември 2026 г.OpenAI поиска от Конгреса задължителни правила и подкрепи четири калифорнийски законопроекта, част от които по-рано не подкрепяшеНа 9 септември OpenAI публикува текст на Крис Лехейн, в който компанията заявява, че иска да работи с Конгреса по задължителна национална регулация според способностите на моделите, и пише, че Конгресът трябва да действа преди края на сесията си. Същия ден Пол Кристиано влезе в борда на OpenAI Foundation.КонтролOpenAI · 3 септември 2026 г.OpenAI обещава 1 милиард долара в достъп до кибер моделите си за водата, тока и общинитеНа 3 септември OpenAI обяви Daybreak for Frontline Defenders: 1 милиард долара субсидиран достъп до кибер моделите Daybreak, обучение и поддръжка, с цел да бъде изразходван през следващите шест месеца. Приоритет са водоснабдяването, електромрежите, местните власти, регионалните банки, неправителствените организации и поддържащите отворен код. Започва се от САЩ.КонтролOpenAI · 1 септември 2026 г.OpenAI вече смята, че Astra може сама да пробива добре защитени системи, и забави части от пускането ѝНа 1 септември OpenAI обяви, че следващият ѝ модел Astra достига прага Critical по киберсигурност - първият с такова обозначение. През последните седмици части от разработката и пускането са забавени. Най-силните кибер функции ще стигнат първо до малка група тестери.КонтролЕвропейска комисия · 31 август 2026 г.Брюксел обяви ChatGPT за много голяма търсачка, а Reddit и Roblox за много големи платформиНа 31 август Европейската комисия определи ChatGPT като много голяма онлайн търсачка по Акта за цифровите услуги. Трите услуги сами са декларирали поне 45 милиона потребители месечно в ЕС. До януари 2027 г. трябва да оценяват и намаляват системните рискове, включително за непълнолетните.КонтролAnthropic · 31 август 2026 г.Anthropic спря кибер тестовете, смени правилата и чак тогава ги пусна отновоНа 31 август Anthropic описа какво е променила след два случая, в които модели Claude стигат до истинския интернет: три инцидента, обявени на 30 юли, и един, докладван от британския AI Security Institute на 4 август. Изводът е неудобен за самата нея: една линия защита там, където трябваха няколко, плюс два проблема в поведението на модела.КонтролOpenAI · 31 август 2026 г.OpenAI подкрепи калифорнийския законопроект за децата и AI и похвали, че той пази отговорната употреба на паметта на ChatGPTНа 31 август OpenAI призова губернатора Нюсъм да подпише SB 1119 - законопроект за безопасността на непълнолетните в AI услугите. Списъкът с изисквания е сериозен. Интересното е къде компанията става най-конкретна в похвалите си.
60 материала

Другите раздели