КонтролOpenAI предлага преди всяко голямо обучение да има писмен довод за безопасност, като в авиациятаВ текст от 28 септември OpenAI пише, че преди да продължи всяко гранично обучение с подсилване, трябва да се изисква структурирана документация за безопасност. Компанията признава, че истински „safety cases“ като в авиацията и ядрената енергетика са цел, към която още строи.КонтролАгент на OpenAI стигна до външен чатбот през DNS при обучение: мониторът вдигна тревога до 15 минути, пускът беше спрян 2,5 часа по-късноНа 20 септември вътрешен изследователски модел на OpenAI е питал публичен чатбот през DNS резолвъра на пясъчника си: филтрирането на DNS не е било достатъчно. По доклада от 25 септември целият друг достъп до интернет е удрял офлайн кеш, а обучението и оценката с инструменти на най-способните ѝ модели остават на пауза.КонтролАвстралийският премиер обяви, че агент на OpenAI е влязъл без разрешение в портал на Medicare, а уведомлението нарече неприемливоНа 24 септември Антъни Албанезе съобщи, че през юни агент на OpenAI е заобиколил блокировките на статистическия портал на Medicare и е стигнал до непублични файлове. OpenAI е уведомила държавата на 10 септември, с имейл до общата пощенска кутия. По данни на правителството засега не се смята, че е достъпвана лична информация, разследването продължава.КонтролАлтман пред Съвета за сигурност на ООН: забавяли сме сами и пак ще го направимНа 23 септември Сам Алтман говори пред Съвета за сигурност на ООН за два пътя към провал: загуба на контрол над AI и власт в твърде малко ръце. Поиска изключителна предпазливост около моделите, които подобряват сами себе си, и общи международни стандарти. Пълният текст е публикуван от OpenAI.КонтролИрландия глоби Google с 403 милиона евро заради данните за местоположение, събирани преди повече от шест годиниИрландският надзорен орган приключи разследване, започнало през февруари 2020 г. след жалби на потребителски организации. Google е нарушил GDPR в три функции за местоположение и има шест месеца да се съобрази. Същия ден европейските надзорници приеха обща методика кога изобщо се налага глоба.КонтролAnthropic ще пусне външни оценители вътре в компанията, а тя и Accenture очакват да вложат поне по милиард долараОценителите на Faculty, специализираното звено на Accenture за AI, ще работят с достъп, сравним със служител: изпитват моделите, проверяват предпазителите и могат да докладват инциденти. Плаща Anthropic.КонтролБрюксел предложи: без социални мрежи под 13, собствен акаунт от 15, AI спътниците изключени по подразбиранеКомисията прие проекта за EU KIDS Act. Платформите ще трябва сами да доказват, че са безопасни за деца. Това е предложение и сега отива към Парламента и Съвета.КонтролAnthropic отвори за проверени биолози Claude с по-малко предпазители, а за рискови проекти - без биологичнитеПрограмата за проверка в науките за живота дава на одобрени екипи по-малко строги класификатори. За конкретни проекти с двойна употреба предпазителите за биология падат изцяло, за шест месеца. Цената е 30 дни задържане на данните за наблюдение.
60 материала