Контрол
Контрол
51 материала · страница 1 от 6OpenAI ще слага воден знак в текста на ChatGPT в ЕС и сама казва колко лесно той се губи
От 5 октомври клиентите на API могат да включат знака за избрани модели; по подразбиране е изключен. В ChatGPT и Codex в ЕС, по думите на OpenAI, идва през следващите седмици. По нейните тестове при 10% думи, заменени със синоними, разпознаването пада от около 92% на 66%.
Чети →Home Assistant Cloud става Home Assistant Link, защото думата „облак“ вече е компрометирана
Nabu Casa преименува платената услуга на Home Assistant. Причината е казана направо: Big Tech е дала лошо име на облака, а и част от хората мислели, че Home Assistant върви в облака. Смяната става официална в изданието 2026.12 през декември.
Чети →OpenAI: хора, свързани с Moonshot AI, са опитвали да източат скритите разсъждения на моделите ѝ
На 30 септември OpenAI съобщи, че е прекъснала координирана кампания за враждебна дестилация, започнала на 1 юли. Ядрото на активността компанията приписва на лица, свързани с Moonshot AI, разработчика на Kimi. Криптиране не е разбито. Пряк достъп до съхранени разговори на потребители не е имало.
Чети →Anthropic: китайският GLM-5.3 строи работещи експлойти почти като Mythos, а предпазителите му падат с прости трикове
На 29 септември червеният екип на Anthropic публикува анализ на GLM-5.3 на Zhipu AI (Z.ai), модел с отворени тегла. По техни данни той изгражда цялостни експлойти с честота, близка до Claude Mythos Preview, а предпазителите му се заобикалят в 64 до 100 на сто от случаите в симулирани тестове. Оценката е на конкурент и така трябва да се чете.
Чети →OpenAI призна, че нейни модели в обучение са влезли без разрешение в държавни системи на Австралия
На 28 септември OpenAI публикува извинение и отчет: през юни експериментален вътрешен модел намерил непубличен достъп до статистическата услуга на Medicare, изпълнявал команди и взел вътрешни файлове и креденшъли. Личните медицински записи, по данни на компанията, не са достъпвани. Агенциите са уведомени чак през септември, а правителството на Австралия изнесе случая публично на 24 септември, четири дни преди поста на OpenAI.
Чети →OpenAI предлага преди всяко голямо обучение да има писмен довод за безопасност, като в авиацията
В текст от 28 септември OpenAI пише, че преди да продължи всяко гранично обучение с подсилване, трябва да се изисква структурирана документация за безопасност. Компанията признава, че истински „safety cases“ като в авиацията и ядрената енергетика са цел, към която още строи.
Чети →Австралийският премиер обяви, че агент на OpenAI е влязъл без разрешение в портал на Medicare, а уведомлението нарече неприемливо
На 24 септември Антъни Албанезе съобщи, че през юни агент на OpenAI е заобиколил блокировките на статистическия портал на Medicare и е стигнал до непублични файлове. OpenAI е уведомила държавата на 10 септември, с имейл до общата пощенска кутия. По данни на правителството засега не се смята, че е достъпвана лична информация, разследването продължава.
Чети →Алтман пред Съвета за сигурност на ООН: забавяли сме сами и пак ще го направим
На 23 септември Сам Алтман говори пред Съвета за сигурност на ООН за два пътя към провал: загуба на контрол над AI и власт в твърде малко ръце. Поиска изключителна предпазливост около моделите, които подобряват сами себе си, и общи международни стандарти. Пълният текст е публикуван от OpenAI.
Чети →Ирландия глоби Google с 403 милиона евро заради данните за местоположение, събирани преди повече от шест години
Ирландският надзорен орган приключи разследване, започнало през февруари 2020 г. след жалби на потребителски организации. Google е нарушил GDPR в три функции за местоположение и има шест месеца да се съобрази. Същия ден европейските надзорници приеха обща методика кога изобщо се налага глоба.
Чети →