we_are_coded.by CODE · Светът, декодиран
EN

OpenAI · контрол

OpenAI пусна класификатор за CSAM с AI сигнал

OpenAI обяви на 16 ноември 2026 класификатор за изображения, който засича потенциален CSAM. Според OpenAI това е първият класификатор за CSAM с широк достъп, който носи отделен сигнал дали материалът може да е генериран от AI. Достъпът е безплатен за проверени организации през API-то на OpenAI.

Източник
OpenAI
Публикувано
Събитието
Проверено на
Отговорен редактор
Цветелин Иванов
Как работим
МетодКорекции

OpenAI пусна класификатор за CSAM. Според OpenAI това е първият класификатор за CSAM с широк достъп, който носи отделен сигнал дали материалът може да е генериран от AI. Дава се безплатно на проверени организации през API-то на OpenAI.

Факт

Фактите: на 16 ноември 2026 г. OpenAI обяви нов класификатор за изображения, който засича потенциален CSAM, включително материал, генериран от AI. Класификаторът търси визуални признаци на насилие и връща оценки, които помагат на проверяващите да решат кои изображения да прегледат първо. По думите на OpenAI това е първият класификатор за CSAM с широк достъп, който има отделен сигнал дали материалът може да е генериран от AI. Екипите на OpenAI са го обучавали и оценявали с помощта на National Center for Missing and Exploited Children (NCMEC), организацията с нестопанска цел, която управлява CyberTipline. Достъпът се дава на проверени организации през OpenAI API безплатно. По данни на OpenAI в оценка на качени от потребители изображения новият класификатор би отбелязал 48% по-малко изображения, докато намира приблизително същия брой злоупотребяващи изображения като досегашния инструмент, а отбелязаните от него изображения били около два пъти по-вероятно да съдържат злоупотреба. По данни на fal проверяващи потвърдили 72% от сигналите с висока увереност като нов CSAM. По данни на invideo AI един на всеки четири отбелязани случая е довел до забрана на акаунт. По данни на SafetyKit класификаторът е засякъл 90% от случаите, а фалшивите положителни резултати при законно съдържание за възрастни са под 1%. OpenAI пише, че наскоро е започнала да участва в програмата Lantern на Tech Coalition.

Новото е отделният сигнал. Досега засичането стъпваше на познатото: съвпадение с вече известен материал. Генерираното изображение не съвпада с нищо, защото е ново всеки път. По думите на SafetyKit класификаторът хваща точно такъв неизвестен CSAM, който съвпадението по хеш пропуска.

Досега инструментите търсеха познатото. Този търси и онова, което никой още не е виждал.

Числата са на OpenAI и на партньорите ѝ. Според OpenAI новият класификатор би отбелязал 48% по-малко изображения при приблизително същия брой намерени злоупотреби. Според fal проверяващи потвърдили 72% от сигналите с висока увереност като нов CSAM. Според SafetyKit класификаторът е засякъл 90% от случаите, а фалшивите положителни резултати при законно съдържание за възрастни са под 1%. Всяко от тях идва от тестове, които те са провели, и на страницата няма независима проверка.

Достъпът се иска през форма на OpenAI. Според OpenAI достъпът се дава на проверени организации, но страницата не уточнява кои точно.

Визуалът към статията е генериран код-арт, без чужди изображения.