we_are_coded.by CODE · Светът, декодиран
EN

Понятие

Откриване на CSAM

OpenAI пусна класификатор, който засича потенциален CSAM, включително генериран от AI, и за пръв път носи отделен сигнал дали материалът може да е направен от машина. Дава се безплатно на проверени организации.

Обновено на 17 ноември 2026 г. · Проверено на 17 ноември 2026 г.

Досега засичането на материали със сексуална злоупотреба с деца (CSAM) стъпваше на едно нещо: съвпадение с вече известен файл. Генерираното изображение не съвпада с нищо, защото е ново всеки път. OpenAI пусна класификатор, който гледа самите визуални признаци на насилие, вместо да търси познато копие.

Класификаторът връща оценки, които подреждат кои изображения да се прегледат първо. Дава се безплатно на проверени организации през API-то на OpenAI. По думите на OpenAI това е първият класификатор за CSAM с широк достъп, който носи отделен сигнал дали материалът може да е генериран от AI.

Числата са на OpenAI и на партньорите ѝ, не независими. По данни на OpenAI новият класификатор би отбелязал 48% по-малко изображения при приблизително същия брой намерени злоупотреби, а отбелязаните от него били около два пъти по-вероятно да съдържат злоупотреба. По данни на fal проверяващи потвърдили 72% от сигналите с висока увереност като нов CSAM. По данни на invideo AI един на всеки четири отбелязани случая е довел до забрана на акаунт. По данни на SafetyKit класификаторът е засякъл 90% от случаите, а фалшивите положителни резултати при законно съдържание за възрастни са под 1%.

Екипите на OpenAI са го обучавали и оценявали с помощта на NCMEC, организацията с нестопанска цел, която управлява CyberTipline. Достъпът се иска през форма, а страницата не уточнява кои точно организации го получават.

Първоизточници

обявата на OpenAI

Визуалът е генериран код-арт, без чужди изображения.