xAI заведе граждански иск срещу мъж от Южна Каролина, за когото твърди, че е отворил акаунти с фалшива самоличност и е конструирал заблуждаващи заявки, за да заобиколи защитите на Grok и да произведе сексуализирани изображения на непълнолетни. Компанията иска обезщетение и постоянна забрана за достъп.
- xAI (X.AI LLC) заведе граждански иск в US District Court, Северен окръг Тексас, срещу Terry Wayne Harwood.
- По твърдение на иска: множество акаунти с фалшива самоличност + заблуждаващи заявки, за да се заобиколят защитите на Grok.
- xAI иска парично обезщетение и постоянна забрана за достъп до продуктите си; твърденията не са доказани в съда.
Компаниите зад големите модели обикновено са ответник - съдят ГИ за това какво моделът е казал или показал. Тук ролите са разменени: xAI е ищецът, а на подсъдимата скамейка е потребител. Това прави случая интересен, независимо колко неприятна е темата.
Тук е границата - и тя минава не през модела, а през човека пред него. Защитите на Grok са казали 'не'; някой е седнал и е измислил как да ги заобиколи през фалшиви акаунти и хитро формулирани заявки. Технически защитата не е била безполезна - тя е вдигнала цената на злоупотребата, изисквала е усилие и измама. Юридически обаче тази цена досега падаше върху платформата. Тук компанията опитва да я върне на извършителя.
Няма защита в инструмента, която да е непробиваема, ако човекът отсреща е решен и действа умишлено. Затова следата не свършва в кода - продължава в това кой носи отговорност, когато защитата е била заобиколена нарочно. Мине ли този иск, той чертае линия, която досега беше размита.