xAI обвинили в обучении Grok на детской порнографии: иск требует стереть её из модели

Иск переводит спор о модерации в спор об устройстве данных. Пост удаляется за секунду, а его влияние внутри обученной модели штатно не вынимается.

Хеш-лист NCMEC работает как картотека отпечатков известных запрещённых снимков, по ней площадки ловят их автоматически. Canadian Centre for Child Protection нашёл на площадке xAI уже сгенерированный материал с изображением истицы.

Правила по умолчанию. По правилам xAI публичные посты в X и сами ответы Grok годятся для дообучения. Насильственный контент компания публично называет исключением при отборе данных, а запрещённый материал с детьми, интимные снимки без согласия и порнографию отдельными категориями не называет.

Замер по ленте. Center for Countering Digital Hate считал публикации Grok в X с 29 декабря 2025 по 8 января 2026. За 11 дней модель выложила больше 3 млн сексуализированных изображений, свыше 23 000 из них предположительно с детьми. Непубличный объём не мерил никто.

Раньше картинки в Grok генерировали все желающие. После той волны xAI не выключила генератор, а увела его в платные подписки X Premium+ и SuperGrok.

Иск идёт по «Masha's Law», которая даёт потерпевшему фиксированные 150 000 долларов. Класс заявлен минимум на 100 человек, сумма спора превышает 5 млн долларов, и отдельно истица требует уничтожить материал вместе со следами в обучающих данных.

Это второй фронт. Первый коллективный иск подан в тот же суд в марте 2026 и расширен 7 июля, соответчиком тогда стала Stability AI из-за открытых весов Stable Diffusion.