Processo acusa xAI de treinar Grok com materiais de abuso infantil

Uma ação judicial acusa a xAI de treinar o modelo Grok com materiais de abuso sexual infantil (CSAM). A denúncia afirma que a autora, identificada como Jane Doe, foi vítima de abuso no início dos anos 2000 e que suas imagens foram posteriormente “hashadas” por organizações como o NCMEC e o CCCP.

Doe relata que recebeu alertas do sistema de notificação do Departamento de Justiça dos EUA e que, em um desses avisos, o CCCP teria identificado CSAM gerado por IA no xAI que a retratava. A queixa também sustenta que a empresa teria armazenado as imagens produzidas pelo Grok e usado esses outputs para treinar ainda mais o modelo, além de mencionar mensagens em fóruns de discussão entre criminosos sobre a criação de CSAM gerado por IA.