xAI processa homem por uso do Grok para abuso sexual infantil

A xAI pede indenização em valor não especificado e uma ordem judicial para impedir permanentemente que Harwood volte a usar o Grok. No documento, a empresa afirma que as ações do acusado foram “um esquema calculado” para usar a ferramenta “para fins criminosos”, o que, segundo a xAI, expôs vítimas a danos “profundos e duradouros” e trouxe risco legal e reputacional à companhia.

A empresa afirma que aplica punições internas e faz comunicações a autoridades quando identifica suspeitas de crimes envolvendo crianças. No texto do processo, a xAI diz que “aplica suas regras contra infratores por meio de suspensões e encerramentos de contas e ao relatar suspeitas de material de abuso sexual infantil ao Centro Nacional de Crianças Desaparecidas e Exploradas”.

Pressão sobre o Grok e cobrança no Brasil

A ação judicial ocorre em meio a críticas e investigações sobre o uso do Grok para gerar imagens sexualizadas de pessoas reais sem consentimento. A xAI tem sido alvo de escrutínio internacional por denúncias de que a ferramenta permitiu a criação de deepfakes sexualizados não consensuais.

No Brasil, órgãos do governo federal exigiram no início deste ano que o X removesse imagens sexuais geradas com o Grok. A determinação citava conteúdos que “trocavam as roupaa das pessoas por peças íntimas” e veio acompanhada de recomendações para interromper a geração de conteúdos sintéticos sexualizados envolvendo crianças, adolescentes e adultos.

As recomendações foram feitas de forma conjunta pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon). O governo também indicou a possibilidade de sanções administrativas e medidas judiciais caso as mudanças não fossem implementadas ou se fossem consideradas insuficientes.