xAI, de Elon Musk, processa usuário acusado de usar Grok para criar imagens de abuso sexual infantil

Rede Social X limita uso da inteligência artificial Grok para edição de imagens
A startup de inteligência artificial xAI, de Elon Musk, processou um homem da Carolina do Sul, nos Estados Unidos, preso no início deste ano sob acusação de explorar sexualmente menores de idade. Segundo a empresa, ele usou indevidamente o sistema de IA Grok para criar imagens de abuso sexual infantil.
Na ação, apresentada na terça-feira (14) em um tribunal federal do Texas, a xAI afirma que Terry Harwood violou os termos de uso da plataforma. O caso está entre os primeiros em que uma empresa de inteligência artificial processa um usuário por supostamente utilizar uma ferramenta de IA para gerar conteúdo sexualmente explícito.
Os contatos de Harwood, preso em fevereiro, não foram encontrados de imediato. A xAI também não respondeu imediatamente a um pedido de comentário feito pela imprensa nesta quarta-feira (15).
Grok é acusado de permitir deepfakes sem consentimento
O processo ocorre em meio ao aumento da pressão internacional sobre a empresa por acusações de que o Grok tem permitido a criação de deepfakes sexualizados sem consentimento - vídeos ou imagens altamente realistas produzidos por inteligência artificial.
Na ação judicial, a xAI afirma que combate esse tipo de uso com medidas como suspensão e encerramento de contas, além de comunicar casos suspeitos de material de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês).
Segundo a empresa, somente em 2026 foram 52.222 contas suspensas e 73.604 denúncias enviadas ao NCMEC, o que teria contribuído para pelo menos 244 prisões.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Criminoso usou fotos adulteradas
A xAI alega que Harwood enviou ao Grok imagens comuns de adultos e menores de idade e tentou usar a ferramenta para criar deepfakes sexualmente explícitos a partir delas. A empresa também afirma que ele produziu imagens sexuais falsas de adultos sem consentimento.
No processo, a xAI pede uma indenização, cujo valor não foi divulgado, e solicita que a Justiça proíba definitivamente Harwood de utilizar o Grok.
"A conduta do réu foi um plano deliberado para transformar a ferramenta da autora em um instrumento para fins criminosos, expondo vítimas reais a danos profundos e duradouros, além de causar riscos jurídicos e prejuízos à reputação da empresa", afirmou a xAI na ação. ...