Mudança de papéis! xAI processa judicialmente utilizador do Grok por gerar deepfakes sexuais

A tecnológica xAI avançou com uma ação judicial histórica contra um utilizador que recorreu ao Grok para gerar imagens e vídeos de cariz sexual, incluindo de menores, contornando os filtros de segurança da inteligência artificial (IA).

Um inverter de papéis nunca antes visto
A xAI, empresa responsável pelo desenvolvimento do Grok, interpôs um processo judicial no Texas contra Terry Wayne Harwood, um cidadão de 67 anos residente na Carolina do Sul. A empresa acusa o réu de utilizar a sua plataforma de IA para converter fotografias legítimas de adultos e crianças em conteúdos pornográficos explícitos sem qualquer consentimento.
Segundo a queixa apresentada, Harwood terá carregado diversas imagens nas suas duas contas do Grok, entre dezembro de 2025 e fevereiro de 2026, com o objetivo de as manipular digitalmente para fins sexuais.
Apesar de o Grok ter rejeitado as instruções iniciais do utilizador em diversas ocasiões, o documento do tribunal revela que Harwood insistiu na alteração dos comandos de forma a contornar as barreiras de proteção do sistema.
Num dos episódios mais graves descritos pela xAI, o arguido submeteu a foto de uma criança de cerca de dez anos, totalmente vestida, ordenando à IA que removesse a roupa e a colocasse numa pose de cariz altamente sexualizado.
Mesmo perante as recusas do sistema, a insistência na reformulação das ordens permitiu contornar os filtros. Esta ação legal representa um marco na indústria, sendo um dos primeiros casos em que uma empresa de IA processa diretamente um dos seus clientes pela má utilização da tecnologia.
Grok da xAI já se encontrava sob forte escrutínio público e político
No início de janeiro, começaram a surgir relatos de que a ferramenta permitia a criação de imagens íntimas falsas de mulheres e crianças. Esta situação alertou de imediato diversas entidades reguladoras globais.
Organismos como o regulador britânico Ofcom, a Comissão Europeia, a Comissão de Proteção de Dados da Irlanda e as autoridades da Califórnia iniciaram investigações formais sobre as falhas de segurança da xAI.
Embora a empresa tenha implementado restrições adicionais para travar estas práticas abusivas, algumas vulnerabilidades persistiram, permitindo ainda a manipulação de imagens masculinas e a continuidade das atividades ilícitas de Harwood.
A atividade criminosa do utilizador culminou na sua detenção a 9 de março, numa operação coordenada pela equipa especial de combate a crimes contra crianças na Internet da Carolina do Sul. Harwood enfrenta agora múltiplas acusações graves de exploração sexual de menores em segundo e terceiro grau, decorrentes não só da produção de material abusivo, mas também da sua distribuição em plataformas digitais.
 
Leia também: