Mulher acusa padrasto de utilizar o Grok para transformar fotos suas em imagens explícitas

Uma nova queixa judicial associa a ferramenta de inteligência artificial (IA) Grok, desenvolvida pela xAI de Elon Musk, à criação de milhares de imagens explícitas de uma menor de idade.

O impacto da IA
Uma mulher, identificada no processo como Jane Doe 4, juntou-se a uma ação judicial já em curso contra a empresa tecnológica de Elon Musk.
A queixosa afirma que o seu padrasto utilizou o gerador de imagens da xAI para manipular uma fotografia da sua infância, de quando tinha apenas 11 anos, resultando na produção de mais de sete mil conteúdos de teor sexual.
Este caso alarmante culminou ainda na trágica morte do progenitor, que se suicidou dois dias após as autoridades terem descoberto o material ilegal durante uma busca policial.
Perante este cenário de fácil acesso a tecnologias avançadas, a vítima alertou que estas ferramentas estão a transformar o quotidiano em verdadeiros cenários de abuso digital.
Falta de controlo no Grok da xAI
O processo judicial, inicialmente movido por três adolescentes do estado do Tennessee, acusa a xAI de negligência grave ao não implementar barreiras de segurança eficazes no Grok.
Os queixosos pretendem que a ação judicial ganhe o estatuto de ação coletiva, responsabilizando a empresa pela facilidade com que o software permite criar imagens íntimas não consensuais de pessoas reais, incluindo menores de idade.
Recorde-se que a rede social X enfrentou este ano uma vaga massiva de conteúdos gerados por IA com teor sexual, demonstrando a urgência de uma regulação mais rigorosa na indústria tecnológica.
 
Leia também: