Grok: ferramenta gratuita da rede social X é usada para criar imagens íntimas falsas
Três adolescentes entraram nesta segunda-feira (17) com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial (IA) de Elon Musk, após acusarem seu chatbot de gerar imagens pornográficas delas a partir de fotos reais, anunciaram suas advogadas.
A ação está relacionada à proliferação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A publicação dessas imagens em redes sociais provocou uma onda de indignação mundial e levou a investigações em vários países e no estado americano da Califórnia.
O processo cita o caso de uma pessoa, já detida, que usou o chatbot Grok para transformar fotos comuns das jovens, retiradas de redes sociais ou outras fontes, em imagens hiper-realistas sexualizadas.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
As montagens circularam no X, Discord e Telegram, e depois migraram para a dark web como moeda de troca para outros conteúdos de pornografia infantil, diz a ação, movida em um tribunal federal de San José.
“Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível”, descreveu em comunicado a mãe de uma das adolescentes, do estado do Tennessee.
Uma das autoras da ação tem pesadelos recorrentes, e outra precisa de remédios para dormir e tem medo de comparecer à própria cerimônia de formatura.
A xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar as proteções usadas por outros grandes atores da IA contra a pornografia infantil, denunciaram as advogadas.
Segundo um estudo do Center for Countering Digital Hate, o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, das quais 23.000 representavam menores de idade. Em resposta ao escândalo, a xAI restringiu em janeiro exclusivamente aos assinantes a geração de imagens pelo Grok.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Três adolescentes entraram nesta segunda-feira (17) com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial (IA) de Elon Musk, após acusarem seu chatbot de gerar imagens pornográficas delas a partir de fotos reais, anunciaram suas advogadas.
A ação está relacionada à proliferação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A publicação dessas imagens em redes sociais provocou uma onda de indignação mundial e levou a investigações em vários países e no estado americano da Califórnia.
O processo cita o caso de uma pessoa, já detida, que usou o chatbot Grok para transformar fotos comuns das jovens, retiradas de redes sociais ou outras fontes, em imagens hiper-realistas sexualizadas.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
As montagens circularam no X, Discord e Telegram, e depois migraram para a dark web como moeda de troca para outros conteúdos de pornografia infantil, diz a ação, movida em um tribunal federal de San José.
“Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível”, descreveu em comunicado a mãe de uma das adolescentes, do estado do Tennessee.
Uma das autoras da ação tem pesadelos recorrentes, e outra precisa de remédios para dormir e tem medo de comparecer à própria cerimônia de formatura.
A xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar as proteções usadas por outros grandes atores da IA contra a pornografia infantil, denunciaram as advogadas.
Segundo um estudo do Center for Countering Digital Hate, o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, das quais 23.000 representavam menores de idade. Em resposta ao escândalo, a xAI restringiu em janeiro exclusivamente aos assinantes a geração de imagens pelo Grok.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration