Brasileir5a tem foto manipulada com o Grok para aparecer de biquíni: ‘Me sinto suja’
A Comissão Europeia, braço executivo da União Europeia, ordenou que a rede social X, de Elon Musk, retenha todos os documentos internos e dados relacionados ao seu chatbot de IA, o Grok, até o fim de 2026.
A determinação ocorreu em meio às críticas que o Grok, uma ferramenta gratuita, vem sofrendo por permitir que usuários utilizem a IA para alterar fotos de outras pessoas, como mulheres e crianças, para exibir nudez ou pouca roupa.
Na segunda-feira, a Comissão Europeia disse que as imagens de mulheres e crianças despidas compartilhadas no X eram ilegais e horríveis.
Foi vítima da “trend do biquini” no X? Veja o que fazer
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
Agora, a Comissão decidiu estender uma ordem de retenção de documentos enviada ao X no ano passado, relacionada a algoritmos e à disseminação de conteúdo ilegal, segundo o porta-voz Thomas Regnier.
“Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos”, afirmou Regnier.
O porta-voz, no entanto, disse que a medida não equivale a uma nova investigação formal contra o X com base na Lei de Serviços Digitais (DSA) da União Europeia.
Além da UE, reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Elon Musk por causa dessas imagens, segundo a agência AFP.
Entre os últimos dias 5 e 6, a IA do X criou 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez, reportou a agência Bloomberg, citando um levantamento feito pela pesquisadora de mídias sociais e deepfakes Genevieve Oh.
Casos no Brasil
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
No Brasil, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que teve fotos manipuladas pela mesma ferramenta, no último dia 2.
Ela postou uma imagem deitada na cama com sua gata na noite de 31 de dezembro e, quando acordou, no dia seguinte, descobriu que a foto tinha sido manipulada diversas vezes e postada como se ela estivesse nua e com trajes sensuais.
No mesmo dia em que Julie fez a denúncia à polícia do Rio de Janeiro, o Grok afirmou que iria corrigir, com urgência, “falhas nos mecanismos de proteção” que levaram à geração de imagens sexualizadas de crianças usando “roupas mínimas”.
O g1 também encontrou outra vítima brasileira de um usuário que editou uma imagem sua com o Grok. Ela descobriu a manipulação após contato da reportagem.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse a vítima, na última segunda (7), ao ser informada pelo g1 que uma foto sua de biquíni estava no X. “Na foto original, do meu story, eu estava de calça.”
Sob críticas por imagens sexualizadas, empresa de IA de Musk arrecada US$ 20 bi
Vítima teve sua foto modificada no Grok por usuário do X
Reprodução/Redes sociais.
Prática é considerada crime
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis — inclusive de quem apenas replica o conteúdo, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Veja o que diz o Código Penal:
Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes: Pena – detenção, de 6 (seis) meses a 1 (um) ano, e multa.
A advogada ainda lembra que, desde o ano passado, com a Lei nº 15.123/2025, o Código Penal passou a abordar explicitamente o uso de inteligência artificial em casos de dano emocional à mulher. A pena prevista é de prisão de seis meses a dois anos, além de multa.
A advogada explica que, no entendimento do Direito brasileiro, quem faz o “prompt”, ou seja, o pedido à IA, é considerado o autor direto do crime, já que usa a ferramenta como meio para cometer injúria ou violar a intimidade da vítima.
Segundo a especialista, quem compartilha esse tipo de conteúdo também comete crime. “O ato de replicar conteúdo íntimo falso é tão grave quanto o de criá-lo, porque amplia o dano à vítima”, afirma.
Conta X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Também foi vítima? Veja o que fazer
Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
A Comissão Europeia, braço executivo da União Europeia, ordenou que a rede social X, de Elon Musk, retenha todos os documentos internos e dados relacionados ao seu chatbot de IA, o Grok, até o fim de 2026.
A determinação ocorreu em meio às críticas que o Grok, uma ferramenta gratuita, vem sofrendo por permitir que usuários utilizem a IA para alterar fotos de outras pessoas, como mulheres e crianças, para exibir nudez ou pouca roupa.
Na segunda-feira, a Comissão Europeia disse que as imagens de mulheres e crianças despidas compartilhadas no X eram ilegais e horríveis.
Foi vítima da “trend do biquini” no X? Veja o que fazer
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
Agora, a Comissão decidiu estender uma ordem de retenção de documentos enviada ao X no ano passado, relacionada a algoritmos e à disseminação de conteúdo ilegal, segundo o porta-voz Thomas Regnier.
“Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos”, afirmou Regnier.
O porta-voz, no entanto, disse que a medida não equivale a uma nova investigação formal contra o X com base na Lei de Serviços Digitais (DSA) da União Europeia.
Além da UE, reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Elon Musk por causa dessas imagens, segundo a agência AFP.
Entre os últimos dias 5 e 6, a IA do X criou 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez, reportou a agência Bloomberg, citando um levantamento feito pela pesquisadora de mídias sociais e deepfakes Genevieve Oh.
Casos no Brasil
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
No Brasil, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que teve fotos manipuladas pela mesma ferramenta, no último dia 2.
Ela postou uma imagem deitada na cama com sua gata na noite de 31 de dezembro e, quando acordou, no dia seguinte, descobriu que a foto tinha sido manipulada diversas vezes e postada como se ela estivesse nua e com trajes sensuais.
No mesmo dia em que Julie fez a denúncia à polícia do Rio de Janeiro, o Grok afirmou que iria corrigir, com urgência, “falhas nos mecanismos de proteção” que levaram à geração de imagens sexualizadas de crianças usando “roupas mínimas”.
O g1 também encontrou outra vítima brasileira de um usuário que editou uma imagem sua com o Grok. Ela descobriu a manipulação após contato da reportagem.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse a vítima, na última segunda (7), ao ser informada pelo g1 que uma foto sua de biquíni estava no X. “Na foto original, do meu story, eu estava de calça.”
Sob críticas por imagens sexualizadas, empresa de IA de Musk arrecada US$ 20 bi
Vítima teve sua foto modificada no Grok por usuário do X
Reprodução/Redes sociais.
Prática é considerada crime
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis — inclusive de quem apenas replica o conteúdo, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Veja o que diz o Código Penal:
Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes: Pena – detenção, de 6 (seis) meses a 1 (um) ano, e multa.
A advogada ainda lembra que, desde o ano passado, com a Lei nº 15.123/2025, o Código Penal passou a abordar explicitamente o uso de inteligência artificial em casos de dano emocional à mulher. A pena prevista é de prisão de seis meses a dois anos, além de multa.
A advogada explica que, no entendimento do Direito brasileiro, quem faz o “prompt”, ou seja, o pedido à IA, é considerado o autor direto do crime, já que usa a ferramenta como meio para cometer injúria ou violar a intimidade da vítima.
Segundo a especialista, quem compartilha esse tipo de conteúdo também comete crime. “O ato de replicar conteúdo íntimo falso é tão grave quanto o de criá-lo, porque amplia o dano à vítima”, afirma.
Conta X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Também foi vítima? Veja o que fazer
Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”