Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O Grok, inteligência artificial do X, de Elon Musk, passou a informar que a edição de imagens está restrita a assinantes do serviço. A mudança ocorre após a plataforma ser tomada por fotos manipuladas de mulheres reais com pouca roupa ou nudez, e de crianças com roupas íntimas.
Em buscas feitas pelo g1 no X, foram encontradas interações em que usuários pedem ao Grok alterações em imagens já publicadas por outras pessoas na plataforma.
Nesses casos, o Grok agora está respondendo: “A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos”. A mensagem vem acompanhada de um link para a página de assinatura.
‘Me sinto suja’, diz brasileira vítima de foto editada pelo Grok
Também foi vítima? Saiba o que fazer
Procurado, o X informou que está verificando a resposta da IA e que passará mais detalhes “assim que tiver alguma atualização”.
Interações do Grok com edição de imagem dentro do X
Reprodução/X
O g1 mostrou na quinta-feira (8) o caso de uma brasileira que teve fotos usadas no antigo Twitter para gerar imagens que simulavam nudez ou o uso de roupas íntimas.
Antes do caso dela, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que também teve fotos manipuladas pela mesma ferramenta, no último dia 2.
Em meio à onda de imagens manipuladas de mulheres, outras fotos publicadas no X, geradas a partir de comandos de usuários ao Grok, mostravam menores de idade usando roupas mínimas.
No dia 2, o Grok afirmou que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X.
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Musk por causa dessas imagens, apontou a agência de notícias France Presse. A Comissão Europeia ordenou que o X retenha todos os documentos internos e dados relacionados ao seu chatbot de IA até o fim de 2026.
‘Horrível. Me sinto suja’, diz vítima
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). “Na foto original, do meu story, eu estava de calça.”
A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como “@endricklamar__” repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.
O g1 identificou as manipulações ao buscar palavras-chave relacionadas ao tema na barra de pesquisa do X. A partir disso, foi possível localizar solicitações ao Grok feitas pela conta “@endricklamar__”, incluindo uma em que aparecia o @ de Giovanna*.
Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.
Conta no X vinha publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.
“Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni”, comparou.
“Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores”, completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.
No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta “??”. Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).
Perfil excluído logo após o contato do g1.
Reprodução/X
Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para “tomar ações não autorizadas em nome de terceiros”, “retratar imagens de pessoas de forma pornográfica” e para “a sexualização ou exploração de crianças”.
“Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida”, diz Patrícia Peck, advogada especialista em direito digital.
O g1 procurou o X, que respondeu com uma publicação que já existia em sua página de segurança. No post, a empresa afirma que “qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem enviar conteúdo ilegal” (leia a íntegra ao final da reportagem). O X não comentou a denúncia de Giovanna*.
Prática é crime; veja o que fazer se for vítima
No Brasil, esse tipo de conduta é considerado crime. O problema não está apenas no uso da imagem real, mas na criação de uma falsa situação de intimidade, explica Peck. Veja o que diz o Código Penal:
“A lei impõe remoção imediata mediante simples notificação da vítima, sem necessidade de ordem judicial, sob pena de responsabilidade civil do provedor [rede social]”, diz Ronaldo Lemos, advogado e diretor do Instituto Tecnologia e Sociedade do Rio de Janeiro (ITS-Rio).
Segundo ele, embora o Brasil ainda não tenha uma lei específica sobre deepfakes (quando imagens reais são alteradas por inteligência artificial), esse tipo de conduta pode se enquadrar nos crimes contra a honra previstos nos artigos 138, 139 e 140 do Código Penal.
➡️ Veja o que fazer caso você seja uma vítima:
Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
*Giovanna é nome fictício para preservar a identidade da vítima.
Crise da memória RAM pode deixar celulares, notebooks e até carros mais caros no Brasil
Mulher se casa com personagem criado no ChatGPT
Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O Grok, inteligência artificial do X, de Elon Musk, passou a informar que a edição de imagens está restrita a assinantes do serviço. A mudança ocorre após a plataforma ser tomada por fotos manipuladas de mulheres reais com pouca roupa ou nudez, e de crianças com roupas íntimas.
Em buscas feitas pelo g1 no X, foram encontradas interações em que usuários pedem ao Grok alterações em imagens já publicadas por outras pessoas na plataforma.
Nesses casos, o Grok agora está respondendo: “A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos”. A mensagem vem acompanhada de um link para a página de assinatura.
‘Me sinto suja’, diz brasileira vítima de foto editada pelo Grok
Também foi vítima? Saiba o que fazer
Procurado, o X informou que está verificando a resposta da IA e que passará mais detalhes “assim que tiver alguma atualização”.
Interações do Grok com edição de imagem dentro do X
Reprodução/X
O g1 mostrou na quinta-feira (8) o caso de uma brasileira que teve fotos usadas no antigo Twitter para gerar imagens que simulavam nudez ou o uso de roupas íntimas.
Antes do caso dela, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que também teve fotos manipuladas pela mesma ferramenta, no último dia 2.
Em meio à onda de imagens manipuladas de mulheres, outras fotos publicadas no X, geradas a partir de comandos de usuários ao Grok, mostravam menores de idade usando roupas mínimas.
No dia 2, o Grok afirmou que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X.
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Musk por causa dessas imagens, apontou a agência de notícias France Presse. A Comissão Europeia ordenou que o X retenha todos os documentos internos e dados relacionados ao seu chatbot de IA até o fim de 2026.
‘Horrível. Me sinto suja’, diz vítima
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). “Na foto original, do meu story, eu estava de calça.”
A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como “@endricklamar__” repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.
O g1 identificou as manipulações ao buscar palavras-chave relacionadas ao tema na barra de pesquisa do X. A partir disso, foi possível localizar solicitações ao Grok feitas pela conta “@endricklamar__”, incluindo uma em que aparecia o @ de Giovanna*.
Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.
Conta no X vinha publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas.
Reprodução/X
Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.
“Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni”, comparou.
“Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores”, completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.
No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta “??”. Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).
Perfil excluído logo após o contato do g1.
Reprodução/X
Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para “tomar ações não autorizadas em nome de terceiros”, “retratar imagens de pessoas de forma pornográfica” e para “a sexualização ou exploração de crianças”.
“Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida”, diz Patrícia Peck, advogada especialista em direito digital.
O g1 procurou o X, que respondeu com uma publicação que já existia em sua página de segurança. No post, a empresa afirma que “qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem enviar conteúdo ilegal” (leia a íntegra ao final da reportagem). O X não comentou a denúncia de Giovanna*.
Prática é crime; veja o que fazer se for vítima
No Brasil, esse tipo de conduta é considerado crime. O problema não está apenas no uso da imagem real, mas na criação de uma falsa situação de intimidade, explica Peck. Veja o que diz o Código Penal:
“A lei impõe remoção imediata mediante simples notificação da vítima, sem necessidade de ordem judicial, sob pena de responsabilidade civil do provedor [rede social]”, diz Ronaldo Lemos, advogado e diretor do Instituto Tecnologia e Sociedade do Rio de Janeiro (ITS-Rio).
Segundo ele, embora o Brasil ainda não tenha uma lei específica sobre deepfakes (quando imagens reais são alteradas por inteligência artificial), esse tipo de conduta pode se enquadrar nos crimes contra a honra previstos nos artigos 138, 139 e 140 do Código Penal.
➡️ Veja o que fazer caso você seja uma vítima:
Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
*Giovanna é nome fictício para preservar a identidade da vítima.
Crise da memória RAM pode deixar celulares, notebooks e até carros mais caros no Brasil
Mulher se casa com personagem criado no ChatGPT