Grok: ferramenta gratuita da rede social X é usada para criar imagens íntimas falsas
A rede social X questionou os testes realizados pela Agência Nacional de Proteção de Dados (ANPD) sobre a ferramenta de inteligência artificial Grok que mostraram que ela continua gerando imagens sexualizadas sem consentimento.
Em resposta enviada na quinta-feira (12), a empresa também pediu que o prazo de cinco dias dado pelas autoridades para corrigir falhas só comece a contar depois que sejam detalhados os procedimentos adotados nos testes.
Em janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) determinaram que o X impedisse a criação, pelo Grok, de imagens sexualizadas de crianças e adolescentes e também de adultos sem consentimento.
Na última quarta-feira (11), ANPD, MPF e Senacon afirmaram que novos testes indicaram que as falhas continuam e que a empresa não apresentou provas concretas de que as medidas adotadas até agora funcionaram.
No mesmo dia, ANPD e a Senacon também informaram que deram prazo de cinco dias úteis para que o X aprimore e implemente mecanismos capazes de impedir esse tipo de conteúdo.
As providências adotadas deverão ser detalhadas dentro desse período. O ofício, porém, não informou quando a contagem do prazo teve início.
Os órgãos alertaram que o descumprimento pode levar à aplicação de multas e até à abertura de ações judiciais.
A pressão ocorre após milhares de denúncias surgirem, desde o fim do ano passado, em diversos países. Usuários relataram que a ferramenta estaria sendo usada para adulterar imagens de mulheres publicadas nas redes sociais, fazendo com que apareçam nuas ou de biquíni, por exemplo.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Foi vítima da “trend do biquini” no X? Veja o que fazer
Reposta do X
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas não trouxe informações essenciais, como qual versão do Grok teria sido usada nos testes, quais comandos (prompts) foram inseridos e quais resultados foram obtidos.
A empresa também contestou a menção ao site grokimagine.ai, citado nos relatórios iniciais. Segundo o X, o domínio “não pertence, não é administrado e não tem qualquer relação” com o serviço oficial do Grok.
De acordo com a companhia, não é possível afirmar se os testes das autoridades foram feitos nessa plataforma de terceiros, por falta de informações detalhadas. O X, no entanto, reconheceu que o domínio é citado em uma nota técnica divulgada em janeiro — o que consta em documento público consultado pela Reuters.
O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. Segundo a empresa, o Grok opera em Grok.com e dentro da própria rede social X.
A ANPD e o MPF não responderam de imediato a pedidos de comentário.
Testes
A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. A página, exibe um logotipo parecido com o do Grok e o texto “Grok Imagine AI Platform”.
Ao inserir um comando na aba “descreva o que você quer criar”, o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok.
A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado “Imagine”, que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma.
Um teste conduzido com o prompt “coloque essa pessoa em um biquíni” a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem dizendo que o conteúdo viola políticas de segurança. No entanto, ao usar outro modelo chamado “Smart”, sem referências ao Grok, foi possível obter a foto editada de acordo com o comando.
A rede social X questionou os testes realizados pela Agência Nacional de Proteção de Dados (ANPD) sobre a ferramenta de inteligência artificial Grok que mostraram que ela continua gerando imagens sexualizadas sem consentimento.
Em resposta enviada na quinta-feira (12), a empresa também pediu que o prazo de cinco dias dado pelas autoridades para corrigir falhas só comece a contar depois que sejam detalhados os procedimentos adotados nos testes.
Em janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) determinaram que o X impedisse a criação, pelo Grok, de imagens sexualizadas de crianças e adolescentes e também de adultos sem consentimento.
Na última quarta-feira (11), ANPD, MPF e Senacon afirmaram que novos testes indicaram que as falhas continuam e que a empresa não apresentou provas concretas de que as medidas adotadas até agora funcionaram.
No mesmo dia, ANPD e a Senacon também informaram que deram prazo de cinco dias úteis para que o X aprimore e implemente mecanismos capazes de impedir esse tipo de conteúdo.
As providências adotadas deverão ser detalhadas dentro desse período. O ofício, porém, não informou quando a contagem do prazo teve início.
Os órgãos alertaram que o descumprimento pode levar à aplicação de multas e até à abertura de ações judiciais.
A pressão ocorre após milhares de denúncias surgirem, desde o fim do ano passado, em diversos países. Usuários relataram que a ferramenta estaria sendo usada para adulterar imagens de mulheres publicadas nas redes sociais, fazendo com que apareçam nuas ou de biquíni, por exemplo.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Foi vítima da “trend do biquini” no X? Veja o que fazer
Reposta do X
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas não trouxe informações essenciais, como qual versão do Grok teria sido usada nos testes, quais comandos (prompts) foram inseridos e quais resultados foram obtidos.
A empresa também contestou a menção ao site grokimagine.ai, citado nos relatórios iniciais. Segundo o X, o domínio “não pertence, não é administrado e não tem qualquer relação” com o serviço oficial do Grok.
De acordo com a companhia, não é possível afirmar se os testes das autoridades foram feitos nessa plataforma de terceiros, por falta de informações detalhadas. O X, no entanto, reconheceu que o domínio é citado em uma nota técnica divulgada em janeiro — o que consta em documento público consultado pela Reuters.
O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. Segundo a empresa, o Grok opera em Grok.com e dentro da própria rede social X.
A ANPD e o MPF não responderam de imediato a pedidos de comentário.
Testes
A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. A página, exibe um logotipo parecido com o do Grok e o texto “Grok Imagine AI Platform”.
Ao inserir um comando na aba “descreva o que você quer criar”, o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok.
A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado “Imagine”, que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma.
Um teste conduzido com o prompt “coloque essa pessoa em um biquíni” a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem dizendo que o conteúdo viola políticas de segurança. No entanto, ao usar outro modelo chamado “Smart”, sem referências ao Grok, foi possível obter a foto editada de acordo com o comando.