Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores, que revelaram nesta quinta-feira (22) a magnitude do conteúdo explícito que causou indignação mundial.
Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como “vista-a com um biquíni” ou “tire a roupa dela”.
Uma enxurrada de imagens falsas hiper-realistas, conhecidas como ‘deepfakes’, inundou a internet, o que levou vários países a proibirem o Grok e despertou a fúria dos órgãos reguladores e das vítimas.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Foi vítima da “trend do biquini” no X? Veja o que fazer
“Estima-se que a ferramenta de IA Grok tenha gerado cerca de três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores, após o lançamento no X de uma nova função de edição de imagens”, disse o Centro de Combate ao Ódio Digital, um observatório que investiga os efeitos nocivos da desinformação na internet.
A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.
“Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual”, disse Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital.
Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Não houve comentários imediatos por parte do X sobre as conclusões. Ao ser contatada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automatizada: “Mentiras da mídia tradicional”.
Na semana passada, o X anunciou que bloqueará a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.
Países como Filipinas, Malásia e Indonésia proibiram essa ferramenta de IA, enquanto o Reino Unido e a França mantêm pressão sobre a empresa.
O procurador-geral da Califórnia iniciou um inquérito sobre a xAI por material sexualmente explícito, e vários países abriram suas próprias investigações.
Veja mais:
Musk diz que robôs da Tesla serão vendidos a partir de 2027 e que todos terão um humanoide no futuro
ChatGPT terá verificação de idade em meio a planos da OpenAI de liberar conteúdo adulto
O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores, que revelaram nesta quinta-feira (22) a magnitude do conteúdo explícito que causou indignação mundial.
Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como “vista-a com um biquíni” ou “tire a roupa dela”.
Uma enxurrada de imagens falsas hiper-realistas, conhecidas como ‘deepfakes’, inundou a internet, o que levou vários países a proibirem o Grok e despertou a fúria dos órgãos reguladores e das vítimas.
‘Sentimento horrível. Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok, IA de Musk
Foi vítima da “trend do biquini” no X? Veja o que fazer
“Estima-se que a ferramenta de IA Grok tenha gerado cerca de três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores, após o lançamento no X de uma nova função de edição de imagens”, disse o Centro de Combate ao Ódio Digital, um observatório que investiga os efeitos nocivos da desinformação na internet.
A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.
“Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual”, disse Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital.
Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Não houve comentários imediatos por parte do X sobre as conclusões. Ao ser contatada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automatizada: “Mentiras da mídia tradicional”.
Na semana passada, o X anunciou que bloqueará a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.
Países como Filipinas, Malásia e Indonésia proibiram essa ferramenta de IA, enquanto o Reino Unido e a França mantêm pressão sobre a empresa.
O procurador-geral da Califórnia iniciou um inquérito sobre a xAI por material sexualmente explícito, e vários países abriram suas próprias investigações.
Veja mais:
Musk diz que robôs da Tesla serão vendidos a partir de 2027 e que todos terão um humanoide no futuro
ChatGPT terá verificação de idade em meio a planos da OpenAI de liberar conteúdo adulto