Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
Autoridades brasileiras recomendaram que a rede social X impeça o uso do Grok, ferramenta de inteligência artificial da empresa, para a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.
A recomendação, divulgada nesta terça-feira (20), é assinada pelo Ministério Público Federal (MPF), pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública.
O documento foi expedido após denúncias de geração de conteúdos eróticos por parte de usuários da plataforma de Musk.
As recomendações incluem a implementação imediata de medidas para impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio “que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização”, disse o MPF.
Em caso de descumprimento das recomendações, ou de implementação aquém do necessário para reduzir os riscos identificados, “outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”, disse o MPF.
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
Idec considera medida insuficiente
O Instituto de Defesa de Consumidores (Idec), que apresentou a denúncia sobre o Grok, considerou as recomendações insuficientes.
Em nota, a entidade afirmou que “o trio de órgãos optou por uma abordagem meramente burocrática, limitando-se a fazer recomendações à empresa enquanto a ferramenta continua operando normalmente”.
“A decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco”, disse o Idec na nota.
Autoridades brasileiras recomendaram que a rede social X impeça o uso do Grok, ferramenta de inteligência artificial da empresa, para a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.
A recomendação, divulgada nesta terça-feira (20), é assinada pelo Ministério Público Federal (MPF), pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública.
O documento foi expedido após denúncias de geração de conteúdos eróticos por parte de usuários da plataforma de Musk.
As recomendações incluem a implementação imediata de medidas para impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio “que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização”, disse o MPF.
Em caso de descumprimento das recomendações, ou de implementação aquém do necessário para reduzir os riscos identificados, “outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”, disse o MPF.
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
Idec considera medida insuficiente
O Instituto de Defesa de Consumidores (Idec), que apresentou a denúncia sobre o Grok, considerou as recomendações insuficientes.
Em nota, a entidade afirmou que “o trio de órgãos optou por uma abordagem meramente burocrática, limitando-se a fazer recomendações à empresa enquanto a ferramenta continua operando normalmente”.
“A decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco”, disse o Idec na nota.