Grok: ferramenta gratuita da rede social X é usada para criar imagens íntimas falsas
O governo considerou que o X não comprovou que agiu contra imagens eróticas geradas pela inteligência artificial Grok, que adultera fotos sem consentimento.
O caso é analisado pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon).
Desde o fim do ano passado surgiram milhares de denúncias em diversos países de que essa inteligência artificial atende a pedido de usuários adulterar imagens postadas por mulheres nas redes, a fim de que elas apareçam nuas ou de biquíni, por exemplo.
Ao menos duas brasileiras relatam ter sido vítimas desses deepfakes.
Redes viciam? Instagram se defende em julgamento histórico
A ANPD, o MPF e a Senacon já tinham recomendado, no último dia 20 de janeiro, que o X impedisse esse tipo de adulteração de imagem feito pelo Grok.
A rede social, que pertence ao bilionário Elon Musk, disse ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violações de suas políticas.
Mas a avaliação das autoridades brasileiras é que as informações apresentadas “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”.
Testes realizados pelas equipes técnicas dos órgãos indicaram que a rede social ainda permite gerar e compartilhar sem consentimento imagens sexualizadas ou erotizadas de crianças, adolescentes e adultos.
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
O MPF destacou que a empresa não foi transparente e ordenou que ela forneça relatórios mensais sobre sua atuação para evitar a produção dessas imagens.
A ANPD também determinou que o X enumere as providências tomadas para resolver o problema e apresente evidências que possam ser verificadas por autoridades.
Novo prazo
Agora, a ANPD e a Senacon determinaram que o X tem cinco dias úteis para aprimorar e implementar medidas para impedir que o Grok crie esse tipo de conteúdo. As providências tomadas deverão ser explicadas dentro desse prazo. O ofício não informou quando ele começou a contar.
Se a ordem não for cumprida, o X ficará sujeito a sanções mais rígidas, incluindo o pagamento de multas. Os envolvidos também poderão responder pelo crime de desobediência.
O MPF ainda poderá fazer investigações mais incisivas que levem a uma ação judicial para reparar eventuais danos causados com a criação das imagens.
Investigações na Europa
Os escritórios da rede social X na França foram alvo de buscas do Ministério Público de Paris e da polícia francesa no último dia 3, como parte de uma investigação preliminar que apura uma série de supostos crimes, como a disseminação de pornografia infantil e “deepfakes”.
A adulteração de imagens pela Grok também é alvo de investigação no Reino Unido e na União Europeia.
O Grok é desenvolvido pela xAI, a empresa de inteligência de Musk, que também é dona do X. No início do mês, o bilionário anunciou a fusão dessas empresas com a SpaceX, do ramo aeroespacial, que também pertence a ele. A medida deverá criar um negócio trilionário.
A SpaceX deve estrear na bolsa de Nova York ainda neste ano.
O governo considerou que o X não comprovou que agiu contra imagens eróticas geradas pela inteligência artificial Grok, que adultera fotos sem consentimento.
O caso é analisado pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon).
Desde o fim do ano passado surgiram milhares de denúncias em diversos países de que essa inteligência artificial atende a pedido de usuários adulterar imagens postadas por mulheres nas redes, a fim de que elas apareçam nuas ou de biquíni, por exemplo.
Ao menos duas brasileiras relatam ter sido vítimas desses deepfakes.
Redes viciam? Instagram se defende em julgamento histórico
A ANPD, o MPF e a Senacon já tinham recomendado, no último dia 20 de janeiro, que o X impedisse esse tipo de adulteração de imagem feito pelo Grok.
A rede social, que pertence ao bilionário Elon Musk, disse ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violações de suas políticas.
Mas a avaliação das autoridades brasileiras é que as informações apresentadas “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”.
Testes realizados pelas equipes técnicas dos órgãos indicaram que a rede social ainda permite gerar e compartilhar sem consentimento imagens sexualizadas ou erotizadas de crianças, adolescentes e adultos.
Interação no X para recriar imagem de mulher de biquíni usando o Grok
Reprodução/X
O MPF destacou que a empresa não foi transparente e ordenou que ela forneça relatórios mensais sobre sua atuação para evitar a produção dessas imagens.
A ANPD também determinou que o X enumere as providências tomadas para resolver o problema e apresente evidências que possam ser verificadas por autoridades.
Novo prazo
Agora, a ANPD e a Senacon determinaram que o X tem cinco dias úteis para aprimorar e implementar medidas para impedir que o Grok crie esse tipo de conteúdo. As providências tomadas deverão ser explicadas dentro desse prazo. O ofício não informou quando ele começou a contar.
Se a ordem não for cumprida, o X ficará sujeito a sanções mais rígidas, incluindo o pagamento de multas. Os envolvidos também poderão responder pelo crime de desobediência.
O MPF ainda poderá fazer investigações mais incisivas que levem a uma ação judicial para reparar eventuais danos causados com a criação das imagens.
Investigações na Europa
Os escritórios da rede social X na França foram alvo de buscas do Ministério Público de Paris e da polícia francesa no último dia 3, como parte de uma investigação preliminar que apura uma série de supostos crimes, como a disseminação de pornografia infantil e “deepfakes”.
A adulteração de imagens pela Grok também é alvo de investigação no Reino Unido e na União Europeia.
O Grok é desenvolvido pela xAI, a empresa de inteligência de Musk, que também é dona do X. No início do mês, o bilionário anunciou a fusão dessas empresas com a SpaceX, do ramo aeroespacial, que também pertence a ele. A medida deverá criar um negócio trilionário.
A SpaceX deve estrear na bolsa de Nova York ainda neste ano.