Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O Instituto de Defesa de Consumidores (Idec) pediu ao governo brasileiro nesta segunda-feira (12) a suspensão do Grok, IA do bilionário que vem sendo utilizada por usuários do X para gerar imagens falsas sexualizadas de mulheres e crianças.
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, disse o Idec.
Na última semana, o g1 relatou o caso de uma brasileira que teve uma foto de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Segundo o instituto, o Grok tem sido utilizado para difundir imagens sexualizadas não consentidas, inclusive menores de idade, “sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.”
Para o instituto, trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.
O Idec também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.
O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
O instituto ainda reforça a necessidade de que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (em construção pelo Comitê Intersetorial) e a regulação da inteligência artificial, especialmente no âmbito do PL nº 2338/2023, garantindo proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis.
O Instituto de Defesa de Consumidores (Idec) pediu ao governo brasileiro nesta segunda-feira (12) a suspensão do Grok, IA do bilionário que vem sendo utilizada por usuários do X para gerar imagens falsas sexualizadas de mulheres e crianças.
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, disse o Idec.
Na última semana, o g1 relatou o caso de uma brasileira que teve uma foto de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Segundo o instituto, o Grok tem sido utilizado para difundir imagens sexualizadas não consentidas, inclusive menores de idade, “sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.”
Para o instituto, trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.
O Idec também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.
O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
O instituto ainda reforça a necessidade de que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (em construção pelo Comitê Intersetorial) e a regulação da inteligência artificial, especialmente no âmbito do PL nº 2338/2023, garantindo proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis.