Logo da Meta.
Daniel Cole/Reuters
Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, apresentada esta semana junto com o seu modelo de geração de imagens Muse Image, não conseguiu identificar algumas das próprias imagens criadas pela tecnologia após elas serem recortadas, segundo uma análise da Reuters.
A conclusão evidencia os desafios para verificar imagens geradas por IA após edições comuns, uma limitação que pode dificultar a identificação de deepfakes na internet durante um período eleitoral intenso nos Estados Unidos.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
Em uma análise de 40 imagens geradas com o Muse Image, a Reuters constatou que a ferramenta identificou corretamente todas as versões originais criadas por IA. No entanto, ela deixou de reconhecer 55% dessas imagens após serem recortadas para cerca de um terço ou metade do tamanho original.
Em seu site, a Meta afirma que a versão preliminar da ferramenta pode identificar imagens geradas por seus modelos de IA mesmo após recortes, graças a um sistema de marca d’água invisível chamado Content Seal, incorporado a todas as imagens produzidas pelo Muse Image.
Agora no g1
O recurso foi desenvolvido para ajudar usuários a verificar se uma imagem foi criada pela inteligência artificial da empresa.
Questionada sobre os resultados da análise da Reuters, a Meta ressaltou que a ferramenta ainda está em fase de pré-visualização. A empresa afirmou que a marca d’água foi projetada para resistir a edições comuns, mas que o sinal pode ser perdido quando uma imagem passa por recortes mais severos.
As concorrentes Google e OpenAI também já alertaram que suas ferramentas de detecção não são capazes de identificar todas as formas de manipulação de imagens.
Em março, o Conselho de Supervisão da Meta — órgão independente formado por especialistas que toma decisões vinculantes e faz recomendações sobre conteúdo nas plataformas da empresa — pediu que a companhia ampliasse seus esforços para combater a “proliferação de conteúdo enganoso gerado por IA”. O grupo também defendeu investimentos em ferramentas de detecção mais robustas.
Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo e pesquisador da área de análise forense de imagens geradas por IA, afirmou que não havia avaliado a ferramenta da Meta, mas destacou que sistemas baseados em marcas d’água apresentam limitações.
“Métodos baseados em marcas d’água podem ser altamente eficazes quando o sinal permanece intacto. No entanto, qualquer modificação que o remova ou enfraqueça — como recortes, redimensionamento, compressão intensa ou outras edições — pode reduzir sua eficácia, dependendo de como a marca d’água foi desenvolvida”, disse Lyu.
Sarah Barrington, pesquisadora de IA e doutoranda da Escola de Informação da Universidade da Califórnia em Berkeley (UC Berkeley), afirmou que a tecnologia de marca d’água é promissora para o futuro do conteúdo gerado por inteligência artificial, embora tenha limitações.
“Assim como muitas medidas de segurança digital ou física, essa tecnologia pode não ser totalmente infalível. Ainda assim, mesmo que permita detectar apenas 90% dos casos, isso já representa um avanço significativo em relação a não haver nenhum mecanismo de identificação”, disse ela.
Daniel Cole/Reuters
Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, apresentada esta semana junto com o seu modelo de geração de imagens Muse Image, não conseguiu identificar algumas das próprias imagens criadas pela tecnologia após elas serem recortadas, segundo uma análise da Reuters.
A conclusão evidencia os desafios para verificar imagens geradas por IA após edições comuns, uma limitação que pode dificultar a identificação de deepfakes na internet durante um período eleitoral intenso nos Estados Unidos.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
Em uma análise de 40 imagens geradas com o Muse Image, a Reuters constatou que a ferramenta identificou corretamente todas as versões originais criadas por IA. No entanto, ela deixou de reconhecer 55% dessas imagens após serem recortadas para cerca de um terço ou metade do tamanho original.
Em seu site, a Meta afirma que a versão preliminar da ferramenta pode identificar imagens geradas por seus modelos de IA mesmo após recortes, graças a um sistema de marca d’água invisível chamado Content Seal, incorporado a todas as imagens produzidas pelo Muse Image.
Agora no g1
O recurso foi desenvolvido para ajudar usuários a verificar se uma imagem foi criada pela inteligência artificial da empresa.
Questionada sobre os resultados da análise da Reuters, a Meta ressaltou que a ferramenta ainda está em fase de pré-visualização. A empresa afirmou que a marca d’água foi projetada para resistir a edições comuns, mas que o sinal pode ser perdido quando uma imagem passa por recortes mais severos.
As concorrentes Google e OpenAI também já alertaram que suas ferramentas de detecção não são capazes de identificar todas as formas de manipulação de imagens.
Em março, o Conselho de Supervisão da Meta — órgão independente formado por especialistas que toma decisões vinculantes e faz recomendações sobre conteúdo nas plataformas da empresa — pediu que a companhia ampliasse seus esforços para combater a “proliferação de conteúdo enganoso gerado por IA”. O grupo também defendeu investimentos em ferramentas de detecção mais robustas.
Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo e pesquisador da área de análise forense de imagens geradas por IA, afirmou que não havia avaliado a ferramenta da Meta, mas destacou que sistemas baseados em marcas d’água apresentam limitações.
“Métodos baseados em marcas d’água podem ser altamente eficazes quando o sinal permanece intacto. No entanto, qualquer modificação que o remova ou enfraqueça — como recortes, redimensionamento, compressão intensa ou outras edições — pode reduzir sua eficácia, dependendo de como a marca d’água foi desenvolvida”, disse Lyu.
Sarah Barrington, pesquisadora de IA e doutoranda da Escola de Informação da Universidade da Califórnia em Berkeley (UC Berkeley), afirmou que a tecnologia de marca d’água é promissora para o futuro do conteúdo gerado por inteligência artificial, embora tenha limitações.
“Assim como muitas medidas de segurança digital ou física, essa tecnologia pode não ser totalmente infalível. Ainda assim, mesmo que permita detectar apenas 90% dos casos, isso já representa um avanço significativo em relação a não haver nenhum mecanismo de identificação”, disse ela.