Inteligência artificial pode ter decidido que você é um profissional ruim
Vídeos da Segunda Guerra Mundial ou gravações de câmeras de vigilância da catástrofe nuclear de Chernobyl: a inteligência artificial (IA) está sendo cada vez mais usada para criar imagens e vídeos históricos falsos.
Para o pesquisador de mídia Roland Meyer, essa tendência atende a uma necessidade: preencher lacunas em eventos históricos para os quais não existem imagens.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
“Parece ser possível, por meio da IA, recombinar imagens do passado para gerar imagens sintéticas que não existem, mas que talvez pudessem ter existido, e preencher assim supostas ou reais ‘lacunas’ nos arquivos e nos registros históricos”, comenta. “Isso me parece uma promessa enganosa.”
A equipe de checagem de fatos da DW mostra como identificar vídeos “históricos” criados por IA e como eles disseminam clichês e apelam às emoções.
Indícios de que a IA está envolvida
Se é verdade que muitos conteúdos gerados por IA são fáceis de identificar (por meio de marcas d’água, avisos em plataformas de redes sociais ou notas da comunidade no X), por outro lado as ferramentas de IA evoluem constantemente.
Os vídeos gerados por IA se tornam, assim, cada vez mais sofisticados, e as marcas d’água que indicam seu uso muitas vezes são removidas. Por isso, uma análise crítica das imagens continua sendo extremamente importante.
Neste vídeo gerado por IA, aparência da mulher é sensual e não corresponde ao visual típico das mulheres da Roma Antiga
TikTok/X/YouTube via DW
Alguns vídeos são obviamente fáceis de identificar, por retratarem eras muito anteriores à invenção de câmeras.
Um vídeo no TikTok , por exemplo, que retrata Pompeia antes, durante e depois da erupção do Vesúvio que destruiu a cidade está identificado no YouTube como conteúdo gerado por IA.
Quando o Vesúvio entrou em erupção, em 79 d.C., a cidade romana foi soterrada por cinzas vulcânicas e lava.
O vídeo apresenta características típicas da IA: as pessoas se movem como zumbis, e a aparência da protagonista não corresponde ao visual típico das mulheres da Roma Antiga.
Momentos icônicos
Outros vídeos, no entanto, tentam falsificar momentos que ocorreram em épocas em que registros de vídeo já eram mais comuns.
Um vídeo no X que supostamente mostra imagens de câmeras de vigilância da catástrofe nuclear de Chernobyl em 1986 também foi gerado por IA.
Embora não contenha marca d’água, ele foi identificado como conteúdo gerado por IA nas notas da comunidade publicadas logo abaixo do vídeo.
Este vídeo que supostamente mostra imagens de câmeras de vigilância de Chernobyl em 1986 também foi gerado por IA
X via DW
Outro exemplo é um vídeo do YouTube que foi produzido com a ferramenta de IA generativa Veo. A câmera se aproxima de um grupo de soldados que segura a bandeira dos Estados Unidos e mostra os rostos deles enquanto eles olham para o horizonte.
O vídeo é baseado na icônica fotografia do hasteamento da bandeira dos EUA na ilha japonesa de Iwo Jima.
A foto, tirada por Joe Rosenthal em 23 de fevereiro de 1945, tornou-se um símbolo marcante da vitória militar dos Estados Unidos sobre o Japão e uma das imagens mais conhecidas da Segunda Guerra Mundial.
A fotografia autêntica de Iwo Jima pode ser encontrada nos Arquivos Nacionais dos Estados Unidos. À época, a cena foi registrada por um cinegrafista, mas de forma estática, e não no ângulo mostrado pelo vídeo de IA.
A foto do hasteamento da bandeira dos EUA é autêntica, mas o vídeo não é
Youtube via DW
Apesar da falsificiação, a conta do YouTube que publicou o vídeo gerado por IA promete apresentar “histórias patrióticas”, além de “conteúdo informativo e de entretenimento que dá vida à história dos Estados Unidos”.
A IA está substituindo fontes reais?
O vídeo de Iwo Jima é baseado num acontecimento histórico, mas acrescenta detalhes e perspectivas que não foram documentados e apresenta tudo isso numa encenação de caráter patriótico.
Por isso, é útil examinar cuidadosamente as imagens e também quem as divulga. De onde vem a imagem? Quem a apresenta? Para quem? E com qual finalidade?
Muitos vídeos “históricos” gerados por IA, que afirmam mostrar o passado, situam-se numa zona intermediária entre fatos e entretenimento.
Eles podem, sem dúvida, despertar o interesse por acontecimentos históricos, mas especialistas alertam que esses vídeos conferem ao passado uma clareza e uma certeza que quase nunca existiram.
“Com cada interpretação de uma determinada cena são eliminadas outras possíveis interpretações e representações, que também existem”, diz o historiador Jürgen Zimmerer.
Por isso é importante que os espectadores reconheçam que estão diante de um vídeo “histórico” gerado por IA e vejam essa representação com o necessário distanciamento crítico.
Clichês e estereótipos
Imagens da Roma Antiga obviamente são fictícias, mas, no caso de imagens da Segunda Guerra Mundial, por exemplo, existe o risco de que uma grande quantidade de falsificações geradas por IA acabe substituindo documentos autênticos.
“Especialmente por essas imagens de IA serem adaptadas às nossas expectativas e aos nossos hábitos visuais”, observa o pesquisador Roland Meyer.
Os modelos de IA utilizam tanto fontes autênticas quanto imagens criadas. Nos conjuntos de dados usados para seu treinamento encontram-se fotografias históricas, mas também pinturas digitalizadas, cenas de filmes e imagens de videogames.
“As imagens do passado geradas pela IA reproduzem principalmente os padrões, clichês e estereótipos pelos quais esse passado costuma ser representado. São, acima de tudo, imagens das nossas expectativas: não uma janela para o passado, mas um espelho do nosso presente”, diz Meyer.
Essas criações de IA também levantam questões sobre responsabilidade. Diferentemente das reconstituições usadas em documentários, nos quais diretores ou produtores decidem conscientemente como representar o passado, as imagens dos vídeos de IA são geradas a partir de um grande volume de dados.
E a IA faz isso sem ter uma compreensão dos contextos históricos. “Ela produz algo que parece plausível, à primeira vista, não porque seja historicamente correto, mas porque corresponde às nossas expectativas”, explica Meyer.
Um bom uso da IA
O uso da IA para criar imagens “históricas” é, portanto, controverso. No entanto, há também exemplos em que representações produzidas por IA são desenvolvidas em colaboração com especialistas.
Em Pompeia, na Itália, arqueólogos utilizaram pela primeira vez inteligência artificial para reconstruir a aparência de uma vítima da erupção vulcânica de 79 d.C.
A representação baseia-se em descobertas arqueológicas e tenta aproximar a pesquisa científica do público leigo, tornando-a mais compreensível e visual, mas é entendida como uma reconstrução científica, e não como uma representação autêntica da pessoa retratada.
A inteligência artificial cria representações do passado que muitas vezes revelam mais sobre o presente do que sobre a história
TikTok/X/YouTube via DW
Vídeos da Segunda Guerra Mundial ou gravações de câmeras de vigilância da catástrofe nuclear de Chernobyl: a inteligência artificial (IA) está sendo cada vez mais usada para criar imagens e vídeos históricos falsos.
Para o pesquisador de mídia Roland Meyer, essa tendência atende a uma necessidade: preencher lacunas em eventos históricos para os quais não existem imagens.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
“Parece ser possível, por meio da IA, recombinar imagens do passado para gerar imagens sintéticas que não existem, mas que talvez pudessem ter existido, e preencher assim supostas ou reais ‘lacunas’ nos arquivos e nos registros históricos”, comenta. “Isso me parece uma promessa enganosa.”
A equipe de checagem de fatos da DW mostra como identificar vídeos “históricos” criados por IA e como eles disseminam clichês e apelam às emoções.
Indícios de que a IA está envolvida
Se é verdade que muitos conteúdos gerados por IA são fáceis de identificar (por meio de marcas d’água, avisos em plataformas de redes sociais ou notas da comunidade no X), por outro lado as ferramentas de IA evoluem constantemente.
Os vídeos gerados por IA se tornam, assim, cada vez mais sofisticados, e as marcas d’água que indicam seu uso muitas vezes são removidas. Por isso, uma análise crítica das imagens continua sendo extremamente importante.
Neste vídeo gerado por IA, aparência da mulher é sensual e não corresponde ao visual típico das mulheres da Roma Antiga
TikTok/X/YouTube via DW
Alguns vídeos são obviamente fáceis de identificar, por retratarem eras muito anteriores à invenção de câmeras.
Um vídeo no TikTok , por exemplo, que retrata Pompeia antes, durante e depois da erupção do Vesúvio que destruiu a cidade está identificado no YouTube como conteúdo gerado por IA.
Quando o Vesúvio entrou em erupção, em 79 d.C., a cidade romana foi soterrada por cinzas vulcânicas e lava.
O vídeo apresenta características típicas da IA: as pessoas se movem como zumbis, e a aparência da protagonista não corresponde ao visual típico das mulheres da Roma Antiga.
Momentos icônicos
Outros vídeos, no entanto, tentam falsificar momentos que ocorreram em épocas em que registros de vídeo já eram mais comuns.
Um vídeo no X que supostamente mostra imagens de câmeras de vigilância da catástrofe nuclear de Chernobyl em 1986 também foi gerado por IA.
Embora não contenha marca d’água, ele foi identificado como conteúdo gerado por IA nas notas da comunidade publicadas logo abaixo do vídeo.
Este vídeo que supostamente mostra imagens de câmeras de vigilância de Chernobyl em 1986 também foi gerado por IA
X via DW
Outro exemplo é um vídeo do YouTube que foi produzido com a ferramenta de IA generativa Veo. A câmera se aproxima de um grupo de soldados que segura a bandeira dos Estados Unidos e mostra os rostos deles enquanto eles olham para o horizonte.
O vídeo é baseado na icônica fotografia do hasteamento da bandeira dos EUA na ilha japonesa de Iwo Jima.
A foto, tirada por Joe Rosenthal em 23 de fevereiro de 1945, tornou-se um símbolo marcante da vitória militar dos Estados Unidos sobre o Japão e uma das imagens mais conhecidas da Segunda Guerra Mundial.
A fotografia autêntica de Iwo Jima pode ser encontrada nos Arquivos Nacionais dos Estados Unidos. À época, a cena foi registrada por um cinegrafista, mas de forma estática, e não no ângulo mostrado pelo vídeo de IA.
A foto do hasteamento da bandeira dos EUA é autêntica, mas o vídeo não é
Youtube via DW
Apesar da falsificiação, a conta do YouTube que publicou o vídeo gerado por IA promete apresentar “histórias patrióticas”, além de “conteúdo informativo e de entretenimento que dá vida à história dos Estados Unidos”.
A IA está substituindo fontes reais?
O vídeo de Iwo Jima é baseado num acontecimento histórico, mas acrescenta detalhes e perspectivas que não foram documentados e apresenta tudo isso numa encenação de caráter patriótico.
Por isso, é útil examinar cuidadosamente as imagens e também quem as divulga. De onde vem a imagem? Quem a apresenta? Para quem? E com qual finalidade?
Muitos vídeos “históricos” gerados por IA, que afirmam mostrar o passado, situam-se numa zona intermediária entre fatos e entretenimento.
Eles podem, sem dúvida, despertar o interesse por acontecimentos históricos, mas especialistas alertam que esses vídeos conferem ao passado uma clareza e uma certeza que quase nunca existiram.
“Com cada interpretação de uma determinada cena são eliminadas outras possíveis interpretações e representações, que também existem”, diz o historiador Jürgen Zimmerer.
Por isso é importante que os espectadores reconheçam que estão diante de um vídeo “histórico” gerado por IA e vejam essa representação com o necessário distanciamento crítico.
Clichês e estereótipos
Imagens da Roma Antiga obviamente são fictícias, mas, no caso de imagens da Segunda Guerra Mundial, por exemplo, existe o risco de que uma grande quantidade de falsificações geradas por IA acabe substituindo documentos autênticos.
“Especialmente por essas imagens de IA serem adaptadas às nossas expectativas e aos nossos hábitos visuais”, observa o pesquisador Roland Meyer.
Os modelos de IA utilizam tanto fontes autênticas quanto imagens criadas. Nos conjuntos de dados usados para seu treinamento encontram-se fotografias históricas, mas também pinturas digitalizadas, cenas de filmes e imagens de videogames.
“As imagens do passado geradas pela IA reproduzem principalmente os padrões, clichês e estereótipos pelos quais esse passado costuma ser representado. São, acima de tudo, imagens das nossas expectativas: não uma janela para o passado, mas um espelho do nosso presente”, diz Meyer.
Essas criações de IA também levantam questões sobre responsabilidade. Diferentemente das reconstituições usadas em documentários, nos quais diretores ou produtores decidem conscientemente como representar o passado, as imagens dos vídeos de IA são geradas a partir de um grande volume de dados.
E a IA faz isso sem ter uma compreensão dos contextos históricos. “Ela produz algo que parece plausível, à primeira vista, não porque seja historicamente correto, mas porque corresponde às nossas expectativas”, explica Meyer.
Um bom uso da IA
O uso da IA para criar imagens “históricas” é, portanto, controverso. No entanto, há também exemplos em que representações produzidas por IA são desenvolvidas em colaboração com especialistas.
Em Pompeia, na Itália, arqueólogos utilizaram pela primeira vez inteligência artificial para reconstruir a aparência de uma vítima da erupção vulcânica de 79 d.C.
A representação baseia-se em descobertas arqueológicas e tenta aproximar a pesquisa científica do público leigo, tornando-a mais compreensível e visual, mas é entendida como uma reconstrução científica, e não como uma representação autêntica da pessoa retratada.
A inteligência artificial cria representações do passado que muitas vezes revelam mais sobre o presente do que sobre a história
TikTok/X/YouTube via DW