Getty/BBC
Durante os últimos anos, poucos temas despertaram tanta preocupação entre autoridades eleitorais, pesquisadores e empresas de tecnologia quanto o potencial da inteligência artificial generativa para distorcer eleições. A popularização de ferramentas capazes de criar áudios e imagens realistas alimentou previsões de que democracias ao redor do mundo enfrentariam uma avalanche de desinformação impulsionada pela IA.
Mas, para Felix Simon, pesquisador da Universidade de Oxford, no Reino Unido, as evidências disponíveis até agora sugerem que esse temor pode estar sendo superestimado.
‘Para ser eficaz, seria necessário que houvesse algum tipo de demanda não atendida por mais desinformação, e isso não existe’, aponta Felix Simon sobre conteúdos falsos gerados por IA durante eleições
Reprodução/Universidade de Oxford
Simon argumenta que a influência da IA sobre resultados eleitorais tem sido frequentemente exagerada e que fatores políticos tradicionais continuam sendo muito mais decisivos para moldar o comportamento dos eleitores do que, por exemplo, deepfakes divulgados nas redes sociais.
Em entrevista à BBC News Brasil, o pesquisador do Instituto Reuters para o Estudo do Jornalismo e do Instituto de Internet de Oxford afirma que a disputa pela atenção do público continua sendo uma das grandes limitações de qualquer estratégia de influência política, independentemente da tecnologia utilizada.
“O principal desafio para influenciar o voto das pessoas ou persuadi-las de uma forma ou de outra é conseguir que elas prestem atenção — e isso é muito, muito difícil”, diz.
“O dia só tem 24 horas, e dessas passamos 8 dormindo e muitas outras trabalhando ou fazendo tarefas domésticas. No fim das contas, sobram mais ou menos 4 horas para entretenimento, interação com conteúdos e pessoas — ou seja, há uma competição gigantesca pela atenção durante esse tempo.”
Além disso, argumenta, a grande parte dos conteúdos utilizados em campanhas nas redes sociais serve apenas para confirmar opiniões já formadas. Ou seja, quem tende a receber e consumir os vídeos, áudios ou imagens gerados por IA num contexto eleitoral são cidadãos que já escolheram seus candidatos e, muitas vezes, estão mais propensos a acreditar em notícias falsas que favoreçam seu viés.
“Para ser eficaz, seria necessário que houvesse algum tipo de demanda não atendida por mais desinformação, e isso não existe”, aponta.
“A desinformação funciona porque existem pessoas receptivas a ela, geralmente pessoas que querem algo que confirme sua visão de mundo ou suas crenças sobre determinado partido ou candidato”, diz o especialista.
“Mas a internet já está lotada de desinformação e embora seja possível criar mais, isso não significa um efeito maior.”
Simon argumenta ainda que, embora os novos conteúdos criados com ferramentas avançadas de IA generativa sejam mais avançados e potencialmente mais persuasivos, os eleitores suscetíveis à sua influência não precisam ser convencidos de sua veracidade.
“Para os grupos mais suscetíveis [à desinformação], não são necessárias imagens muito sofisticadas”, opina.
O fator humano a IA
Um artigo publicado por Simon, ao lado do psicólogo e pesquisador da Universidade de Zurique, Sacha Altay, pela Universidade de Columbia, nos EUA, analisou ainda uma série de eleições realizadas entre 2023 e 2024, quando o temor em torno dos conteúdos gerados por IA já era grande. Mas segundo a pesquisa, os impactos previstos simplesmente não se materializaram na escala esperada.
Mesmo com a proliferação de ferramentas generativas, os resultados eleitorais continuaram sendo fortemente influenciados por fatores econômicos, culturais, sociais e partidários, além do papel desempenhado por líderes políticos e meios de comunicação tradicionais.
“A influência da IA nas eleições nacionais foi amplamente ofuscada por outros fatores muito mais importantes, como a disposição dos políticos em desinformar, mentir e infringir outras normas”, diz o artigo.
Os pesquisadores apontam também que os eleitores não chegam a uma campanha como folhas em branco, “apenas esperando para serem persuadidos”. Em vez disso, os comportamentos de voto são moldados por um complexo conjunto de fatores, geralmente uma mistura de predisposições de longa data e fatores contextuais de curto prazo, dizem.
Estudos clássicos sugerem que a filiação partidária, muitas vezes formada já na adolescência, serve como um filtro primário através do qual os indivíduos processam informações políticas e votam. Elementos identitários — como vínculos com grupos sociais e orientações ideológicas — também interagem com os conteúdos e propagandas consumidas para moldar as impressões e os sentimentos dos eleitores em relação aos candidatos e aos temas políticos.
Em seu estudo, Simon e Altay apontam ainda que o fator humano deveria provocar mais temores do que a IA em si.
“Ao longo da história, os seres humanos demonstraram uma notável capacidade de inventar histórias falsas, desde lendas urbanas a teorias da conspiração. A desinformação sobre eleições é fácil de criar”, afirmam.
‘Corrida armamentista’
Na entrevista à BBC Brasil, Felix Simon argumentou ainda que, em muitas ocasiões, a fonte da informação é mais relevante do que a qualidade ou o conteúdo das postagens.
Especialmente para os eleitores menos radicais ou extremistas, a avaliação das mensagens não tem como base apenas aquilo que eles veem ou ouvem, mas também a confiança em relação à fonte”, diz.
“Mesmo que você consiga criar algo que seja mais convincente, isso não significa necessariamente que as pessoas simplesmente aceitem isso como verdade absoluta, porque temos vários mecanismos de vigilância epistêmica que, até certo ponto, nos protegem das informações falsas.”
Outro ponto importante, aponta Felix Simon, é que as ferramentas de IA são facilmente acessíveis atualmente, o que significa que todos os lados da corrida política podem se beneficiar dos avanços tecnológicos proporcionados por elas.
Isso, diz, equilibra as forças e faz com que os efeitos práticos da IA em corridas eleitorais sejam menos visíveis.
“Não é apenas um lado que pode usar [a IA], o que cria uma espécie de corrida armamentista onde muito rapidamente se encontra um novo equilíbrio”, diz. “Se um partido ou político começa a usar, seu adversário rapidamente aprende também e se adapta.”
Nas redes sociais brasileiras, se multiplicam vídeos fabricados com inteligência artificial (IA) que usam a imagem do ex-presidente Jair Bolsonaro, que está atualmente em prisão domiciliar
Reprodução
Ampliação do nível de desconfiança e o futuro da IA na política
Tudo isso, porém, não significa que a IA seja inofensiva ou não possa causar estragos em eleições ou democracias, segundo Simon.
“Experimentos demonstram que, como esses sistemas são muito bons em criar argumentos concisos, estruturados e ricos em informações, eles são relativamente bons em persuadir as pessoas”, aponta.
Além disso, diz Simon, a produção extensa de conteúdos gerados por inteligência artificial, assim como a própria discussão sobre o poder da desinformação no cotidiano atual, tem grande capacidade de provocar uma onda geral de descrença no sistema e nas fontes de informação.
“Se as pessoas sabem que os sistemas de IA são capazes de criar deepfakes muito convincentes, então, por padrão, algumas pessoas passam a duvidar até mesmo de conteúdos reais, pois não tem mais certeza no que confiar”, afirma.
“Isso não significa que o mundo tenha perdido a confiança em todo tipo de informação visual ou oral, mas definitivamente significa que passamos a confiar menos nelas do que no passado.”
O pesquisador argumenta ainda que a própria discussão sobre os perigos da desinformação e da IA para as democracias na imprensa e na Academia pode ampliar o nível de desconfiança da população.
“As pessoas podem passar a acreditar que a integridade das próprias eleições está comprometida ou que não se pode confiar mais no que se vê”, diz.
“Isso, obviamente, coloca jornalistas e especialistas como eu em uma posição muito difícil, pois precisamos pesquisar e prestar atenção no tema, mas, ao mesmo tempo, não podemos exagerar nas afirmações, correndo o risco de produzir efeitos colaterais negativos”, admite ainda.
Para o futuro, Simon acredita que o papel da IA em eleições crescerá ainda mais “simplesmente por consequência da ampla disponibilidade e da crescente adoção dessa tecnologia”.
Esse cenário, diz, não significa necessariamente efeitos negativos. Segundo o pesquisador de Oxford, cada vez mais partidos utilizam inteligência artificial para criação de materiais políticos e tarefas administrativas, o que contribui para sua eficiência.
“No fim das contas, uma campanha política nada mais é do que uma empresa”, afirma.
Durante os últimos anos, poucos temas despertaram tanta preocupação entre autoridades eleitorais, pesquisadores e empresas de tecnologia quanto o potencial da inteligência artificial generativa para distorcer eleições. A popularização de ferramentas capazes de criar áudios e imagens realistas alimentou previsões de que democracias ao redor do mundo enfrentariam uma avalanche de desinformação impulsionada pela IA.
Mas, para Felix Simon, pesquisador da Universidade de Oxford, no Reino Unido, as evidências disponíveis até agora sugerem que esse temor pode estar sendo superestimado.
‘Para ser eficaz, seria necessário que houvesse algum tipo de demanda não atendida por mais desinformação, e isso não existe’, aponta Felix Simon sobre conteúdos falsos gerados por IA durante eleições
Reprodução/Universidade de Oxford
Simon argumenta que a influência da IA sobre resultados eleitorais tem sido frequentemente exagerada e que fatores políticos tradicionais continuam sendo muito mais decisivos para moldar o comportamento dos eleitores do que, por exemplo, deepfakes divulgados nas redes sociais.
Em entrevista à BBC News Brasil, o pesquisador do Instituto Reuters para o Estudo do Jornalismo e do Instituto de Internet de Oxford afirma que a disputa pela atenção do público continua sendo uma das grandes limitações de qualquer estratégia de influência política, independentemente da tecnologia utilizada.
“O principal desafio para influenciar o voto das pessoas ou persuadi-las de uma forma ou de outra é conseguir que elas prestem atenção — e isso é muito, muito difícil”, diz.
“O dia só tem 24 horas, e dessas passamos 8 dormindo e muitas outras trabalhando ou fazendo tarefas domésticas. No fim das contas, sobram mais ou menos 4 horas para entretenimento, interação com conteúdos e pessoas — ou seja, há uma competição gigantesca pela atenção durante esse tempo.”
Além disso, argumenta, a grande parte dos conteúdos utilizados em campanhas nas redes sociais serve apenas para confirmar opiniões já formadas. Ou seja, quem tende a receber e consumir os vídeos, áudios ou imagens gerados por IA num contexto eleitoral são cidadãos que já escolheram seus candidatos e, muitas vezes, estão mais propensos a acreditar em notícias falsas que favoreçam seu viés.
“Para ser eficaz, seria necessário que houvesse algum tipo de demanda não atendida por mais desinformação, e isso não existe”, aponta.
“A desinformação funciona porque existem pessoas receptivas a ela, geralmente pessoas que querem algo que confirme sua visão de mundo ou suas crenças sobre determinado partido ou candidato”, diz o especialista.
“Mas a internet já está lotada de desinformação e embora seja possível criar mais, isso não significa um efeito maior.”
Simon argumenta ainda que, embora os novos conteúdos criados com ferramentas avançadas de IA generativa sejam mais avançados e potencialmente mais persuasivos, os eleitores suscetíveis à sua influência não precisam ser convencidos de sua veracidade.
“Para os grupos mais suscetíveis [à desinformação], não são necessárias imagens muito sofisticadas”, opina.
O fator humano a IA
Um artigo publicado por Simon, ao lado do psicólogo e pesquisador da Universidade de Zurique, Sacha Altay, pela Universidade de Columbia, nos EUA, analisou ainda uma série de eleições realizadas entre 2023 e 2024, quando o temor em torno dos conteúdos gerados por IA já era grande. Mas segundo a pesquisa, os impactos previstos simplesmente não se materializaram na escala esperada.
Mesmo com a proliferação de ferramentas generativas, os resultados eleitorais continuaram sendo fortemente influenciados por fatores econômicos, culturais, sociais e partidários, além do papel desempenhado por líderes políticos e meios de comunicação tradicionais.
“A influência da IA nas eleições nacionais foi amplamente ofuscada por outros fatores muito mais importantes, como a disposição dos políticos em desinformar, mentir e infringir outras normas”, diz o artigo.
Os pesquisadores apontam também que os eleitores não chegam a uma campanha como folhas em branco, “apenas esperando para serem persuadidos”. Em vez disso, os comportamentos de voto são moldados por um complexo conjunto de fatores, geralmente uma mistura de predisposições de longa data e fatores contextuais de curto prazo, dizem.
Estudos clássicos sugerem que a filiação partidária, muitas vezes formada já na adolescência, serve como um filtro primário através do qual os indivíduos processam informações políticas e votam. Elementos identitários — como vínculos com grupos sociais e orientações ideológicas — também interagem com os conteúdos e propagandas consumidas para moldar as impressões e os sentimentos dos eleitores em relação aos candidatos e aos temas políticos.
Em seu estudo, Simon e Altay apontam ainda que o fator humano deveria provocar mais temores do que a IA em si.
“Ao longo da história, os seres humanos demonstraram uma notável capacidade de inventar histórias falsas, desde lendas urbanas a teorias da conspiração. A desinformação sobre eleições é fácil de criar”, afirmam.
‘Corrida armamentista’
Na entrevista à BBC Brasil, Felix Simon argumentou ainda que, em muitas ocasiões, a fonte da informação é mais relevante do que a qualidade ou o conteúdo das postagens.
Especialmente para os eleitores menos radicais ou extremistas, a avaliação das mensagens não tem como base apenas aquilo que eles veem ou ouvem, mas também a confiança em relação à fonte”, diz.
“Mesmo que você consiga criar algo que seja mais convincente, isso não significa necessariamente que as pessoas simplesmente aceitem isso como verdade absoluta, porque temos vários mecanismos de vigilância epistêmica que, até certo ponto, nos protegem das informações falsas.”
Outro ponto importante, aponta Felix Simon, é que as ferramentas de IA são facilmente acessíveis atualmente, o que significa que todos os lados da corrida política podem se beneficiar dos avanços tecnológicos proporcionados por elas.
Isso, diz, equilibra as forças e faz com que os efeitos práticos da IA em corridas eleitorais sejam menos visíveis.
“Não é apenas um lado que pode usar [a IA], o que cria uma espécie de corrida armamentista onde muito rapidamente se encontra um novo equilíbrio”, diz. “Se um partido ou político começa a usar, seu adversário rapidamente aprende também e se adapta.”
Nas redes sociais brasileiras, se multiplicam vídeos fabricados com inteligência artificial (IA) que usam a imagem do ex-presidente Jair Bolsonaro, que está atualmente em prisão domiciliar
Reprodução
Ampliação do nível de desconfiança e o futuro da IA na política
Tudo isso, porém, não significa que a IA seja inofensiva ou não possa causar estragos em eleições ou democracias, segundo Simon.
“Experimentos demonstram que, como esses sistemas são muito bons em criar argumentos concisos, estruturados e ricos em informações, eles são relativamente bons em persuadir as pessoas”, aponta.
Além disso, diz Simon, a produção extensa de conteúdos gerados por inteligência artificial, assim como a própria discussão sobre o poder da desinformação no cotidiano atual, tem grande capacidade de provocar uma onda geral de descrença no sistema e nas fontes de informação.
“Se as pessoas sabem que os sistemas de IA são capazes de criar deepfakes muito convincentes, então, por padrão, algumas pessoas passam a duvidar até mesmo de conteúdos reais, pois não tem mais certeza no que confiar”, afirma.
“Isso não significa que o mundo tenha perdido a confiança em todo tipo de informação visual ou oral, mas definitivamente significa que passamos a confiar menos nelas do que no passado.”
O pesquisador argumenta ainda que a própria discussão sobre os perigos da desinformação e da IA para as democracias na imprensa e na Academia pode ampliar o nível de desconfiança da população.
“As pessoas podem passar a acreditar que a integridade das próprias eleições está comprometida ou que não se pode confiar mais no que se vê”, diz.
“Isso, obviamente, coloca jornalistas e especialistas como eu em uma posição muito difícil, pois precisamos pesquisar e prestar atenção no tema, mas, ao mesmo tempo, não podemos exagerar nas afirmações, correndo o risco de produzir efeitos colaterais negativos”, admite ainda.
Para o futuro, Simon acredita que o papel da IA em eleições crescerá ainda mais “simplesmente por consequência da ampla disponibilidade e da crescente adoção dessa tecnologia”.
Esse cenário, diz, não significa necessariamente efeitos negativos. Segundo o pesquisador de Oxford, cada vez mais partidos utilizam inteligência artificial para criação de materiais políticos e tarefas administrativas, o que contribui para sua eficiência.
“No fim das contas, uma campanha política nada mais é do que uma empresa”, afirma.