Com o avanço acelerado da inteligência artificial (IA), líderes do setor alertam para os riscos da tecnologia
Getty Images via BBC
Com o avanço acelerado da inteligência artificial (IA), alguns dos principais nomes do setor têm feito alertas contundentes sobre os riscos que a tecnologia pode representar.
Dario Amodei, presidente-executivo da Anthropic, defende que o desenvolvimento da IA seja desacelerado.
📱Favorite o g1 no Google e acompanhe as principais notícias do dia
Os dirigentes de duas empresas rivais do setor, Sam Altman, da OpenAI, e Elon Musk, dono da rede social X e do assistente de IA Grok, afirmaram concordar com Amodei.
Outros nomes do Vale do Silício chegaram a afirmar que a tecnologia poderia, um dia, ameaçar a sobrevivência da humanidade.
Agora no g1
Mas as tentativas de enfrentar esses riscos são dificultadas pela intensa rivalidade entre as duas principais potências mundiais em IA, China e Estados Unidos.
Como concorrentes estratégicos, os dois países costumam avaliar os avanços da IA sob a ótica da segurança nacional e das vantagens econômicas, o que levanta dúvidas sobre a possibilidade de uma cooperação efetiva.
“Se a comunidade internacional espera que o diálogo entre EUA e China sobre essas questões resulte em um acordo vinculante, ficará decepcionada”, afirmou Ilaria Carrozza, pesquisadora sênior do Instituto de Pesquisa para a Paz de Oslo (Prio, na sigla em inglês).
IA ‘sob controle humano’
A China tem grandes planos para a IA e prevê um futuro em que a tecnologia esteja presente em todos os setores da sociedade e da economia, da agricultura e da saúde às Forças Armadas.
O governo chinês, no entanto, também alerta há anos para os riscos da tecnologia. Já em 2017, afirmou que a IA poderia ameaçar a privacidade, a estabilidade social e as relações internacionais.
Desde então, a China passou a exigir que conteúdos gerados por IA nas redes sociais sejam identificados como tal, proibiu parceiros virtuais de IA para menores de idade e vetou o uso de deepfakes (técnica que manipula ou cria vídeos, áudios e imagens falsos, com alto grau de realismo) para disseminar desinformação.
Órgãos do governo chinês e assessores responsáveis pela formulação de políticas públicas têm “autoridade considerável para definir o que é aceitável no desenvolvimento da tecnologia” em comparação com seus equivalentes nos EUA, afirmou Zeng Jinghan, professor da Universidade da Cidade de Hong Kong que participou de conversas informais entre China e EUA sobre IA.
Ao tratar das preocupações de que a IA possa sair do controle, o presidente chinês, Xi Jinping, afirmou em julho que a tecnologia “deve permanecer sempre sob controle humano”. A declaração foi feita durante a Organização Mundial de Cooperação em IA, iniciativa global criada pela China para promover o diálogo internacional sobre a governança da IA.
Em suas mais recentes diretrizes de segurança para IA, publicadas em setembro, a Administração do Ciberespaço da China, órgão regulador da internet do país, afirmou que são necessárias políticas preventivas para evitar que a IA ameace a “sobrevivência e o desenvolvimento da humanidade”.
A IA pode ser controlada?
Embora autoridades chinesas reconheçam o risco de a IA escapar do controle humano, a possibilidade de a tecnologia representar uma ameaça existencial à humanidade ocupa um espaço muito menor no debate na China do que nos EUA.
A China trata esse risco como uma entre várias questões que precisam ser enfrentadas por meio de políticas públicas.
“A governança da IA na China atende a vários objetivos ao mesmo tempo: apoiar o desenvolvimento econômico, administrar riscos tecnológicos e sociais e manter a autoridade política”, explica Zeng.
Shaoshan Liu, diretor do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, concorda com essa avaliação. “As discussões na China tendem a se concentrar mais na possibilidade de controlar a tecnologia, no uso indevido e nas consequências sociais, enquanto, nos EUA, o debate passou a ser dominado por cenários hipotéticos de perda de controle ou extinção.”
A China espera que a adoção da IA em toda a sociedade impulsione o crescimento econômico.
Reuters via BBC
As preocupações das autoridades chinesas com os riscos da IA convivem com a convicção de que a tecnologia será um importante motor de crescimento econômico.
Modelos de IA desenvolvidos por gigantes chinesas de tecnologia, como Tencent, Alibaba, Baidu e ByteDance, competem no mercado global. Alguns dos modelos mais avançados vêm de empresas como 01.AI, DeepSeek, MiniMax, Moonshot AI e Z.ai.
As empresas não responderam aos pedidos de comentário da equipe de reportagem da BBC.
Segundo Shaoshan, do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, a China tenta encontrar um equilíbrio entre estimular o setor de IA do país e lidar com os novos riscos. “Isso é muito diferente de dizer que a tecnologia deveria parar de avançar”, afirmou.
‘Quem vencer na IA, vence’
Além das prioridades internas da China, há também questões geopolíticas em jogo.
O presidente dos EUA, Donald Trump, descreveu o desenvolvimento da IA como uma disputa decisiva com a China. “Estamos à frente da China em IA… e, francamente, quero que continue assim porque quem vencer na IA, vence”, afirmou o presidente americano.
Em um ensaio publicado em setembro em uma revista estatal, Chen Yixin, principal autoridade de inteligência da China, também tratou o desenvolvimento da IA em termos geopolíticos, classificando-o como uma “nova arena de rivalidade estratégica entre as grandes potências”.
Embora os apelos para desacelerar o desenvolvimento da IA tenham partido principalmente de representantes do setor nos EUA, e não de autoridades do governo, a disputa geopolítica fez a China receber esses apelos com desconfiança.
Em agosto, pouco antes do alerta de Amodei sobre os riscos da IA, a imprensa estatal chinesa acusou o cofundador da Anthropic de alinhar sua empresa aos interesses geopolíticos dos EUA.
“O pensamento de Amodei evoluiu… de ‘Meu país está certo’ para ‘Todos aqueles que não cooperarem devem ser reprimidos'”, publicou Yuyuantantian, uma conta nas redes sociais administrada pela emissora estatal CCTV.
Amodei acredita que uma vantagem maior dos EUA em IA poderia convencer a China a desacelerar o desenvolvimento da tecnologia.
Reuters via BBC
O recente apelo de Amodei por uma desaceleração no desenvolvimento da IA provocou novas críticas da imprensa estatal chinesa, que destacou declarações do presidente-executivo da Anthropic em que ele sugeriu dificultar o avanço da China em IA.
Apesar da desconfiança entre os dois países, há expectativa de que uma cúpula entre Jinping e Trump, prevista para ocorrer em Washington D.C., capital dos EUA, ainda neste mês, possa levar a algum entendimento. Segundo a agência Reuters, autoridades chinesas consideram a IA um dos principais temas da agenda.
O uso indevido da IA por agentes não estatais ou ataques cibernéticos contra infraestruturas com uso de IA podem oferecer espaço para um acordo entre os dois países, afirmou Carrozza, do Prio. Mas um acordo explícito sobre o ritmo de desenvolvimento da tecnologia provavelmente continuará fora de alcance.
“As áreas em que provavelmente será possível chegar a algum entendimento bilateral são aquelas em que um acordo não exigiria mecanismos de verificação nem a divulgação de segredos comerciais”, disse Carrozza.
“É pouco provável que os dois lados concordem com qualquer medida que limite a velocidade com que cada um desenvolve seus modelos de IA.”
Getty Images via BBC
Com o avanço acelerado da inteligência artificial (IA), alguns dos principais nomes do setor têm feito alertas contundentes sobre os riscos que a tecnologia pode representar.
Dario Amodei, presidente-executivo da Anthropic, defende que o desenvolvimento da IA seja desacelerado.
📱Favorite o g1 no Google e acompanhe as principais notícias do dia
Os dirigentes de duas empresas rivais do setor, Sam Altman, da OpenAI, e Elon Musk, dono da rede social X e do assistente de IA Grok, afirmaram concordar com Amodei.
Outros nomes do Vale do Silício chegaram a afirmar que a tecnologia poderia, um dia, ameaçar a sobrevivência da humanidade.
Agora no g1
Mas as tentativas de enfrentar esses riscos são dificultadas pela intensa rivalidade entre as duas principais potências mundiais em IA, China e Estados Unidos.
Como concorrentes estratégicos, os dois países costumam avaliar os avanços da IA sob a ótica da segurança nacional e das vantagens econômicas, o que levanta dúvidas sobre a possibilidade de uma cooperação efetiva.
“Se a comunidade internacional espera que o diálogo entre EUA e China sobre essas questões resulte em um acordo vinculante, ficará decepcionada”, afirmou Ilaria Carrozza, pesquisadora sênior do Instituto de Pesquisa para a Paz de Oslo (Prio, na sigla em inglês).
IA ‘sob controle humano’
A China tem grandes planos para a IA e prevê um futuro em que a tecnologia esteja presente em todos os setores da sociedade e da economia, da agricultura e da saúde às Forças Armadas.
O governo chinês, no entanto, também alerta há anos para os riscos da tecnologia. Já em 2017, afirmou que a IA poderia ameaçar a privacidade, a estabilidade social e as relações internacionais.
Desde então, a China passou a exigir que conteúdos gerados por IA nas redes sociais sejam identificados como tal, proibiu parceiros virtuais de IA para menores de idade e vetou o uso de deepfakes (técnica que manipula ou cria vídeos, áudios e imagens falsos, com alto grau de realismo) para disseminar desinformação.
Órgãos do governo chinês e assessores responsáveis pela formulação de políticas públicas têm “autoridade considerável para definir o que é aceitável no desenvolvimento da tecnologia” em comparação com seus equivalentes nos EUA, afirmou Zeng Jinghan, professor da Universidade da Cidade de Hong Kong que participou de conversas informais entre China e EUA sobre IA.
Ao tratar das preocupações de que a IA possa sair do controle, o presidente chinês, Xi Jinping, afirmou em julho que a tecnologia “deve permanecer sempre sob controle humano”. A declaração foi feita durante a Organização Mundial de Cooperação em IA, iniciativa global criada pela China para promover o diálogo internacional sobre a governança da IA.
Em suas mais recentes diretrizes de segurança para IA, publicadas em setembro, a Administração do Ciberespaço da China, órgão regulador da internet do país, afirmou que são necessárias políticas preventivas para evitar que a IA ameace a “sobrevivência e o desenvolvimento da humanidade”.
A IA pode ser controlada?
Embora autoridades chinesas reconheçam o risco de a IA escapar do controle humano, a possibilidade de a tecnologia representar uma ameaça existencial à humanidade ocupa um espaço muito menor no debate na China do que nos EUA.
A China trata esse risco como uma entre várias questões que precisam ser enfrentadas por meio de políticas públicas.
“A governança da IA na China atende a vários objetivos ao mesmo tempo: apoiar o desenvolvimento econômico, administrar riscos tecnológicos e sociais e manter a autoridade política”, explica Zeng.
Shaoshan Liu, diretor do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, concorda com essa avaliação. “As discussões na China tendem a se concentrar mais na possibilidade de controlar a tecnologia, no uso indevido e nas consequências sociais, enquanto, nos EUA, o debate passou a ser dominado por cenários hipotéticos de perda de controle ou extinção.”
A China espera que a adoção da IA em toda a sociedade impulsione o crescimento econômico.
Reuters via BBC
As preocupações das autoridades chinesas com os riscos da IA convivem com a convicção de que a tecnologia será um importante motor de crescimento econômico.
Modelos de IA desenvolvidos por gigantes chinesas de tecnologia, como Tencent, Alibaba, Baidu e ByteDance, competem no mercado global. Alguns dos modelos mais avançados vêm de empresas como 01.AI, DeepSeek, MiniMax, Moonshot AI e Z.ai.
As empresas não responderam aos pedidos de comentário da equipe de reportagem da BBC.
Segundo Shaoshan, do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, a China tenta encontrar um equilíbrio entre estimular o setor de IA do país e lidar com os novos riscos. “Isso é muito diferente de dizer que a tecnologia deveria parar de avançar”, afirmou.
‘Quem vencer na IA, vence’
Além das prioridades internas da China, há também questões geopolíticas em jogo.
O presidente dos EUA, Donald Trump, descreveu o desenvolvimento da IA como uma disputa decisiva com a China. “Estamos à frente da China em IA… e, francamente, quero que continue assim porque quem vencer na IA, vence”, afirmou o presidente americano.
Em um ensaio publicado em setembro em uma revista estatal, Chen Yixin, principal autoridade de inteligência da China, também tratou o desenvolvimento da IA em termos geopolíticos, classificando-o como uma “nova arena de rivalidade estratégica entre as grandes potências”.
Embora os apelos para desacelerar o desenvolvimento da IA tenham partido principalmente de representantes do setor nos EUA, e não de autoridades do governo, a disputa geopolítica fez a China receber esses apelos com desconfiança.
Em agosto, pouco antes do alerta de Amodei sobre os riscos da IA, a imprensa estatal chinesa acusou o cofundador da Anthropic de alinhar sua empresa aos interesses geopolíticos dos EUA.
“O pensamento de Amodei evoluiu… de ‘Meu país está certo’ para ‘Todos aqueles que não cooperarem devem ser reprimidos'”, publicou Yuyuantantian, uma conta nas redes sociais administrada pela emissora estatal CCTV.
Amodei acredita que uma vantagem maior dos EUA em IA poderia convencer a China a desacelerar o desenvolvimento da tecnologia.
Reuters via BBC
O recente apelo de Amodei por uma desaceleração no desenvolvimento da IA provocou novas críticas da imprensa estatal chinesa, que destacou declarações do presidente-executivo da Anthropic em que ele sugeriu dificultar o avanço da China em IA.
Apesar da desconfiança entre os dois países, há expectativa de que uma cúpula entre Jinping e Trump, prevista para ocorrer em Washington D.C., capital dos EUA, ainda neste mês, possa levar a algum entendimento. Segundo a agência Reuters, autoridades chinesas consideram a IA um dos principais temas da agenda.
O uso indevido da IA por agentes não estatais ou ataques cibernéticos contra infraestruturas com uso de IA podem oferecer espaço para um acordo entre os dois países, afirmou Carrozza, do Prio. Mas um acordo explícito sobre o ritmo de desenvolvimento da tecnologia provavelmente continuará fora de alcance.
“As áreas em que provavelmente será possível chegar a algum entendimento bilateral são aquelas em que um acordo não exigiria mecanismos de verificação nem a divulgação de segredos comerciais”, disse Carrozza.
“É pouco provável que os dois lados concordem com qualquer medida que limite a velocidade com que cada um desenvolve seus modelos de IA.”