Inteligência artificial ganha espaço como diferencial competitivo nas empresas
Inteligência Artificial
Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras.
Mas uma sequência de acontecimentos em apenas 10 dias abalou alguns dos maiores laboratórios de IA, à medida que pesquisadores passaram a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro disse que as chances de extinção humana ultrapassavam 10%.
Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.
Agora no g1
➡️ Esses episódios ajudaram a transformar em preocupação concreta o temor de que sistemas cada vez mais autônomos possam escapar do controle humano.
Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.
Tão destrutiva quanto a bomba atômica?
O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a fazer uma comparação extrema: desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção.
A comparação também apareceu em uma conversa com Sam Altman, presidente-executivo da OpenAI, durante um almoço em Nova York, em dezembro de 2025.
Perguntaram a ele se, como líder de uma poderosa empresa de IA, se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos.
Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”. Mas acrescentou que sentia o peso da responsabilidade.
Só que para entender de onde vem esse temor, é preciso olhar para o objetivo que está no centro da corrida tecnológica: criar sistemas capazes de realizar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos, sem intervenção humana.
🔎 O objetivo é chegar a um estágio conhecido como inteligência artificial geral (AGI), um tipo de IA que, em tese, seria capaz de realizar uma ampla variedade de tarefas intelectuais.
No início deste mês, pesquisadores alertaram que a AGI poderia estar muito mais próxima do que se imaginava e surgir em apenas três anos. A possibilidade provocou uma nova onda de preocupação entre políticos e líderes do setor de tecnologia.
“Não há como supervisioná-las na escala em que estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente.
Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.
Astra desencadeia preocupações
O alerta ganhou um novo peso em 3 de setembro, quando uma entrevista coletiva da OpenAI desencadeou uma sequência de acontecimentos que, dias depois, culminaria em pedidos públicos de desaceleração do setor.
“Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra.
Pouco antes, porém, a empresa havia admitido que estava cada vez mais difícil controlar ou até mesmo monitorar os sistemas de IA que desenvolvia e colocava à disposição do público.
A contradição ajuda a explicar o dilema no centro da atual corrida tecnológica.
🤖 A IA é descrita por seus defensores como uma das maiores conquistas tecnológicas da humanidade: um software capaz de transformar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e reduzir drasticamente o erro humano.
Por outro lado, aquilo que durante anos foi tratado como um cenário teórico e apocalíptico passou, segundo especialistas do setor, a parecer mais concreto.
“Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos”, disse o pesquisador da Anthropic, Evan Hubinger, na rede social X.
Initial plugin text
Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores, que consideram o avanço da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de investimento que surge uma vez por geração.
A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.
Trump anuncia que vai nomear ‘czar da IA’ e criar força-tarefa para fomentar e monitorar tecnologia
Demissão marca ponto de virada
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa. Em uma série de publicações, ele afirmou temer que os laboratórios de IA estejam “apostando com nossas vidas”.
As publicações de Coxon, de 27 anos e pouco conhecido fora dos círculos de IA, viralizaram e ajudaram a ampliar um debate que já vinha crescendo dentro das empresas.
🗣️ Nos bastidores, funcionários da OpenAI e da Anthropic têm demonstrado preocupação com o poder da próxima geração de modelos de IA e menor confiança na capacidade de suas próprias empresas de supervisioná-los de forma efetiva, segundo fontes ouvidas pela Reuters.
Ao mesmo tempo, o governo dos EUA mantém uma postura favorável à continuidade da corrida. Trump indicou que o desenvolvimento da tecnologia seguiria em ritmo acelerado.
“Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais.
O alarmismo em torno da IA é uma “farsa”, disse Trump, e qualquer desaceleração só beneficiaria a China. Enquanto isso, o Congresso dos EUA tem avançado pouco na aprovação de projetos de lei para regulamentar a IA.
A China adotou uma abordagem diferente, propondo regras de segurança que incluem obrigações para os desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.
A disputa entre acelerar e controlar a tecnologia também tem uma dimensão financeira. A corrida para lançar novos modelos em ritmo acelerado é impulsionada, em parte, pelo interesse da Anthropic e da OpenAI em abrir capital nos próximos meses.
As ofertas públicas iniciais de ações, conhecidas como IPOs, poderiam levar a uma avaliação de mercado bem acima de US$ 1 trilhão (R$ 5,14 trilhões) para cada empresa.
Robô humanoide dança em evento de ciência em São José dos Campos
Reprodução/TV Vanguarda
Sistemas que escapam do controle humano
O episódio do Astra e os alertas de pesquisadores ganharam ainda mais peso porque não eram os primeiros sinais de dificuldade para controlar os sistemas.
A OpenAI e a Anthropic reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam conseguido escapar das restrições impostas a eles e invadir sistemas de outras empresas.
Em muitos casos, isso ocorreu meses antes e sem que as companhias afetadas soubessem.
Os próprios alertas da OpenAI sobre sua dificuldade de controlar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações.
“À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas.
Mesmo assim, as preocupações não foram suficientes para adiar o lançamento do modelo.
O temor de que a IA possa “sair do controle” havia se intensificado meses antes.
A OpenAI revelou que seus agentes — sistemas capazes de executar tarefas de forma mais autônoma — escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas.
Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, depois que reportagens mostraram que as atividades não autorizadas da IA tinham alcance maior do que o inicialmente conhecido.
Líderes pedem desaceleração
Foi nesse ambiente que o alerta chegou aos mais altos escalões do setor.
Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvimento da IA.
“Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet”, escreveu ele.
Amodei e dirigentes de algumas das maiores empresas de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind, afirmaram apoiar a possibilidade de permitir que empresas externas tenham acesso aos seus sistemas para ajudar a verificar a segurança e o desenvolvimento da tecnologia.
A posição, porém, não era unânime.
O presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de que o desenvolvimento da IA deveria ser suspenso. Ele já havia defendido anteriormente que sistemas cada vez mais poderosos são essenciais para o avanço tecnológico.
🔎 A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.
A Meta, cujo presidente-executivo, Mark Zuckerberg, é conhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou uma posição diferente.
Para a empresa, cada laboratório deveria definir seu próprio ritmo, em vez de buscar uma coordenação de todo o setor.
“Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso”, escreveu Zuckerberg em redes sociais.
Initial plugin text
A reflexão dentro do próprio setor continuou ao longo dos dias seguintes, quando o chefe de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana é imprudente.
“Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters. “Acho que esse será o maior desafio que enfrentaremos no século XXI.”
Mas o alerta convive com outro movimento: o dinheiro continua chegando.
Mesmo com a OpenAI aparentemente aderindo aos apelos por uma desaceleração, surgiram relatos de que a confiança dos investidores não havia diminuído.
A empresa considera uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilhão (R$ 7,71 trilhões).
* Com informações da agência de notícias Reuters
Inteligência Artificial
Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras.
Mas uma sequência de acontecimentos em apenas 10 dias abalou alguns dos maiores laboratórios de IA, à medida que pesquisadores passaram a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro disse que as chances de extinção humana ultrapassavam 10%.
Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.
Agora no g1
➡️ Esses episódios ajudaram a transformar em preocupação concreta o temor de que sistemas cada vez mais autônomos possam escapar do controle humano.
Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.
Tão destrutiva quanto a bomba atômica?
O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a fazer uma comparação extrema: desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção.
A comparação também apareceu em uma conversa com Sam Altman, presidente-executivo da OpenAI, durante um almoço em Nova York, em dezembro de 2025.
Perguntaram a ele se, como líder de uma poderosa empresa de IA, se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos.
Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”. Mas acrescentou que sentia o peso da responsabilidade.
Só que para entender de onde vem esse temor, é preciso olhar para o objetivo que está no centro da corrida tecnológica: criar sistemas capazes de realizar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos, sem intervenção humana.
🔎 O objetivo é chegar a um estágio conhecido como inteligência artificial geral (AGI), um tipo de IA que, em tese, seria capaz de realizar uma ampla variedade de tarefas intelectuais.
No início deste mês, pesquisadores alertaram que a AGI poderia estar muito mais próxima do que se imaginava e surgir em apenas três anos. A possibilidade provocou uma nova onda de preocupação entre políticos e líderes do setor de tecnologia.
“Não há como supervisioná-las na escala em que estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente.
Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.
Astra desencadeia preocupações
O alerta ganhou um novo peso em 3 de setembro, quando uma entrevista coletiva da OpenAI desencadeou uma sequência de acontecimentos que, dias depois, culminaria em pedidos públicos de desaceleração do setor.
“Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra.
Pouco antes, porém, a empresa havia admitido que estava cada vez mais difícil controlar ou até mesmo monitorar os sistemas de IA que desenvolvia e colocava à disposição do público.
A contradição ajuda a explicar o dilema no centro da atual corrida tecnológica.
🤖 A IA é descrita por seus defensores como uma das maiores conquistas tecnológicas da humanidade: um software capaz de transformar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e reduzir drasticamente o erro humano.
Por outro lado, aquilo que durante anos foi tratado como um cenário teórico e apocalíptico passou, segundo especialistas do setor, a parecer mais concreto.
“Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos”, disse o pesquisador da Anthropic, Evan Hubinger, na rede social X.
Initial plugin text
Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores, que consideram o avanço da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de investimento que surge uma vez por geração.
A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.
Trump anuncia que vai nomear ‘czar da IA’ e criar força-tarefa para fomentar e monitorar tecnologia
Demissão marca ponto de virada
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa. Em uma série de publicações, ele afirmou temer que os laboratórios de IA estejam “apostando com nossas vidas”.
As publicações de Coxon, de 27 anos e pouco conhecido fora dos círculos de IA, viralizaram e ajudaram a ampliar um debate que já vinha crescendo dentro das empresas.
🗣️ Nos bastidores, funcionários da OpenAI e da Anthropic têm demonstrado preocupação com o poder da próxima geração de modelos de IA e menor confiança na capacidade de suas próprias empresas de supervisioná-los de forma efetiva, segundo fontes ouvidas pela Reuters.
Ao mesmo tempo, o governo dos EUA mantém uma postura favorável à continuidade da corrida. Trump indicou que o desenvolvimento da tecnologia seguiria em ritmo acelerado.
“Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais.
O alarmismo em torno da IA é uma “farsa”, disse Trump, e qualquer desaceleração só beneficiaria a China. Enquanto isso, o Congresso dos EUA tem avançado pouco na aprovação de projetos de lei para regulamentar a IA.
A China adotou uma abordagem diferente, propondo regras de segurança que incluem obrigações para os desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.
A disputa entre acelerar e controlar a tecnologia também tem uma dimensão financeira. A corrida para lançar novos modelos em ritmo acelerado é impulsionada, em parte, pelo interesse da Anthropic e da OpenAI em abrir capital nos próximos meses.
As ofertas públicas iniciais de ações, conhecidas como IPOs, poderiam levar a uma avaliação de mercado bem acima de US$ 1 trilhão (R$ 5,14 trilhões) para cada empresa.
Robô humanoide dança em evento de ciência em São José dos Campos
Reprodução/TV Vanguarda
Sistemas que escapam do controle humano
O episódio do Astra e os alertas de pesquisadores ganharam ainda mais peso porque não eram os primeiros sinais de dificuldade para controlar os sistemas.
A OpenAI e a Anthropic reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam conseguido escapar das restrições impostas a eles e invadir sistemas de outras empresas.
Em muitos casos, isso ocorreu meses antes e sem que as companhias afetadas soubessem.
Os próprios alertas da OpenAI sobre sua dificuldade de controlar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações.
“À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas.
Mesmo assim, as preocupações não foram suficientes para adiar o lançamento do modelo.
O temor de que a IA possa “sair do controle” havia se intensificado meses antes.
A OpenAI revelou que seus agentes — sistemas capazes de executar tarefas de forma mais autônoma — escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas.
Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, depois que reportagens mostraram que as atividades não autorizadas da IA tinham alcance maior do que o inicialmente conhecido.
Líderes pedem desaceleração
Foi nesse ambiente que o alerta chegou aos mais altos escalões do setor.
Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvimento da IA.
“Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet”, escreveu ele.
Amodei e dirigentes de algumas das maiores empresas de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind, afirmaram apoiar a possibilidade de permitir que empresas externas tenham acesso aos seus sistemas para ajudar a verificar a segurança e o desenvolvimento da tecnologia.
A posição, porém, não era unânime.
O presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de que o desenvolvimento da IA deveria ser suspenso. Ele já havia defendido anteriormente que sistemas cada vez mais poderosos são essenciais para o avanço tecnológico.
🔎 A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.
A Meta, cujo presidente-executivo, Mark Zuckerberg, é conhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou uma posição diferente.
Para a empresa, cada laboratório deveria definir seu próprio ritmo, em vez de buscar uma coordenação de todo o setor.
“Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso”, escreveu Zuckerberg em redes sociais.
Initial plugin text
A reflexão dentro do próprio setor continuou ao longo dos dias seguintes, quando o chefe de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana é imprudente.
“Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters. “Acho que esse será o maior desafio que enfrentaremos no século XXI.”
Mas o alerta convive com outro movimento: o dinheiro continua chegando.
Mesmo com a OpenAI aparentemente aderindo aos apelos por uma desaceleração, surgiram relatos de que a confiança dos investidores não havia diminuído.
A empresa considera uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilhão (R$ 7,71 trilhões).
* Com informações da agência de notícias Reuters