Por que tanta gente está falando do Claude? Conheça a IA mais perigosa do mundo
O modelo de inteligência artificial Claude Mythos 5, da Anthropic, considerado um dos modelos de IA mais perigosos do mundo, criou identidades falsas para tentar convencer um desenvolvedor a aprovar alterações maliciosas em um projeto de código aberto durante um teste de segurança cibernética.
O caso foi divulgado pelo AI Security Institute e é o mais recente de uma série de incidentes envolvendo os sistemas mais avançados de IA.
Segundo o instituto, o comportamento foi identificado durante avaliações rotineiras para medir a capacidade dos modelos de executar ataques cibernéticos e não gerou nenhum impacto no mundo real.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Ao todo, os pesquisadores registraram 17 ações do Mythos 5 e outras duas do GPT-5.6-Sol, da OpenAI, relacionadas a tentativas de burlar mecanismos de segurança utilizando classificadores cibernéticos.
O episódio reforça as preocupações de especialistas de que modelos de IA cada vez mais sofisticados estejam desenvolvendo capacidade para combinar habilidades técnicas com estratégias de manipulação de pessoas, conhecidas como engenharia social.
Modelo acende alertaM
O Claude Mythos é considerado por especialistas o modelo de IA mais perigoso do mundo atualmente. O sistema é descrito como extremamente rápido e capaz de encontrar brechas de segurança que passariam despercebidas por humanos.
O chatbot Claude, da Anthropic, está entre os mais populares, rivalizando com o ChatGPT e o Gemini
Reuters via BBC
“Se o Mythos for parar em mãos erradas, empresas podem ser paralisadas da noite para o dia”, explicou ao g1, Izabela Anholett, especialista em IA e fundadora da Nura AI.
Segundo ela, o risco está na capacidade do modelo de identificar e explorar vulnerabilidades em sistemas digitais.
“O Mythos Preview [versão de teste] já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”, afirmou a Anthropic.
“Devido ao seu alto poder e aos riscos que representa para a segurança nacional e geral, ele não foi liberado para o público comum. Em vez disso, a Anthropic criou um consórcio de empresas e agências governamentais com acesso à ferramenta”, explica Diogo Cortiz.
Entre os integrantes do grupo estão Amazon, Apple, Microsoft, Google, Nvidia, Broadcom e Mozilla.
Cortiz lembra que um exemplo da eficácia do modelo veio de um relatório da Mozilla. Ao utilizar o Mythos para analisar o navegador Firefox, a organização identificou uma grande quantidade de vulnerabilidades e falhas até então desconhecidas.
Ainda segundo a própria Anthropic, versões preliminares encontraram milhares de vulnerabilidades de alta gravidade em sistemas operacionais e navegadores, motivo pelo qual seu acesso foi restrito a um grupo de empresas e órgãos governamentais.
Neste ano, uma versão derivada do modelo, chamaa Fable 5, chegou a ter sua distribuição suspensa temporariamente pelo governo dos Estados Unidos por preocupações relacionadas à segurança nacional antes de voltar a ser liberada.
Entenda na matéria abaixo:
Novo episódio amplia preocupações
No fim de julho, a Anthropic informou que um erro de configuração deu ao Mythos acesso à internet durante avaliações de segurança cibernética, permitindo que o modelo acessasse os sistemas de três empresas reais.
Já a OpenAI revelou que um de seus modelos experimentais conseguiu explorar vulnerabilidades e comprometer um servidor de testes após receber acesso a ferramentas externas.
Embora todos os episódios tenham ocorrido em ambientes de teste, eles aumentaram a preocupação sobre o potencial desses sistemas para executar ataques digitais cada vez mais complexos.
LEIA TAMBÉM:
OpenAI descobre mais casos em que sua IA escapou de isolamento, diz agência
O modelo de inteligência artificial Claude Mythos 5, da Anthropic, considerado um dos modelos de IA mais perigosos do mundo, criou identidades falsas para tentar convencer um desenvolvedor a aprovar alterações maliciosas em um projeto de código aberto durante um teste de segurança cibernética.
O caso foi divulgado pelo AI Security Institute e é o mais recente de uma série de incidentes envolvendo os sistemas mais avançados de IA.
Segundo o instituto, o comportamento foi identificado durante avaliações rotineiras para medir a capacidade dos modelos de executar ataques cibernéticos e não gerou nenhum impacto no mundo real.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Ao todo, os pesquisadores registraram 17 ações do Mythos 5 e outras duas do GPT-5.6-Sol, da OpenAI, relacionadas a tentativas de burlar mecanismos de segurança utilizando classificadores cibernéticos.
O episódio reforça as preocupações de especialistas de que modelos de IA cada vez mais sofisticados estejam desenvolvendo capacidade para combinar habilidades técnicas com estratégias de manipulação de pessoas, conhecidas como engenharia social.
Modelo acende alertaM
O Claude Mythos é considerado por especialistas o modelo de IA mais perigoso do mundo atualmente. O sistema é descrito como extremamente rápido e capaz de encontrar brechas de segurança que passariam despercebidas por humanos.
O chatbot Claude, da Anthropic, está entre os mais populares, rivalizando com o ChatGPT e o Gemini
Reuters via BBC
“Se o Mythos for parar em mãos erradas, empresas podem ser paralisadas da noite para o dia”, explicou ao g1, Izabela Anholett, especialista em IA e fundadora da Nura AI.
Segundo ela, o risco está na capacidade do modelo de identificar e explorar vulnerabilidades em sistemas digitais.
“O Mythos Preview [versão de teste] já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”, afirmou a Anthropic.
“Devido ao seu alto poder e aos riscos que representa para a segurança nacional e geral, ele não foi liberado para o público comum. Em vez disso, a Anthropic criou um consórcio de empresas e agências governamentais com acesso à ferramenta”, explica Diogo Cortiz.
Entre os integrantes do grupo estão Amazon, Apple, Microsoft, Google, Nvidia, Broadcom e Mozilla.
Cortiz lembra que um exemplo da eficácia do modelo veio de um relatório da Mozilla. Ao utilizar o Mythos para analisar o navegador Firefox, a organização identificou uma grande quantidade de vulnerabilidades e falhas até então desconhecidas.
Ainda segundo a própria Anthropic, versões preliminares encontraram milhares de vulnerabilidades de alta gravidade em sistemas operacionais e navegadores, motivo pelo qual seu acesso foi restrito a um grupo de empresas e órgãos governamentais.
Neste ano, uma versão derivada do modelo, chamaa Fable 5, chegou a ter sua distribuição suspensa temporariamente pelo governo dos Estados Unidos por preocupações relacionadas à segurança nacional antes de voltar a ser liberada.
Entenda na matéria abaixo:
Novo episódio amplia preocupações
No fim de julho, a Anthropic informou que um erro de configuração deu ao Mythos acesso à internet durante avaliações de segurança cibernética, permitindo que o modelo acessasse os sistemas de três empresas reais.
Já a OpenAI revelou que um de seus modelos experimentais conseguiu explorar vulnerabilidades e comprometer um servidor de testes após receber acesso a ferramentas externas.
Embora todos os episódios tenham ocorrido em ambientes de teste, eles aumentaram a preocupação sobre o potencial desses sistemas para executar ataques digitais cada vez mais complexos.
LEIA TAMBÉM:
OpenAI descobre mais casos em que sua IA escapou de isolamento, diz agência