OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia
Getty Images via BBC
A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram nesta sexta-feira (31) duas fontes da agência Reuters.
Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.
As novas fugas das IAs foram descobertas em meio à investigação anunciada pela OpenAI após a empresa revelar que dois de seus agentes fizeram um ataque virtual contra a empresa de tecnologia Hugging Face.
Agora no g1
Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI.
Os novos casos estão sendo analisados pela empresa, mas uma das fontes informou que eles tiveram alcance mais limitado. Segundo ela, apesar de terem escapado do isolamento, os agentes não saíram da rede da empresa.
Um porta-voz da OpenAI remeteu à declaração anterior da empresa, que afirmava que a companhia estava analisando “atividades mais amplas de nossos modelos”, além do ataque à Hugging Face.
A investigação ampliada da OpenAI começou pouco antes da rival Anthropic revelar que seus modelos também foram responsáveis por ataques cibernéticos contra outras três empresas desde abril.
Getty Images via BBC
A OpenAI descobriu outros casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado que era mantido pela empresa, afirmaram nesta sexta-feira (31) duas fontes da agência Reuters.
Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.
As novas fugas das IAs foram descobertas em meio à investigação anunciada pela OpenAI após a empresa revelar que dois de seus agentes fizeram um ataque virtual contra a empresa de tecnologia Hugging Face.
Agora no g1
Os agentes de IA tinham sido submetidos a testes em que deveriam buscar falhas em sistemas para melhorar suas capacidades de cibersegurança. A avaliação resultou em ataques a diversos serviços disponíveis publicamente, segundo a OpenAI.
Os novos casos estão sendo analisados pela empresa, mas uma das fontes informou que eles tiveram alcance mais limitado. Segundo ela, apesar de terem escapado do isolamento, os agentes não saíram da rede da empresa.
Um porta-voz da OpenAI remeteu à declaração anterior da empresa, que afirmava que a companhia estava analisando “atividades mais amplas de nossos modelos”, além do ataque à Hugging Face.
A investigação ampliada da OpenAI começou pouco antes da rival Anthropic revelar que seus modelos também foram responsáveis por ataques cibernéticos contra outras três empresas desde abril.