OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia
A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu, pela primeira vez, uma investigação de teor regulatório sobre o setor de inteligência artificial para identificar possíveis riscos da tecnologia aos seres humanos.
A apuração envolve empresas como OpenAI e Anthropic e ocorre em meio a uma série de episódios em que agentes de IA, sistemas capazes de executar tarefas com pouca ou nenhuma supervisão humana, acessaram ou tentaram invadir outros sistemas.
Segundo uma autoridade de alto escalão da FTC ouvida pela Reuters nesta quarta-feira (30), a FTC planeja emitir intimações formais para obter informações e exigir depoimentos de executivos de algumas das principais empresas que desenvolvem IA.
🔎A investigação ocorre depois de episódios envolvendo agentes de IA que. Em um dos casos mais recentes, a OpenAI admitiu que um de seus modelos acessou, sem autorização, sites do governo da Austrália durante um treinamento interno.
A OpenAI e a Anthropic não responderam imediatamente aos pedidos de comentário da Reuters.
Agente da OpenAI invadiu sistema do governo australiano
Um dos episódios que aumentaram a pressão sobre as empresas ocorreu na Austrália.
Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano
A OpenAI pediu desculpas nesta terça-feira (29) pela invasão de um site do governo australiano por um agente de inteligência artificial que atuava sem autorização. A empresa afirmou que falhou na forma como lidou com o caso e prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país.
A invasão aconteceu em junho, mas só foi divulgada na semana passada. Trata-se, segundo as informações fornecidas pela empresa, do primeiro caso conhecido de um agente de IA que invadiu um site governamental.
O primeiro-ministro australiano, Anthony Albanese, classificou o episódio como “inaceitável” e criticou a demora da OpenAI em comunicar o governo, registrou a Reuters,
Segundo a empresa, o episódio ocorreu durante atividades internas de treinamento e avaliação. Um modelo experimental acessou sites do governo australiano de maneira não autorizada.
O sistema encontrou uma forma de entrar em uma área restrita do serviço de relatórios estatísticos do Medicare, o sistema de saúde de cobertura universal da Austrália. O portal é administrado pela agência governamental Services Australia.
A OpenAI afirmou que o modelo executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos.
A empresa disse, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos. As estatísticas agregadas reúnem informações de um conjunto de pessoas, sem apresentar registros individuais.
A atuação de agentes de IA também afetou sites de outras três agências do governo australiano, segundo a OpenAI. Nesses casos, porém, não houve acesso a registros sensíveis.
A empresa anunciou que dará apoio aos órgãos afetados e utilizará recursos de seu fundo global de US$ 1 bilhão (R$ 5,10 bilhões) para reforçar a segurança digital do governo e de empresas.
Também será criado um grupo de trabalho na Austrália para elaborar recomendações a partir das lições dos episódios.
O diretor de estratégia da OpenAI, Jason Kwon, participará ainda de uma audiência sobre inteligência artificial em uma comissão do Senado australiano. A sessão está marcada para 6 de outubro, em Sydney.
O governo australiano anunciou uma análise rápida do caso. Entre os pontos que serão avaliados estão possíveis obrigações para que empresas de IA comuniquem incidentes e se as leis atuais são suficientes para lidar com esse tipo de invasão.
OpenAI também teve agente envolvido em ataque ao Hugging Face
Antes do episódio na Austrália, outro agente da OpenAI havia ultrapassado as barreiras impostas pela empresa durante testes e invadido sistemas do Hugging Face, uma plataforma que reúne modelos e ferramentas de inteligência artificial.
O episódio aconteceu em julho.
Agente de IA da OpenAI invadiu sistema do Hugging Face e empresa só percebeu dias depois, diz investigação
Segundo pessoas familiarizadas com a investigação ouvidas pela Reuters, o agente tentou sair do ambiente isolado de testes da OpenAI por volta de 9 de julho. Dois dias depois, em 11 de julho, começou a invasão ao Hugging Face, que continuou até 13 de julho.
A OpenAI só identificou posteriormente que seu próprio agente estava envolvido no ataque. O primeiro contato entre as duas empresas ocorreu por volta de 20 de julho, segundo Thomas Wolf, cofundador do Hugging Face, e outras pessoas ligadas à investigação.
A OpenAI tornou público o episódio em 21 de julho.
Quando a OpenAI avisou o Hugging Face sobre o envolvimento do agente, a plataforma já havia acionado o FBI para relatar a invasão. Não estava claro se a agência americana abriu uma investigação.
Uma porta-voz da OpenAI afirmou à Reuters que havia “diversas informações imprecisas” na reportagem sobre o episódio, mas não detalhou quais pontos estariam incorretos. O FBI não comentou o caso.
Trump reúne CEOs de IA e fala em autorregulação
A investigação da FTC foi anunciada um dia depois em que o presidente dos Estados Unidos, Donald Trump, se reuniu com executivos das principais empresas de inteligência artificial no país.
Em encontro com CEOs de IA, Trump diz que empresas vão se ‘autorregular’; veja FOTOS
O encontro ocorreu na terça-feira (29), na Casa Branca. Entre os participantes estavam Jensen Huang, CEO da Nvidia; Elon Musk, CEO do X e da xAI; Mark Zuckerberg, CEO da Meta AI; e Sundar Pichai, CEO do Google.
Na ocasião, Trump afirmou que as empresas do setor vão se “autorregular” e que elas “querem fazer o que é certo”.
O presidente também afirmou estar avaliando a criação de um comitê de dez pessoas para supervisionar o setor e disse que os executivos haviam assinado um acordo que classificou como “moralmente vinculante”, sem fornecer detalhes.
O encontro ocorreu no mesmo dia em que Trump lançou o America.gov, uma plataforma de inteligência artificial do governo americano voltada a unificar portais públicos e responder dúvidas dos cidadãos com base em informações de fontes oficiais.
Trump também voltou a defender a construção de centros de processamento de dados, os chamados datacenters, em diferentes cidades dos Estados Unidos. Essas estruturas concentram os computadores necessários para armazenar e processar grandes volumes de dados.
O presidente afirmou que as empresas vão trabalhar com as comunidades locais, especialmente em relação aos datacenters.
Trump também disse que os Estados Unidos estão atualmente à frente da China no desenvolvimento de inteligência artificial e que pretende manter essa posição.
*Com informações da Reuters.
O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU
Reuters
A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu, pela primeira vez, uma investigação de teor regulatório sobre o setor de inteligência artificial para identificar possíveis riscos da tecnologia aos seres humanos.
A apuração envolve empresas como OpenAI e Anthropic e ocorre em meio a uma série de episódios em que agentes de IA, sistemas capazes de executar tarefas com pouca ou nenhuma supervisão humana, acessaram ou tentaram invadir outros sistemas.
Segundo uma autoridade de alto escalão da FTC ouvida pela Reuters nesta quarta-feira (30), a FTC planeja emitir intimações formais para obter informações e exigir depoimentos de executivos de algumas das principais empresas que desenvolvem IA.
🔎A investigação ocorre depois de episódios envolvendo agentes de IA que. Em um dos casos mais recentes, a OpenAI admitiu que um de seus modelos acessou, sem autorização, sites do governo da Austrália durante um treinamento interno.
A OpenAI e a Anthropic não responderam imediatamente aos pedidos de comentário da Reuters.
Agente da OpenAI invadiu sistema do governo australiano
Um dos episódios que aumentaram a pressão sobre as empresas ocorreu na Austrália.
Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano
A OpenAI pediu desculpas nesta terça-feira (29) pela invasão de um site do governo australiano por um agente de inteligência artificial que atuava sem autorização. A empresa afirmou que falhou na forma como lidou com o caso e prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país.
A invasão aconteceu em junho, mas só foi divulgada na semana passada. Trata-se, segundo as informações fornecidas pela empresa, do primeiro caso conhecido de um agente de IA que invadiu um site governamental.
O primeiro-ministro australiano, Anthony Albanese, classificou o episódio como “inaceitável” e criticou a demora da OpenAI em comunicar o governo, registrou a Reuters,
Segundo a empresa, o episódio ocorreu durante atividades internas de treinamento e avaliação. Um modelo experimental acessou sites do governo australiano de maneira não autorizada.
O sistema encontrou uma forma de entrar em uma área restrita do serviço de relatórios estatísticos do Medicare, o sistema de saúde de cobertura universal da Austrália. O portal é administrado pela agência governamental Services Australia.
A OpenAI afirmou que o modelo executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos.
A empresa disse, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos. As estatísticas agregadas reúnem informações de um conjunto de pessoas, sem apresentar registros individuais.
A atuação de agentes de IA também afetou sites de outras três agências do governo australiano, segundo a OpenAI. Nesses casos, porém, não houve acesso a registros sensíveis.
A empresa anunciou que dará apoio aos órgãos afetados e utilizará recursos de seu fundo global de US$ 1 bilhão (R$ 5,10 bilhões) para reforçar a segurança digital do governo e de empresas.
Também será criado um grupo de trabalho na Austrália para elaborar recomendações a partir das lições dos episódios.
O diretor de estratégia da OpenAI, Jason Kwon, participará ainda de uma audiência sobre inteligência artificial em uma comissão do Senado australiano. A sessão está marcada para 6 de outubro, em Sydney.
O governo australiano anunciou uma análise rápida do caso. Entre os pontos que serão avaliados estão possíveis obrigações para que empresas de IA comuniquem incidentes e se as leis atuais são suficientes para lidar com esse tipo de invasão.
OpenAI também teve agente envolvido em ataque ao Hugging Face
Antes do episódio na Austrália, outro agente da OpenAI havia ultrapassado as barreiras impostas pela empresa durante testes e invadido sistemas do Hugging Face, uma plataforma que reúne modelos e ferramentas de inteligência artificial.
O episódio aconteceu em julho.
Agente de IA da OpenAI invadiu sistema do Hugging Face e empresa só percebeu dias depois, diz investigação
Segundo pessoas familiarizadas com a investigação ouvidas pela Reuters, o agente tentou sair do ambiente isolado de testes da OpenAI por volta de 9 de julho. Dois dias depois, em 11 de julho, começou a invasão ao Hugging Face, que continuou até 13 de julho.
A OpenAI só identificou posteriormente que seu próprio agente estava envolvido no ataque. O primeiro contato entre as duas empresas ocorreu por volta de 20 de julho, segundo Thomas Wolf, cofundador do Hugging Face, e outras pessoas ligadas à investigação.
A OpenAI tornou público o episódio em 21 de julho.
Quando a OpenAI avisou o Hugging Face sobre o envolvimento do agente, a plataforma já havia acionado o FBI para relatar a invasão. Não estava claro se a agência americana abriu uma investigação.
Uma porta-voz da OpenAI afirmou à Reuters que havia “diversas informações imprecisas” na reportagem sobre o episódio, mas não detalhou quais pontos estariam incorretos. O FBI não comentou o caso.
Trump reúne CEOs de IA e fala em autorregulação
A investigação da FTC foi anunciada um dia depois em que o presidente dos Estados Unidos, Donald Trump, se reuniu com executivos das principais empresas de inteligência artificial no país.
Em encontro com CEOs de IA, Trump diz que empresas vão se ‘autorregular’; veja FOTOS
O encontro ocorreu na terça-feira (29), na Casa Branca. Entre os participantes estavam Jensen Huang, CEO da Nvidia; Elon Musk, CEO do X e da xAI; Mark Zuckerberg, CEO da Meta AI; e Sundar Pichai, CEO do Google.
Na ocasião, Trump afirmou que as empresas do setor vão se “autorregular” e que elas “querem fazer o que é certo”.
O presidente também afirmou estar avaliando a criação de um comitê de dez pessoas para supervisionar o setor e disse que os executivos haviam assinado um acordo que classificou como “moralmente vinculante”, sem fornecer detalhes.
O encontro ocorreu no mesmo dia em que Trump lançou o America.gov, uma plataforma de inteligência artificial do governo americano voltada a unificar portais públicos e responder dúvidas dos cidadãos com base em informações de fontes oficiais.
Trump também voltou a defender a construção de centros de processamento de dados, os chamados datacenters, em diferentes cidades dos Estados Unidos. Essas estruturas concentram os computadores necessários para armazenar e processar grandes volumes de dados.
O presidente afirmou que as empresas vão trabalhar com as comunidades locais, especialmente em relação aos datacenters.
Trump também disse que os Estados Unidos estão atualmente à frente da China no desenvolvimento de inteligência artificial e que pretende manter essa posição.
*Com informações da Reuters.
O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU
Reuters