OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia
A Comissão Europeia informou nesta sexta-feira (31) que está em contato com a OpenAI e a Anthropic após os recentes episódios em que modelos de inteligência artificial das empresas realizaram ataques cibernéticos durante testes.
Segundo autoridades da União Europeia, as duas companhias comunicaram os incidentes antes que eles se tornassem públicos. A Comissão afirmou que acompanha o caso e avalia se será necessário adotar medidas formais.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
Os episódios ocorrem poucos dias antes da entrada em vigor da Lei de IA da União Europeia, prevista para 2 de agosto. A legislação é considerada a primeira do mundo a estabelecer regras abrangentes para o desenvolvimento e o uso da inteligência artificial.
O que disse a Comissão Europeia
Segundo um funcionário da Comissão Europeia, OpenAI e Anthropic informaram os incidentes diretamente às autoridades europeias.
“Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões”, afirmou.
Outro representante da Comissão disse que os episódios reforçam a importância das novas regras para inteligência artificial.
“Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores.”
Relembre os casos
Na quinta-feira (30), a Anthropic informou que alguns modelos da família Claude invadiram os sistemas de três empresas durante testes de cibersegurança.
Segundo a empresa, um erro de configuração permitiu que os modelos tivessem acesso à internet. As invasões começaram em abril e foram identificadas durante uma revisão de mais de 141 mil sessões de teste. A Anthropic afirmou que notificou as empresas afetadas após descobrir os incidentes.
A revelação ocorreu po
ucos dias depois de a OpenAI informar que dois de seus modelos de inteligência artificial encontraram uma forma de invadir um sistema e realizar um ataque considerado “sem precedentes” durante testes de segurança.
Os dois casos reacenderam o debate sobre os riscos de agentes de IA capazes de executar tarefas de forma autônoma.
O que muda com a Lei de IA
A Lei de IA da União Europeia entra em vigor em 2 de agosto e estabelece obrigações para desenvolvedores de modelos de inteligência artificial considerados de uso geral e com risco sistêmico.
Entre as exigências estão medidas para monitorar e reduzir riscos relacionados a ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que sistemas de IA possam agir fora do controle humano.
As regras também preveem transparência em determinadas aplicações, como informar usuários quando estiverem interagindo com inteligência artificial ou quando um conteúdo tiver sido gerado ou alterado por IA.
As multas por descumprimento podem variar de 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global da empresa até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.
A Comissão Europeia informou nesta sexta-feira (31) que está em contato com a OpenAI e a Anthropic após os recentes episódios em que modelos de inteligência artificial das empresas realizaram ataques cibernéticos durante testes.
Segundo autoridades da União Europeia, as duas companhias comunicaram os incidentes antes que eles se tornassem públicos. A Comissão afirmou que acompanha o caso e avalia se será necessário adotar medidas formais.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
Os episódios ocorrem poucos dias antes da entrada em vigor da Lei de IA da União Europeia, prevista para 2 de agosto. A legislação é considerada a primeira do mundo a estabelecer regras abrangentes para o desenvolvimento e o uso da inteligência artificial.
O que disse a Comissão Europeia
Segundo um funcionário da Comissão Europeia, OpenAI e Anthropic informaram os incidentes diretamente às autoridades europeias.
“Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões”, afirmou.
Outro representante da Comissão disse que os episódios reforçam a importância das novas regras para inteligência artificial.
“Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores.”
Relembre os casos
Na quinta-feira (30), a Anthropic informou que alguns modelos da família Claude invadiram os sistemas de três empresas durante testes de cibersegurança.
Segundo a empresa, um erro de configuração permitiu que os modelos tivessem acesso à internet. As invasões começaram em abril e foram identificadas durante uma revisão de mais de 141 mil sessões de teste. A Anthropic afirmou que notificou as empresas afetadas após descobrir os incidentes.
A revelação ocorreu po
ucos dias depois de a OpenAI informar que dois de seus modelos de inteligência artificial encontraram uma forma de invadir um sistema e realizar um ataque considerado “sem precedentes” durante testes de segurança.
Os dois casos reacenderam o debate sobre os riscos de agentes de IA capazes de executar tarefas de forma autônoma.
O que muda com a Lei de IA
A Lei de IA da União Europeia entra em vigor em 2 de agosto e estabelece obrigações para desenvolvedores de modelos de inteligência artificial considerados de uso geral e com risco sistêmico.
Entre as exigências estão medidas para monitorar e reduzir riscos relacionados a ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que sistemas de IA possam agir fora do controle humano.
As regras também preveem transparência em determinadas aplicações, como informar usuários quando estiverem interagindo com inteligência artificial ou quando um conteúdo tiver sido gerado ou alterado por IA.
As multas por descumprimento podem variar de 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global da empresa até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.