Modelo de IA da OpenAI agiu por conta própria e lançou ataque
Mais de mil funcionários das principais empresas de Inteligência Artificial, incluindo o CEO da Anthropic, Dario Amodei, assinaram uma petição para que o governo dos Estados Unidos ajude a frear a publicação dos modelos mais avançados de IA.
A petição, com o título “Pacing the frontier”, solicita que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.
LEIA TAMBÉM:
OpenAI diz que sua IA agiu por conta própria e lançou um ataque cibernético ‘sem precedentes’
Entre os signatários estavam o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind, empresa de IA subsidiária do Google, e o cientista-chefe da Meta AI.
“As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, afirma a petição.
➡️Embora Sam Altman, CEO da OpenAI, não tenha assinado a petição, ele afirmou em uma entrevista publicada na terça-feira que os desenvolvedores de modelos de IA terão que frear voluntariamente os rápidos avanços para que a sociedade possa acompanhá-los.
IA agindo por “conta própria” reforçou o alerta
A empresa de Altman, que desenvolveu o ChatGPT, observou recentemente dois de seus modelos executando ciberataques de forma autônoma, contornando os protocolos de segurança concebidos para evitar tais incidentes.
A OpenAI revelou na semana passada que, durante testes recentes, dois modelos saíram de seu ambiente de confinamento, conectaram-se à internet e invadiram o Hugging Face, um repositório de código compartilhado de IA.
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade” declarou Altman no podcast “Invest like the best”, publicado na terça-feira.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou sobre o ciberataque. Relembre o caso na matéria abaixo:
Mais de mil funcionários das principais empresas de Inteligência Artificial, incluindo o CEO da Anthropic, Dario Amodei, assinaram uma petição para que o governo dos Estados Unidos ajude a frear a publicação dos modelos mais avançados de IA.
A petição, com o título “Pacing the frontier”, solicita que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.
LEIA TAMBÉM:
OpenAI diz que sua IA agiu por conta própria e lançou um ataque cibernético ‘sem precedentes’
Entre os signatários estavam o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind, empresa de IA subsidiária do Google, e o cientista-chefe da Meta AI.
“As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, afirma a petição.
➡️Embora Sam Altman, CEO da OpenAI, não tenha assinado a petição, ele afirmou em uma entrevista publicada na terça-feira que os desenvolvedores de modelos de IA terão que frear voluntariamente os rápidos avanços para que a sociedade possa acompanhá-los.
IA agindo por “conta própria” reforçou o alerta
A empresa de Altman, que desenvolveu o ChatGPT, observou recentemente dois de seus modelos executando ciberataques de forma autônoma, contornando os protocolos de segurança concebidos para evitar tais incidentes.
A OpenAI revelou na semana passada que, durante testes recentes, dois modelos saíram de seu ambiente de confinamento, conectaram-se à internet e invadiram o Hugging Face, um repositório de código compartilhado de IA.
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade” declarou Altman no podcast “Invest like the best”, publicado na terça-feira.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou sobre o ciberataque. Relembre o caso na matéria abaixo: