Anthropic bloqueia uso de IA em pesquisa de armas biológicas
A Anthropic anunciou nesta semana que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA) e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.
✅ Siga o canal de notícias internacionais do g1 no WhatsApp
Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.
Essas campanhas de vigilância “visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente”, apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.
Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.
Anthropic
Reuters
Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online.
A empresa, sediada em San Francisco, acusou ainda desenvolvedores chineses de utilizarem o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, “destilavam” esses dados para aprimorar seus próprios modelos.
Destilação é um termo do setor que se refere a um processo no qual um modelo de IA é utilizado para treinar outro. Desenvolvedores chineses já foram acusados anteriormente de empregar essa técnica sem autorização.
Pesquisas biológicas suspeitas
Em relação às pesquisas ligadas a armas biológicas que a Anthropic detectou e bloqueou, a intenção dos envolvidos era menos clara, e a empresa não os identificou.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório.
Os estudos nesses casos estavam concentradas em trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; a uma cepa “altamente patogênica” de gripe aviária; a uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.
A Anthropic anunciou nesta semana que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA) e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.
✅ Siga o canal de notícias internacionais do g1 no WhatsApp
Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.
Essas campanhas de vigilância “visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente”, apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.
Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.
Anthropic
Reuters
Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online.
A empresa, sediada em San Francisco, acusou ainda desenvolvedores chineses de utilizarem o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, “destilavam” esses dados para aprimorar seus próprios modelos.
Destilação é um termo do setor que se refere a um processo no qual um modelo de IA é utilizado para treinar outro. Desenvolvedores chineses já foram acusados anteriormente de empregar essa técnica sem autorização.
Pesquisas biológicas suspeitas
Em relação às pesquisas ligadas a armas biológicas que a Anthropic detectou e bloqueou, a intenção dos envolvidos era menos clara, e a empresa não os identificou.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório.
Os estudos nesses casos estavam concentradas em trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; a uma cepa “altamente patogênica” de gripe aviária; a uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.