Anthropic
Reuters
A Anthropic, empresa que desenvolveu a ferramenta de inteligência artificial Claude, identificou países que tentaram usar sua tecnologia para desenvolver propaganda, drones de guerra e até possíveis armas biológicas. A companhia diz que bloqueou o produto em todas as tentativas detectadas.
✅ Siga o canal de notícias internacionais do g1 no WhatsApp
As informações constam em um relatório ao qual o jornal “The New York Times” teve acesso. Rússia, China, Irã e Iêmen estão entre os países citados pela reportagem.
O relatório da Anthropic lista uma série de usos maliciosos de seus modelos de IA, incluindo suspeitas de monitoramento de opositores exilados por parte da China e do Irã. Um caso destacado no documento é o da Rússia, que usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas visando as eleições na vizinha Moldávia.
Segundo a reportagem, a empresa diz no relatório que não pôde determinar se as pesquisas biológicas serviriam para objetivos legítimos, como criar vacinas, ou ilegítimos, já que os mesmos processos podem ser utilizado tanto para avanços na medicina quanto para a criação de patógenos.
Nos casos em que havia dúvidas, diz a Anthropic, a opção foi de interromper o serviço de IA, por precaução.
Agora no g1
A Anthropic não divulgou nenhum detalhe dos bloqueios que efetuou relativos a pesquisas de possíveis armas biológicas: nem os nomes dos pesquisadores ou das instituições, seus países de vinculação ou os agentes biológicos específicos em questão.
“O potencial de modelos de IA de ponta para facilitar o desenvolvimento de patógenos biológicos conhecidos ou totalmente novos figura entre as mais graves preocupações de especialistas em relação a uma tecnologia que evolui tão rapidamente que até mesmo seus principais criadores duvidam se os seres humanos serão capazes de controlá-la plenamente”, diz a reportagem do “NYT”.
‘Brincando com vidas’
A Anthropic também ganhou atenção no noticiário nesta semana quando um ex-funcionário da empresa acusou a ela e a rival OpenAI de “brincar com as nossas vidas”.
Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, a etapa em que os modelos de IA absorvem grandes quantidades de informação.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.
Reuters
A Anthropic, empresa que desenvolveu a ferramenta de inteligência artificial Claude, identificou países que tentaram usar sua tecnologia para desenvolver propaganda, drones de guerra e até possíveis armas biológicas. A companhia diz que bloqueou o produto em todas as tentativas detectadas.
✅ Siga o canal de notícias internacionais do g1 no WhatsApp
As informações constam em um relatório ao qual o jornal “The New York Times” teve acesso. Rússia, China, Irã e Iêmen estão entre os países citados pela reportagem.
O relatório da Anthropic lista uma série de usos maliciosos de seus modelos de IA, incluindo suspeitas de monitoramento de opositores exilados por parte da China e do Irã. Um caso destacado no documento é o da Rússia, que usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas visando as eleições na vizinha Moldávia.
Segundo a reportagem, a empresa diz no relatório que não pôde determinar se as pesquisas biológicas serviriam para objetivos legítimos, como criar vacinas, ou ilegítimos, já que os mesmos processos podem ser utilizado tanto para avanços na medicina quanto para a criação de patógenos.
Nos casos em que havia dúvidas, diz a Anthropic, a opção foi de interromper o serviço de IA, por precaução.
Agora no g1
A Anthropic não divulgou nenhum detalhe dos bloqueios que efetuou relativos a pesquisas de possíveis armas biológicas: nem os nomes dos pesquisadores ou das instituições, seus países de vinculação ou os agentes biológicos específicos em questão.
“O potencial de modelos de IA de ponta para facilitar o desenvolvimento de patógenos biológicos conhecidos ou totalmente novos figura entre as mais graves preocupações de especialistas em relação a uma tecnologia que evolui tão rapidamente que até mesmo seus principais criadores duvidam se os seres humanos serão capazes de controlá-la plenamente”, diz a reportagem do “NYT”.
‘Brincando com vidas’
A Anthropic também ganhou atenção no noticiário nesta semana quando um ex-funcionário da empresa acusou a ela e a rival OpenAI de “brincar com as nossas vidas”.
Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, a etapa em que os modelos de IA absorvem grandes quantidades de informação.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.