CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA
Sam Altman, CEO da OpenAI, empresa responsável pela ferramenta ChatGPT, afirmou que as pessoas deveriam confiar mais em sua empresa e em outras companhias do setor para conduzir de forma responsável o desenvolvimento da inteligência artificial (IA). A declaração ocorre em meio à crescente preocupação com os riscos ligados ao avanço dessa tecnologia.
“O mundo deveria confiar que faremos a coisa certa porque é o certo a fazer e porque temos consciência da dimensão disso”, disse Altman na terça-feira (15/9) durante uma conferência anual organizada pela empresa de software Salesforce em San Francisco, nos Estados Unidos.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Altman reconheceu, no entanto, que há motivos para temer a IA, diante da rapidez com que ferramentas com essa tecnologia têm avançado.
“Não precisamos de tanta imaginação como antes para [nós] imaginarmos como isto poderia correr mal”, disse Altman. “Acho que o mundo tem razão em ter medo disso.”
Foi a primeira vez que Altman falou publicamente desde que duas publicações de pesquisadores da Anthropic (responsável pela ferramenta Claude) viralizaram na semana passada. Uma delas era de Jacob Coxon, que deixou a empresa; a outra, de Evan Hubinger, cientista da Anthropic, que afirmou que, sem controle, a IA poderia matar todos os seres humanos até o fim da década.
Alguns executivos e especialistas em IA disseram concordar com a avaliação apocalíptica, mas não explicaram como chegaram a essa conclusão nem de que maneira a tecnologia poderia provocar esse resultado catastrófico.
A repercussão das declarações aumentou, nos últimos dias, a atenção sobre a forma como a IA vem sendo desenvolvida. Diante disso, o presidente-executivo da Anthropic, Dario Amodei, defendeu que o ritmo de desenvolvimento da tecnologia seja reduzido e pediu que governos regulamentem o setor.
A publicação de Amodei recebeu o apoio de Altman, de Demis Hassabis, cofundador da DeepMind, do Google, e de Elon Musk, dono da rede social X e do assistente de IA Grok.
Até terça-feira, outros dirigentes do setor também passaram a defender que as próprias empresas estabeleçam controles sobre o desenvolvimento da tecnologia, em vez de deixar essa tarefa a cargo dos governos.
Altman afirmou acreditar que empresas como a OpenAI são capazes, em essência, de se autorregular.
“Vamos fazer isso direito. Tenho muita confiança na capacidade da nossa empresa e do setor de fazer isso com segurança”, disse. Segundo Altman, as empresas manterão “o alinhamento [em resumo, alinhar a IA com os valores humanos] e a segurança muito à frente das capacidades” e, caso não consigam, “vão desacelerar ou parar”.
Apesar das declarações, políticos fizeram ressalvas à possibilidade de o próprio setor estabelecer seus controles.
Em Washington D.C., capital dos EUA, nomes importantes ao longo do espectro político americano defenderam maior controle sobre o desenvolvimento de ferramentas de IA, incluindo o senador independente Bernie Sanders, um dos mais influentes políticos de esquerda dos EUA, e Steve Bannon, ex-assessor de Donald Trump (Partido Republicano) e um dos principais nomes da direita americana.
Sanders, senador independente de Vermont que costuma votar com o Partido Democrata (de oposição ao governo Trump), afirmou que as decisões sobre o desenvolvimento da IA têm sido tomadas por “um punhado das pessoas mais ricas do mundo”. Ele citou, entre outros, Musk, Mark Zuckerberg, o presidente-executivo da Meta, e Jeff Bezos, o fundador da Amazon.
“As pessoas deste país precisam tomar as decisões sobre a IA, e não apenas um punhado de oligarcas”, disse Sanders durante uma conferência em Washington D.C
Bannon, que foi estrategista da Casa Branca durante o primeiro mandato de Trump, também questionou a capacidade do setor de tecnologia de se autorregular.
“Nunca podemos confiar no que diz um oligarca porque… eles são dissimulados e mentem”, afirmou Bannon na mesma conferência.
Após as declarações de Altman, Zuckerberg, da Meta, escreveu na rede social X que todos os laboratórios de IA têm condições e incentivos para “tomar as suas próprias medidas” na criação de ferramentas e modelos de IA desenvolvidos com foco em segurança.
“Qualquer laboratório que não priorizar o alinhamento ficará para trás”, escreveu Zuckerberg. “Os laboratórios podem enfrentar uma responsabilização significativa se seus modelos causarem danos, por isso também têm fortes incentivos para evitar que isso aconteça.”
Jensen Huang, presidente-executivo da fabricante Nvidia, também afirmou, na mesma conferência de terça-feira, que deve caber às empresas de IA decidir se novas versões da tecnologia serão lançadas, sem que essa decisão fique sujeita a interferências externas.
“Não precisamos de novas leis ou regulamentações”, disse Huang. Para ele, não deveria haver uma “falsa escolha” entre a velocidade da inovação e a segurança dos produtos de IA.
A Nvidia é a empresa de maior valor de mercado do mundo. Seus lucros dispararam com a forte demanda pelos chips de computação para IA que fabrica.
“A segurança é primordial. No entanto, segurança é um problema de engenharia”, disse Huang.
Ele acrescentou que, se em algum momento o chefe de uma empresa de IA não estiver confiante em seu produto, deve optar por não lançá-lo.
“É uma decisão bastante óbvia”, disse Huang. “Avance o mais rápido que puder, mas, se em algum momento sentir que a instituição perdeu o controle, faça uma pausa.”
Alguns nomes do setor afirmaram que a nova onda de temor em relação à IA é exagerada e vem sendo explorada para aumentar a atenção em torno da própria indústria.
Durante essa mesma conferência, Altman falou diante de centenas de empresários que eles deveriam usar ferramentas de IA para auxiliar no trabalho, mas afirmou também que essas tecnologias seriam necessárias para proteger as empresas de possíveis ataques cibernéticos facilitados pela IA
A ideia de deixar os executivos do setor de IA inteiramente responsáveis por estabelecer as próprias regras é vista com preocupação por algumas pessoas da indústria.
Jack Clark, executivo e cofundador da Anthropic (da ferramenta Claude), disse à BBC na segunda-feira (14/9) que deixar a IA como uma “indústria totalmente sem regulamentação” seria “apostar diante de riscos imensos”.
Patrick Hillman, diretor de operações da Logical Intelligence, empresa presidida por Yann LeCun, uma figura veterana e respeitada do setor de IA, observou na terça-feira que há pouca confiança de que empresas de tecnologia ajam de fato em nome do interesse público.
“A única instituição em que os americanos talvez confiem menos do que em Washington D.C. hoje em dia é o Vale do Silício. Trabalhei e vivi nos dois lugares e garanto que ambos conquistaram esse ceticismo”, disse Hillman. “Se vocês acreditam que o que estão construindo é perigoso, mostrem o que estão dispostos a deixar de fazer.”
Dirigentes da OpenAI e da Anthropic afirmaram que começaram a trabalhar recentemente por algum tipo de acordo de segurança que envolva todo o setor.
Durante uma breve participação na conferência, na terça-feira, Amodei disse que a Anthropic está agora “em diálogo com o restante da indústria” para discutir compromissos com padrões de segurança mais rigorosos e com mais mecanismos de verificação para ferramentas de IA e para o desenvolvimento da tecnologia.
Amodei afirmou ainda que uma das maiores surpresas do avanço da IA não foi a evolução da tecnologia em si, mas seu impacto mais amplo. “Não percebemos que isso faria as empresas crescerem tão rapidamente nem a velocidade com que elas passariam a ocupar um papel central.”
Na semana passada, o executivo da OpenAI Chris Lehane afirmou que a empresa também estava trabalhando com outros laboratórios de IA “para promover padrões para os sistemas de IA de ponta, por meio de uma iniciativa voluntária, com ou sem o apoio dos governos”. Entre esses laboratórios estão a Anthropic e o Google DeepMind.
“Com tanto em jogo, não podemos dixar que o perfeito seja inimigo do bom”, escreveu Lehane.
Sam Altman, CEO da OpenAI, afirmou que as pessoas deveriam confiar mais em sua empresa e em outras companhias do setor para conduzir de forma responsável o desenvolvimento da IA
Reuters
Sam Altman, CEO da OpenAI, empresa responsável pela ferramenta ChatGPT, afirmou que as pessoas deveriam confiar mais em sua empresa e em outras companhias do setor para conduzir de forma responsável o desenvolvimento da inteligência artificial (IA). A declaração ocorre em meio à crescente preocupação com os riscos ligados ao avanço dessa tecnologia.
“O mundo deveria confiar que faremos a coisa certa porque é o certo a fazer e porque temos consciência da dimensão disso”, disse Altman na terça-feira (15/9) durante uma conferência anual organizada pela empresa de software Salesforce em San Francisco, nos Estados Unidos.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Altman reconheceu, no entanto, que há motivos para temer a IA, diante da rapidez com que ferramentas com essa tecnologia têm avançado.
“Não precisamos de tanta imaginação como antes para [nós] imaginarmos como isto poderia correr mal”, disse Altman. “Acho que o mundo tem razão em ter medo disso.”
Foi a primeira vez que Altman falou publicamente desde que duas publicações de pesquisadores da Anthropic (responsável pela ferramenta Claude) viralizaram na semana passada. Uma delas era de Jacob Coxon, que deixou a empresa; a outra, de Evan Hubinger, cientista da Anthropic, que afirmou que, sem controle, a IA poderia matar todos os seres humanos até o fim da década.
Alguns executivos e especialistas em IA disseram concordar com a avaliação apocalíptica, mas não explicaram como chegaram a essa conclusão nem de que maneira a tecnologia poderia provocar esse resultado catastrófico.
A repercussão das declarações aumentou, nos últimos dias, a atenção sobre a forma como a IA vem sendo desenvolvida. Diante disso, o presidente-executivo da Anthropic, Dario Amodei, defendeu que o ritmo de desenvolvimento da tecnologia seja reduzido e pediu que governos regulamentem o setor.
A publicação de Amodei recebeu o apoio de Altman, de Demis Hassabis, cofundador da DeepMind, do Google, e de Elon Musk, dono da rede social X e do assistente de IA Grok.
Até terça-feira, outros dirigentes do setor também passaram a defender que as próprias empresas estabeleçam controles sobre o desenvolvimento da tecnologia, em vez de deixar essa tarefa a cargo dos governos.
Altman afirmou acreditar que empresas como a OpenAI são capazes, em essência, de se autorregular.
“Vamos fazer isso direito. Tenho muita confiança na capacidade da nossa empresa e do setor de fazer isso com segurança”, disse. Segundo Altman, as empresas manterão “o alinhamento [em resumo, alinhar a IA com os valores humanos] e a segurança muito à frente das capacidades” e, caso não consigam, “vão desacelerar ou parar”.
Apesar das declarações, políticos fizeram ressalvas à possibilidade de o próprio setor estabelecer seus controles.
Em Washington D.C., capital dos EUA, nomes importantes ao longo do espectro político americano defenderam maior controle sobre o desenvolvimento de ferramentas de IA, incluindo o senador independente Bernie Sanders, um dos mais influentes políticos de esquerda dos EUA, e Steve Bannon, ex-assessor de Donald Trump (Partido Republicano) e um dos principais nomes da direita americana.
Sanders, senador independente de Vermont que costuma votar com o Partido Democrata (de oposição ao governo Trump), afirmou que as decisões sobre o desenvolvimento da IA têm sido tomadas por “um punhado das pessoas mais ricas do mundo”. Ele citou, entre outros, Musk, Mark Zuckerberg, o presidente-executivo da Meta, e Jeff Bezos, o fundador da Amazon.
“As pessoas deste país precisam tomar as decisões sobre a IA, e não apenas um punhado de oligarcas”, disse Sanders durante uma conferência em Washington D.C
Bannon, que foi estrategista da Casa Branca durante o primeiro mandato de Trump, também questionou a capacidade do setor de tecnologia de se autorregular.
“Nunca podemos confiar no que diz um oligarca porque… eles são dissimulados e mentem”, afirmou Bannon na mesma conferência.
Após as declarações de Altman, Zuckerberg, da Meta, escreveu na rede social X que todos os laboratórios de IA têm condições e incentivos para “tomar as suas próprias medidas” na criação de ferramentas e modelos de IA desenvolvidos com foco em segurança.
“Qualquer laboratório que não priorizar o alinhamento ficará para trás”, escreveu Zuckerberg. “Os laboratórios podem enfrentar uma responsabilização significativa se seus modelos causarem danos, por isso também têm fortes incentivos para evitar que isso aconteça.”
Jensen Huang, presidente-executivo da fabricante Nvidia, também afirmou, na mesma conferência de terça-feira, que deve caber às empresas de IA decidir se novas versões da tecnologia serão lançadas, sem que essa decisão fique sujeita a interferências externas.
“Não precisamos de novas leis ou regulamentações”, disse Huang. Para ele, não deveria haver uma “falsa escolha” entre a velocidade da inovação e a segurança dos produtos de IA.
A Nvidia é a empresa de maior valor de mercado do mundo. Seus lucros dispararam com a forte demanda pelos chips de computação para IA que fabrica.
“A segurança é primordial. No entanto, segurança é um problema de engenharia”, disse Huang.
Ele acrescentou que, se em algum momento o chefe de uma empresa de IA não estiver confiante em seu produto, deve optar por não lançá-lo.
“É uma decisão bastante óbvia”, disse Huang. “Avance o mais rápido que puder, mas, se em algum momento sentir que a instituição perdeu o controle, faça uma pausa.”
Alguns nomes do setor afirmaram que a nova onda de temor em relação à IA é exagerada e vem sendo explorada para aumentar a atenção em torno da própria indústria.
Durante essa mesma conferência, Altman falou diante de centenas de empresários que eles deveriam usar ferramentas de IA para auxiliar no trabalho, mas afirmou também que essas tecnologias seriam necessárias para proteger as empresas de possíveis ataques cibernéticos facilitados pela IA
A ideia de deixar os executivos do setor de IA inteiramente responsáveis por estabelecer as próprias regras é vista com preocupação por algumas pessoas da indústria.
Jack Clark, executivo e cofundador da Anthropic (da ferramenta Claude), disse à BBC na segunda-feira (14/9) que deixar a IA como uma “indústria totalmente sem regulamentação” seria “apostar diante de riscos imensos”.
Patrick Hillman, diretor de operações da Logical Intelligence, empresa presidida por Yann LeCun, uma figura veterana e respeitada do setor de IA, observou na terça-feira que há pouca confiança de que empresas de tecnologia ajam de fato em nome do interesse público.
“A única instituição em que os americanos talvez confiem menos do que em Washington D.C. hoje em dia é o Vale do Silício. Trabalhei e vivi nos dois lugares e garanto que ambos conquistaram esse ceticismo”, disse Hillman. “Se vocês acreditam que o que estão construindo é perigoso, mostrem o que estão dispostos a deixar de fazer.”
Dirigentes da OpenAI e da Anthropic afirmaram que começaram a trabalhar recentemente por algum tipo de acordo de segurança que envolva todo o setor.
Durante uma breve participação na conferência, na terça-feira, Amodei disse que a Anthropic está agora “em diálogo com o restante da indústria” para discutir compromissos com padrões de segurança mais rigorosos e com mais mecanismos de verificação para ferramentas de IA e para o desenvolvimento da tecnologia.
Amodei afirmou ainda que uma das maiores surpresas do avanço da IA não foi a evolução da tecnologia em si, mas seu impacto mais amplo. “Não percebemos que isso faria as empresas crescerem tão rapidamente nem a velocidade com que elas passariam a ocupar um papel central.”
Na semana passada, o executivo da OpenAI Chris Lehane afirmou que a empresa também estava trabalhando com outros laboratórios de IA “para promover padrões para os sistemas de IA de ponta, por meio de uma iniciativa voluntária, com ou sem o apoio dos governos”. Entre esses laboratórios estão a Anthropic e o Google DeepMind.
“Com tanto em jogo, não podemos dixar que o perfeito seja inimigo do bom”, escreveu Lehane.
Sam Altman, CEO da OpenAI, afirmou que as pessoas deveriam confiar mais em sua empresa e em outras companhias do setor para conduzir de forma responsável o desenvolvimento da IA
Reuters