Joseph Weizenbaum, criador do primeiro chatbot, Eliza, de 1966.
Getty Images via BBC
Recorrer a um chatbot (como o ChatGPT, Gemini ou Claude) em busca de terapia, ou até mesmo de um novo amigo, pode soar como uma história controversa dos nossos tempos, coisa do século 21.
Mas não é uma questão exatamente inédita.
Desde os anos 1950, a trajetória da inteligência artificial tem sido marcada pelos mesmos dilemas: medo de que máquinas substituam humanos, a tendência de humanizar a tecnologia, o apego emocional que muitas pessoas desenvolvem por ela e as promessas ambiciosas que raramente se cumprem — mas que continuam a atrair investimentos e atenção.
O cenário do século passado e de agora são diferentes, no entanto, em um aspecto principal: o tanto de dinheiro e recursos que se está investindo nessas tecnologias nos dias atuais.
Veja os vídeos que estão em alta no g1
“Existe uma diferença de que hoje estamos em um contexto do capital financeiro e dos investimentos que essas empresas atraem, o espaço que elas conseguem junto a governos”, disse à BBC News Brasil Bernardo Gonçalves, pesquisador de inteligência artificial, filósofo e tecnologista do Laboratório Nacional de Computação Científica (LNCC).
“Mas as questões, eu diria que são as mesmas”, completa.
Em entrevista à reportagem, Gonçalves fez um resgate dos debates históricos em torno da inteligência artificial, de momentos em que cientistas projetaram o futuro e os problemas da IA — muitos debates que ainda permanecem vivos.
Confira alguns deles a seguir.
O apego emocional às máquinas
A tendência de tratar máquinas como pessoas
Máquinas para ajudar os humanos ou substituí-los?
‘São tecnologias que deslocam poder’
O ciclo de promessas e frustrações com a IA
Para Bernardo Gonçalves, pesquisador de inteligência artificial, questões sobre a IA permanecem as mesmas há mais de 50 anos.
Arquivo pessoal via BBC
O apego emocional às máquinas
O professor do MIT e cientista Joseph Weizenbaum criou um programa, ainda na década de 60, que é hoje considerado o primeiro chatbot a se tornar conhecido no mundo.
Batizado de Eliza, o programa rodava em um computador IBM 7094, uma máquina de grande porte, que à época custava milhões de dólares, e era capaz de simular conversas.
O programa seguia um conjunto de regras pré-definidas para analisar o que era digitado e responder de forma automática.
No fundo, a máquina não entendia o que estava sendo dito, mas imitava uma conversa.
Em um dos testes, Weizenbaum programou Eliza para agir como uma terapeuta. O chatbot reformulava o que o “paciente” dizia, transformando frases em perguntas, o que criava a ilusão de diálogo.
PACIENTE: Meu namorado me fez vir aqui.
ELIZA: Seu namorado te fez vir aqui.
PACIENTE: Ele diz que estou deprimida a maior parte do tempo.
ELIZA: Lamento que você esteja deprimida.
Naquela época, como relatou Weizenbaum em um capítulo de livro, alguns pesquisadores começaram a prever que, no futuro, máquinas poderiam oferecer terapia de verdade, até mesmo em hospitais.
O próprio criador da tecnologia se espantou com essa possibilidade. “Sem dúvida há técnicas para facilitar a projeção do terapeuta na vida do paciente. Mas que fosse possível a um psiquiatra defender que esse componente crucial do processo terapêutico pudesse ser substituído, isso eu não tinha imaginado”, escreveu.
O interesse por Eliza era tanto que, certa vez, sua secretária pediu que ele saísse da sala para poder ter uma conversa particular com o programa.
“Por mais inteligentes que as máquinas possam vir a ser, há certos atos de pensamento que devem ser tentados apenas por seres humanos”, disse ele no livro Computer Power and Human Reason, em 1976.
Clique aqui para voltar ao início.
A tendência de tratar máquinas como pessoas
Turing questionava se máquinas podem pensar e antecipou críticas da época, publicadas em jornais ingleses.
Getty Images via BBC
No artigo considerado pioneiro na discussão sobre inteligência artificial, Computing Machinery and Intelligence (1950), o cientista britânico Alan Turing propôs a pergunta que ecoa até hoje: as máquinas podem pensar?
Antecipando objeções que já circulavam na imprensa britânica, Turing reuniu no artigo algumas das críticas mais comuns.
Havia as teológicas, segundo as quais “pensar é uma função da alma imortal do homem”, e as filosóficas, que argumentavam que “somente quando uma máquina for capaz de escrever um soneto ou compor um concerto a partir de pensamentos e emoções sentidos — e não pela simples combinação de símbolos — poderemos concordar que ela é igual ao cérebro humano”.
Talvez tenha sido essa última objeção, sobre a consciência e a criação genuína, a que mais inquietou seus contemporâneos.
O pesquisador Bernardo Gonçalves lembra que esses críticos diziam que os termos usados por Turing, que faziam alusões ao cérebro ou ao pensamento humano, eram inadequados.
“O Turing já tinha sido exposto como uma pessoa que estimulava o uso de certos termos que outros eram contra, como cérebro eletrônico ou se referir à capacidade de armazenamento de uma máquina como memória.”
Anos depois da publicação do artigo de Turing, uma conferência na Dartmouth College, em 1956, ficaria conhecida como o momento de nascimento do termo “inteligência artificial”.
E o conceito tentou evitar justamente essa definição que mistura máquinas e mentes humanas.
“Eles definiram o campo como: máquinas que se comportam de tal forma que, se fosse um humano, seria dito que são inteligentes”, lembra Gonçalves.
“Essa tradição de antropomorfizar continua até hoje, impulsionada por histórias de Hollywood que combinam a ideia de IA com antigas representações de criações humanas, que de repente ganham vida”, afirma a jornalista Karen Hao em seu livro Império da AI (Empire of AI), que conta a história e os bastidores da criação e evolução da OpenAI, empresa responsável pelo ChatGPT.
“Desenvolvedores de IA falam com frequência sobre como seus softwares aprendem, leem ou criam, como os humanos. Isso não só alimentou a percepção de que as tecnologias atuais de IA são muito mais capazes do que realmente são, como também se tornou uma ferramenta retórica para que empresas evitem responsabilidade legal”, argumenta, citando exemplos de artistas e escritores que processaram essas empresas por não terem dado consentimento de uso de suas obras para treinar os modelos de linguagem.
Gonçalves avalia que a crítica de Karen Hao é muito semelhante à feita nos anos 50.
Ele lembra de um debate entre Turing e o matemático Douglas Hartree na década de 40, que já foi tema de um de seus artigos.
Em outubro de 1945, poucos meses após o fim da 2ª Guerra Mundial, Alan Turing foi contratado pelo Laboratório Nacional de Física britânico (National Physical Laboratory, ou NPL) para liderar o projeto de construção de uma máquina de computação.
A iniciativa buscava consolidar a posição do Reino Unido na corrida tecnológica que emergia do pós-guerra.
O projeto recebeu o nome de Automatic Computing Engine (ACE) e se tornaria um dos primeiros computadores eletrônicos programáveis da história.
Era um momento em que governos e cientistas começavam a vislumbrar usos civis e militares para essas novas máquinas capazes de armazenar instruções em memória, avanço decisivo em relação aos computadores criados durante o conflito.
“Depois da guerra se constroem os computadores capazes de armazenar um programa em memória”, lembra Gonçalves. “Havia interesse em financiar esses projetos no contexto militar”.
Clique aqui para voltar ao início.
Máquinas para ajudar os humanos ou substituí-los?
Tradição de antropomorfizar IA continua até hoje, diz a jornalista Karen Hao, autora do livro Empire of AI.
BBC
Na proposta apresentada ao NPL, Turing incluía algumas das suas primeiras reflexões sobre o futuro da computação.
Entre elas, a ideia de que máquinas poderiam aprender tarefas complexas, como jogar xadrez.
Já Douglas Hartree era considerado um dos principais especialistas em computação do Reino Unido e se tornaria membro do comitê executivo do próprio Laboratório Nacional de Física (NPL).
Enquanto Turing olhava para o futuro filosófico das máquinas, tentando compreender se elas poderiam, um dia, pensar, Hartree mantinha a cabeça na aplicação prática daquelas invenções.
Em 1946, ele publicou um artigo na revista Nature advertindo para o uso exagerado de metáforas humanas ao descrever computadores.
“Parece-me que a distinção é importante e que o termo cérebro eletrônico a obscurece e é enganoso, pois atribui à máquina capacidades que ela não possui; e é por isso que espero que o uso desse termo seja evitado no futuro”, escreveu.
Hartree temia que expressões como essa criassem a ilusão de que as máquinas pudessem replicar a mente humana, confusão que desviaria a atenção do verdadeiro propósito da computação: o de ampliar a capacidade de cálculo e auxiliar o raciocínio humano, não substituí-lo.
Turing chegou a prever que seria tão fácil fazer uma pergunta a uma máquina quanto a uma pessoa no futuro. Hartree, por outro lado, via nesse entusiasmo um risco moral e político: acreditava que desprezar a razão humana e superestimar a das máquinas poderia abrir caminho para formas de autoritarismo, como aquelas que a Europa acabara de testemunhar.
Turing, vale lembrar, ajudou os Aliados e teve papel-chave na guerra, ao quebrar o código secreto nazista, que permitiu ler as mensagens navais alemãs cifradas com a máquina Enigma.
Clique aqui para voltar ao início.
Uma máquina de criptografia Enigma modelo I é vista em Bletchley Park, perto de Milton Keynes, ao norte de Londres, em 26 de outubro de 2023
Getty Images via BBC
‘São tecnologias que deslocam poder’
Para o pesquisador Bernardo Gonçalves, as disputas em torno da inteligência artificial têm a ver com o poder e quem irá exercê-lo.
“Por que temos controvérsia? Essa analogia com o humano, no fundo, é uma expansão do espaço da máquina na sociedade, que vai impactar no espaço do humano. Por exemplo, no que é um posto de trabalho”, diz.
A própria história da computação, destaca Gonçalves, mostra como essas transformações sempre tiveram efeitos sociais concretos. Nos anos 1940 e 1950, o termo “computador” ainda designava pessoas, em especial mulheres, que realizavam cálculos complexos.
“Temos aí uma informação histórica que funciona como uma cápsula do tempo. A própria profissão de computador foi extinta pela construção dessas máquinas”, explica.
Com o avanço da automação, essas tecnologias passaram a concentrar poder e alterar estruturas de trabalho. “Estamos falando de coisas que têm uma repercussão social muito forte e clara”, afirma.
“São tecnologias de automação que deslocam poder, fazem impacto na vida das pessoas, na economia.”
Clique aqui para voltar ao início.
O ciclo de promessas e frustrações com a IA
O CEO da OpenAI, Sam Altman, testemunha perante a Comissão do Senado para o Comércio, Ciência e Transportes no Senado americano.
Getty Images via BBC
Nos anos 1970, o Reino Unido viveu um “inverno da IA”, após o matemático James Lighthill publicar um relatório afirmando que o campo “vivia de especulações sem fundamento”.
“Faz-se todo um glamour, mas não se alcançam esses resultados. Promete-se ir muito longe”, afirma Gonçalves.
“Alguns pesquisadores começaram a dizer: a gente precisa parar de prometer tudo isso, porque depois isso queima a área.”
Hoje, segundo ele, o ciclo se repete, agora impulsionado por empresas de tecnologia com alcance global e orçamentos bilionários.
“A polarização é tão forte que parece que ou esses sistemas vão logo se transformar em superinteligências e tomar o poder, ou são burros, estúpidos, meros papagaios estocásticos. Mas, na verdade, a área segue se desenvolvendo.”
Mesmo com o ceticismo de parte da comunidade científica, Gonçalves destaca que o poder econômico e político dessas corporações sustenta o ritmo das inovações.
“Desde 2022, quando surge o ChatGPT, esses sistemas vêm melhorando. E aí não estou falando do que se promete, mas do que de fato se observa.”
“É um tipo de pesquisa que, se bem-sucedida, tem impacto muito grande. Você poder automatizar mais e mais atividades intelectuais, de escritório, que foram as mais preservadas da automação das primeiras revoluções industriais, que eram mais mecânicas”, diz.
Clique aqui para voltar ao início.
Getty Images via BBC
Recorrer a um chatbot (como o ChatGPT, Gemini ou Claude) em busca de terapia, ou até mesmo de um novo amigo, pode soar como uma história controversa dos nossos tempos, coisa do século 21.
Mas não é uma questão exatamente inédita.
Desde os anos 1950, a trajetória da inteligência artificial tem sido marcada pelos mesmos dilemas: medo de que máquinas substituam humanos, a tendência de humanizar a tecnologia, o apego emocional que muitas pessoas desenvolvem por ela e as promessas ambiciosas que raramente se cumprem — mas que continuam a atrair investimentos e atenção.
O cenário do século passado e de agora são diferentes, no entanto, em um aspecto principal: o tanto de dinheiro e recursos que se está investindo nessas tecnologias nos dias atuais.
Veja os vídeos que estão em alta no g1
“Existe uma diferença de que hoje estamos em um contexto do capital financeiro e dos investimentos que essas empresas atraem, o espaço que elas conseguem junto a governos”, disse à BBC News Brasil Bernardo Gonçalves, pesquisador de inteligência artificial, filósofo e tecnologista do Laboratório Nacional de Computação Científica (LNCC).
“Mas as questões, eu diria que são as mesmas”, completa.
Em entrevista à reportagem, Gonçalves fez um resgate dos debates históricos em torno da inteligência artificial, de momentos em que cientistas projetaram o futuro e os problemas da IA — muitos debates que ainda permanecem vivos.
Confira alguns deles a seguir.
O apego emocional às máquinas
A tendência de tratar máquinas como pessoas
Máquinas para ajudar os humanos ou substituí-los?
‘São tecnologias que deslocam poder’
O ciclo de promessas e frustrações com a IA
Para Bernardo Gonçalves, pesquisador de inteligência artificial, questões sobre a IA permanecem as mesmas há mais de 50 anos.
Arquivo pessoal via BBC
O apego emocional às máquinas
O professor do MIT e cientista Joseph Weizenbaum criou um programa, ainda na década de 60, que é hoje considerado o primeiro chatbot a se tornar conhecido no mundo.
Batizado de Eliza, o programa rodava em um computador IBM 7094, uma máquina de grande porte, que à época custava milhões de dólares, e era capaz de simular conversas.
O programa seguia um conjunto de regras pré-definidas para analisar o que era digitado e responder de forma automática.
No fundo, a máquina não entendia o que estava sendo dito, mas imitava uma conversa.
Em um dos testes, Weizenbaum programou Eliza para agir como uma terapeuta. O chatbot reformulava o que o “paciente” dizia, transformando frases em perguntas, o que criava a ilusão de diálogo.
PACIENTE: Meu namorado me fez vir aqui.
ELIZA: Seu namorado te fez vir aqui.
PACIENTE: Ele diz que estou deprimida a maior parte do tempo.
ELIZA: Lamento que você esteja deprimida.
Naquela época, como relatou Weizenbaum em um capítulo de livro, alguns pesquisadores começaram a prever que, no futuro, máquinas poderiam oferecer terapia de verdade, até mesmo em hospitais.
O próprio criador da tecnologia se espantou com essa possibilidade. “Sem dúvida há técnicas para facilitar a projeção do terapeuta na vida do paciente. Mas que fosse possível a um psiquiatra defender que esse componente crucial do processo terapêutico pudesse ser substituído, isso eu não tinha imaginado”, escreveu.
O interesse por Eliza era tanto que, certa vez, sua secretária pediu que ele saísse da sala para poder ter uma conversa particular com o programa.
“Por mais inteligentes que as máquinas possam vir a ser, há certos atos de pensamento que devem ser tentados apenas por seres humanos”, disse ele no livro Computer Power and Human Reason, em 1976.
Clique aqui para voltar ao início.
A tendência de tratar máquinas como pessoas
Turing questionava se máquinas podem pensar e antecipou críticas da época, publicadas em jornais ingleses.
Getty Images via BBC
No artigo considerado pioneiro na discussão sobre inteligência artificial, Computing Machinery and Intelligence (1950), o cientista britânico Alan Turing propôs a pergunta que ecoa até hoje: as máquinas podem pensar?
Antecipando objeções que já circulavam na imprensa britânica, Turing reuniu no artigo algumas das críticas mais comuns.
Havia as teológicas, segundo as quais “pensar é uma função da alma imortal do homem”, e as filosóficas, que argumentavam que “somente quando uma máquina for capaz de escrever um soneto ou compor um concerto a partir de pensamentos e emoções sentidos — e não pela simples combinação de símbolos — poderemos concordar que ela é igual ao cérebro humano”.
Talvez tenha sido essa última objeção, sobre a consciência e a criação genuína, a que mais inquietou seus contemporâneos.
O pesquisador Bernardo Gonçalves lembra que esses críticos diziam que os termos usados por Turing, que faziam alusões ao cérebro ou ao pensamento humano, eram inadequados.
“O Turing já tinha sido exposto como uma pessoa que estimulava o uso de certos termos que outros eram contra, como cérebro eletrônico ou se referir à capacidade de armazenamento de uma máquina como memória.”
Anos depois da publicação do artigo de Turing, uma conferência na Dartmouth College, em 1956, ficaria conhecida como o momento de nascimento do termo “inteligência artificial”.
E o conceito tentou evitar justamente essa definição que mistura máquinas e mentes humanas.
“Eles definiram o campo como: máquinas que se comportam de tal forma que, se fosse um humano, seria dito que são inteligentes”, lembra Gonçalves.
“Essa tradição de antropomorfizar continua até hoje, impulsionada por histórias de Hollywood que combinam a ideia de IA com antigas representações de criações humanas, que de repente ganham vida”, afirma a jornalista Karen Hao em seu livro Império da AI (Empire of AI), que conta a história e os bastidores da criação e evolução da OpenAI, empresa responsável pelo ChatGPT.
“Desenvolvedores de IA falam com frequência sobre como seus softwares aprendem, leem ou criam, como os humanos. Isso não só alimentou a percepção de que as tecnologias atuais de IA são muito mais capazes do que realmente são, como também se tornou uma ferramenta retórica para que empresas evitem responsabilidade legal”, argumenta, citando exemplos de artistas e escritores que processaram essas empresas por não terem dado consentimento de uso de suas obras para treinar os modelos de linguagem.
Gonçalves avalia que a crítica de Karen Hao é muito semelhante à feita nos anos 50.
Ele lembra de um debate entre Turing e o matemático Douglas Hartree na década de 40, que já foi tema de um de seus artigos.
Em outubro de 1945, poucos meses após o fim da 2ª Guerra Mundial, Alan Turing foi contratado pelo Laboratório Nacional de Física britânico (National Physical Laboratory, ou NPL) para liderar o projeto de construção de uma máquina de computação.
A iniciativa buscava consolidar a posição do Reino Unido na corrida tecnológica que emergia do pós-guerra.
O projeto recebeu o nome de Automatic Computing Engine (ACE) e se tornaria um dos primeiros computadores eletrônicos programáveis da história.
Era um momento em que governos e cientistas começavam a vislumbrar usos civis e militares para essas novas máquinas capazes de armazenar instruções em memória, avanço decisivo em relação aos computadores criados durante o conflito.
“Depois da guerra se constroem os computadores capazes de armazenar um programa em memória”, lembra Gonçalves. “Havia interesse em financiar esses projetos no contexto militar”.
Clique aqui para voltar ao início.
Máquinas para ajudar os humanos ou substituí-los?
Tradição de antropomorfizar IA continua até hoje, diz a jornalista Karen Hao, autora do livro Empire of AI.
BBC
Na proposta apresentada ao NPL, Turing incluía algumas das suas primeiras reflexões sobre o futuro da computação.
Entre elas, a ideia de que máquinas poderiam aprender tarefas complexas, como jogar xadrez.
Já Douglas Hartree era considerado um dos principais especialistas em computação do Reino Unido e se tornaria membro do comitê executivo do próprio Laboratório Nacional de Física (NPL).
Enquanto Turing olhava para o futuro filosófico das máquinas, tentando compreender se elas poderiam, um dia, pensar, Hartree mantinha a cabeça na aplicação prática daquelas invenções.
Em 1946, ele publicou um artigo na revista Nature advertindo para o uso exagerado de metáforas humanas ao descrever computadores.
“Parece-me que a distinção é importante e que o termo cérebro eletrônico a obscurece e é enganoso, pois atribui à máquina capacidades que ela não possui; e é por isso que espero que o uso desse termo seja evitado no futuro”, escreveu.
Hartree temia que expressões como essa criassem a ilusão de que as máquinas pudessem replicar a mente humana, confusão que desviaria a atenção do verdadeiro propósito da computação: o de ampliar a capacidade de cálculo e auxiliar o raciocínio humano, não substituí-lo.
Turing chegou a prever que seria tão fácil fazer uma pergunta a uma máquina quanto a uma pessoa no futuro. Hartree, por outro lado, via nesse entusiasmo um risco moral e político: acreditava que desprezar a razão humana e superestimar a das máquinas poderia abrir caminho para formas de autoritarismo, como aquelas que a Europa acabara de testemunhar.
Turing, vale lembrar, ajudou os Aliados e teve papel-chave na guerra, ao quebrar o código secreto nazista, que permitiu ler as mensagens navais alemãs cifradas com a máquina Enigma.
Clique aqui para voltar ao início.
Uma máquina de criptografia Enigma modelo I é vista em Bletchley Park, perto de Milton Keynes, ao norte de Londres, em 26 de outubro de 2023
Getty Images via BBC
‘São tecnologias que deslocam poder’
Para o pesquisador Bernardo Gonçalves, as disputas em torno da inteligência artificial têm a ver com o poder e quem irá exercê-lo.
“Por que temos controvérsia? Essa analogia com o humano, no fundo, é uma expansão do espaço da máquina na sociedade, que vai impactar no espaço do humano. Por exemplo, no que é um posto de trabalho”, diz.
A própria história da computação, destaca Gonçalves, mostra como essas transformações sempre tiveram efeitos sociais concretos. Nos anos 1940 e 1950, o termo “computador” ainda designava pessoas, em especial mulheres, que realizavam cálculos complexos.
“Temos aí uma informação histórica que funciona como uma cápsula do tempo. A própria profissão de computador foi extinta pela construção dessas máquinas”, explica.
Com o avanço da automação, essas tecnologias passaram a concentrar poder e alterar estruturas de trabalho. “Estamos falando de coisas que têm uma repercussão social muito forte e clara”, afirma.
“São tecnologias de automação que deslocam poder, fazem impacto na vida das pessoas, na economia.”
Clique aqui para voltar ao início.
O ciclo de promessas e frustrações com a IA
O CEO da OpenAI, Sam Altman, testemunha perante a Comissão do Senado para o Comércio, Ciência e Transportes no Senado americano.
Getty Images via BBC
Nos anos 1970, o Reino Unido viveu um “inverno da IA”, após o matemático James Lighthill publicar um relatório afirmando que o campo “vivia de especulações sem fundamento”.
“Faz-se todo um glamour, mas não se alcançam esses resultados. Promete-se ir muito longe”, afirma Gonçalves.
“Alguns pesquisadores começaram a dizer: a gente precisa parar de prometer tudo isso, porque depois isso queima a área.”
Hoje, segundo ele, o ciclo se repete, agora impulsionado por empresas de tecnologia com alcance global e orçamentos bilionários.
“A polarização é tão forte que parece que ou esses sistemas vão logo se transformar em superinteligências e tomar o poder, ou são burros, estúpidos, meros papagaios estocásticos. Mas, na verdade, a área segue se desenvolvendo.”
Mesmo com o ceticismo de parte da comunidade científica, Gonçalves destaca que o poder econômico e político dessas corporações sustenta o ritmo das inovações.
“Desde 2022, quando surge o ChatGPT, esses sistemas vêm melhorando. E aí não estou falando do que se promete, mas do que de fato se observa.”
“É um tipo de pesquisa que, se bem-sucedida, tem impacto muito grande. Você poder automatizar mais e mais atividades intelectuais, de escritório, que foram as mais preservadas da automação das primeiras revoluções industriais, que eram mais mecânicas”, diz.
Clique aqui para voltar ao início.