Homem pede conselho médico ao ChatGPT e IA manda ele ‘entregar para Deus’
Os seres humanos têm criado ferramentas para resolver problemas desde tempos imemoriais. Mas o ritmo dos avanços está se tornando cada vez mais vertiginoso. Em menos de 100 anos passamos da calculadora eletrônica portátil à inteligência artificial generativa. Usamos tanto essas ferramentas que elas quase se tornaram uma extensão de nós.
Pensemos nisso: seríamos capazes de calcular a raiz quadrada de 2.209 ou improvisar uma história infantil? Se o primeiro impulso é perguntar à IA, é porque nossa mente tenta aliviar sua carga, externalizando recursos. Na verdade, esse fenômeno já foi descrito pela literatura científica dos últimos 30 anos como delegação cognitiva, memória externa ou mente estendida.
Muitos cientistas, especialistas da área clínica e educadores, no entanto, estão cada vez mais preocupados com o impacto que a IA terá a longo prazo na mente humana.
LEIA TAMBÉM:
Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo
O estudo do MIT
Para descobrir de que maneira o uso de ferramentas como a inteligência artificial nos afeta cognitivamente, pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) estudaram o que acontece no cérebro ao usar a IA para escrever textos. Durante três sessões, eles mediram a atividade cerebral de 54 jovens e avaliaram a qualidade de seus textos. Um terço deles utilizou o ChatGPT, outro terço o Google, e o restante contou apenas com seu próprio cérebro para compor o texto.
➡️ Os resultados mostraram que aqueles que utilizaram o ChatGPT tiveram um desempenho inferior ao dos demais em termos neuronais, linguísticos e na qualidade de seus textos. Além disso, apresentaram pior memória com relação ao que escreveram e se sentiram menos conectados às ideias escritas.
Assim, os pesquisadores do MIT argumentaram que depender repetidamente do ChatGPT substitui o esforço cognitivo necessário para o pensamento independente. Isso poderia gerar um acúmulo do que chamaram de “déficit cognitivo” ou “dívida cognitiva”, com custos cerebrais a longo prazo.
Limitações e viralização dos resultados
Embora algumas vozes tenham apontado as limitações do estudo, vários meios de comunicação sugeriram com base em esses resultados que o uso da IA gera inevitavelmente uma dívida cognitiva. Ou seja, uma perda progressiva de capacidades mentais que não é visível no curto prazo.
Mas essa repercussão não se refletiu em trabalhos empíricos: as evidências brilham pela ausência. A maioria dos artigos científicos publicados continua sendo teórica, ou até mesmo normativa, oferecendo orientações sobre como prevenir os efeitos cerebrais do uso contínuo da IA. Os resultados nesse campo ainda são limitados e preliminares.
Por que recorremos à IA?
Por outro lado, podemos analisar o impacto da IA na saúde cerebral sob outra perspectiva. Há uma década, os pesquisadores Evan Risko e Sam Gilbert desenvolveram um modelo cognitivo para explicar por que usamos sistemas externos em vez de nosso próprio cérebro. Em outras palavras, eles ajudaram a explicar quais processos mentais seguimos quando, por exemplo, decidimos pesquisar algo no Google ou perguntar à inteligência artificial.
🔍Esses especialistas afirmaram que o impacto cognitivo depende dos objetivos que buscamos ao utilizar esses sistemas. Assim, podemos recorrer a eles para evitar esforço cognitivo ou porque acreditamos que melhorarão nosso desempenho.
Podemos, por exemplo, pedir ao ChatGPT que escreva uma redação porque não nos sentimos capazes. Ou porque queremos comparar ideias e buscar novas perspectivas que aprimorem nosso texto. Portanto, para compreender as consequências cerebrais da delegação cognitiva será essencial perguntar primeiro por que delegamos. Esse é um aspecto que o estudo do MIT não explorou de forma alguma.
Open AI é a dona do ChatGPT
Getty Images via BBC
Recursos cognitivos economizados
Além do motivo pelo qual usamos o ChatGPT, é importante saber o que fazemos com os recursos “economizados”. Ou seja, se nos custou menos tempo ou esforço concluir uma tarefa cognitiva (um resumo, uma redação, um esboço, uma ideia). o que fazemos com o tempo e a energia que economizamos? Simplesmente nos dedicamos à divagação mental? Ou os destinamos a novos aprendizados?
‘Eu me candidatei a papa’: como usar o ChatGPT fez usuários perderem o contato com a realidade
Estudos sobre o uso do Google indicam que, quando o utilizamos para potencializar outros aprendizados — como saber onde localizar informações úteis —, nossa habilidade na tarefa pode melhorar. O mesmo ocorre com a inteligência artificial: usá-la de forma deliberada para potencializar o treinamento cognitivo, ou para dialogar sobre conceitos, em vez de simplesmente pedir a resposta para uma tarefa, pode aprimorar nossa aprendizagem estratégica.
O próprio estudo do MIT que mencionamos oferece evidências a esse respeito: os autores convidaram os participantes para uma quarta sessão, na qual aqueles que haviam usado o ChatGPT não poderiam mais fazê-lo. Em contrapartida, aqueles que usaram o Google ou seu próprio cérebro passaram a ter acesso à IA. Os primeiros continuaram apresentando menor atividade cerebral e pior desempenho, enquanto os segundos apresentaram melhorias em ambos os resultados. Isso indica que o uso da IA pode trazer benefícios em certos cenários (por exemplo, quando integramos nossas ideias às sugestões do ChatGPT), potencializando processos mentais como a atenção e a memória.
Por essa razão é tão importante, especialmente no contexto educacional, definir cuidadosamente quais tarefas poderiam ser automatizadas com a ajuda da IA e quais outras, mais significativas, poderiam ser reforçadas com o tempo e o esforço poupados.
Nem tudo é dívida cognitiva
Em resumo, a dívida cognitiva que o uso contínuo da IA pode gerar é uma realidade possível, mas ainda incerta. O estudo do MIT é promissor e abre as portas para um mundo ainda desconhecido. Mas ainda estamos longe de saber como a IA afeta as capacidades mentais a longo prazo.
Chat GPT
Getty Images via BBC
O estudo citado deu início a uma onda de conclusões catastróficas sobre a dívida cognitiva, mas não definiu quais formas de uso podem ser prejudiciais e quais, ao contrário, podem até ser benéficas. Observar como e para que usamos essas ferramentas de IA (como pode ser visto na árvore de autorreflexão que acompanha este artigo) ajuda a analisar esses fatores antes de cair em interpretações apocalípticas.
Madalin Marian Deliu Dumitru: docente da Faculdade de Ciências da Saúde, Universidade Católica de Ávila; Universidade de Salamanca
Patricia Alzola Bordón: pesquisadora de doutorado em formação (especialização em Neuropsicologia), Universidade de Salamanca
Os seres humanos têm criado ferramentas para resolver problemas desde tempos imemoriais. Mas o ritmo dos avanços está se tornando cada vez mais vertiginoso. Em menos de 100 anos passamos da calculadora eletrônica portátil à inteligência artificial generativa. Usamos tanto essas ferramentas que elas quase se tornaram uma extensão de nós.
Pensemos nisso: seríamos capazes de calcular a raiz quadrada de 2.209 ou improvisar uma história infantil? Se o primeiro impulso é perguntar à IA, é porque nossa mente tenta aliviar sua carga, externalizando recursos. Na verdade, esse fenômeno já foi descrito pela literatura científica dos últimos 30 anos como delegação cognitiva, memória externa ou mente estendida.
Muitos cientistas, especialistas da área clínica e educadores, no entanto, estão cada vez mais preocupados com o impacto que a IA terá a longo prazo na mente humana.
LEIA TAMBÉM:
Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo
O estudo do MIT
Para descobrir de que maneira o uso de ferramentas como a inteligência artificial nos afeta cognitivamente, pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) estudaram o que acontece no cérebro ao usar a IA para escrever textos. Durante três sessões, eles mediram a atividade cerebral de 54 jovens e avaliaram a qualidade de seus textos. Um terço deles utilizou o ChatGPT, outro terço o Google, e o restante contou apenas com seu próprio cérebro para compor o texto.
➡️ Os resultados mostraram que aqueles que utilizaram o ChatGPT tiveram um desempenho inferior ao dos demais em termos neuronais, linguísticos e na qualidade de seus textos. Além disso, apresentaram pior memória com relação ao que escreveram e se sentiram menos conectados às ideias escritas.
Assim, os pesquisadores do MIT argumentaram que depender repetidamente do ChatGPT substitui o esforço cognitivo necessário para o pensamento independente. Isso poderia gerar um acúmulo do que chamaram de “déficit cognitivo” ou “dívida cognitiva”, com custos cerebrais a longo prazo.
Limitações e viralização dos resultados
Embora algumas vozes tenham apontado as limitações do estudo, vários meios de comunicação sugeriram com base em esses resultados que o uso da IA gera inevitavelmente uma dívida cognitiva. Ou seja, uma perda progressiva de capacidades mentais que não é visível no curto prazo.
Mas essa repercussão não se refletiu em trabalhos empíricos: as evidências brilham pela ausência. A maioria dos artigos científicos publicados continua sendo teórica, ou até mesmo normativa, oferecendo orientações sobre como prevenir os efeitos cerebrais do uso contínuo da IA. Os resultados nesse campo ainda são limitados e preliminares.
Por que recorremos à IA?
Por outro lado, podemos analisar o impacto da IA na saúde cerebral sob outra perspectiva. Há uma década, os pesquisadores Evan Risko e Sam Gilbert desenvolveram um modelo cognitivo para explicar por que usamos sistemas externos em vez de nosso próprio cérebro. Em outras palavras, eles ajudaram a explicar quais processos mentais seguimos quando, por exemplo, decidimos pesquisar algo no Google ou perguntar à inteligência artificial.
🔍Esses especialistas afirmaram que o impacto cognitivo depende dos objetivos que buscamos ao utilizar esses sistemas. Assim, podemos recorrer a eles para evitar esforço cognitivo ou porque acreditamos que melhorarão nosso desempenho.
Podemos, por exemplo, pedir ao ChatGPT que escreva uma redação porque não nos sentimos capazes. Ou porque queremos comparar ideias e buscar novas perspectivas que aprimorem nosso texto. Portanto, para compreender as consequências cerebrais da delegação cognitiva será essencial perguntar primeiro por que delegamos. Esse é um aspecto que o estudo do MIT não explorou de forma alguma.
Open AI é a dona do ChatGPT
Getty Images via BBC
Recursos cognitivos economizados
Além do motivo pelo qual usamos o ChatGPT, é importante saber o que fazemos com os recursos “economizados”. Ou seja, se nos custou menos tempo ou esforço concluir uma tarefa cognitiva (um resumo, uma redação, um esboço, uma ideia). o que fazemos com o tempo e a energia que economizamos? Simplesmente nos dedicamos à divagação mental? Ou os destinamos a novos aprendizados?
‘Eu me candidatei a papa’: como usar o ChatGPT fez usuários perderem o contato com a realidade
Estudos sobre o uso do Google indicam que, quando o utilizamos para potencializar outros aprendizados — como saber onde localizar informações úteis —, nossa habilidade na tarefa pode melhorar. O mesmo ocorre com a inteligência artificial: usá-la de forma deliberada para potencializar o treinamento cognitivo, ou para dialogar sobre conceitos, em vez de simplesmente pedir a resposta para uma tarefa, pode aprimorar nossa aprendizagem estratégica.
O próprio estudo do MIT que mencionamos oferece evidências a esse respeito: os autores convidaram os participantes para uma quarta sessão, na qual aqueles que haviam usado o ChatGPT não poderiam mais fazê-lo. Em contrapartida, aqueles que usaram o Google ou seu próprio cérebro passaram a ter acesso à IA. Os primeiros continuaram apresentando menor atividade cerebral e pior desempenho, enquanto os segundos apresentaram melhorias em ambos os resultados. Isso indica que o uso da IA pode trazer benefícios em certos cenários (por exemplo, quando integramos nossas ideias às sugestões do ChatGPT), potencializando processos mentais como a atenção e a memória.
Por essa razão é tão importante, especialmente no contexto educacional, definir cuidadosamente quais tarefas poderiam ser automatizadas com a ajuda da IA e quais outras, mais significativas, poderiam ser reforçadas com o tempo e o esforço poupados.
Nem tudo é dívida cognitiva
Em resumo, a dívida cognitiva que o uso contínuo da IA pode gerar é uma realidade possível, mas ainda incerta. O estudo do MIT é promissor e abre as portas para um mundo ainda desconhecido. Mas ainda estamos longe de saber como a IA afeta as capacidades mentais a longo prazo.
Chat GPT
Getty Images via BBC
O estudo citado deu início a uma onda de conclusões catastróficas sobre a dívida cognitiva, mas não definiu quais formas de uso podem ser prejudiciais e quais, ao contrário, podem até ser benéficas. Observar como e para que usamos essas ferramentas de IA (como pode ser visto na árvore de autorreflexão que acompanha este artigo) ajuda a analisar esses fatores antes de cair em interpretações apocalípticas.
Madalin Marian Deliu Dumitru: docente da Faculdade de Ciências da Saúde, Universidade Católica de Ávila; Universidade de Salamanca
Patricia Alzola Bordón: pesquisadora de doutorado em formação (especialização em Neuropsicologia), Universidade de Salamanca