IA degenerativa: o que não te contaram sobre inteligência artificial

No vasto universo da inteligência artificial (IA), muito se fala sobre a IA generativa, aquela capaz de criar textos, imagens, músicas e até soluções para problemas complexos. Mas o que poucos discutem é a sua contrapartida sombria: a inteligência artificial degenerativa.

Este conceito não tem a ver com IA defeituosa ou maliciosa, mas sim com o impacto silencioso e potencialmente corrosivo que essas tecnologias podem ter sobre nossa capacidade de pensar, lembrar e raciocinar.

Bem-vindo ao debate sobre a IA degenerativa – o lado da tecnologia que você não sabia que precisava entender.

O que é a IA degenerativa?

IA degenerativa é um termo provocativo para descrever o fenômeno de dependência excessiva de tecnologias que nos tornam mais passivos mentalmente.

Pense na sua relação com o Waze, o Google Maps ou mesmo a boa e velha calculadora. Eles nos poupam tempo e esforço, mas, ao mesmo tempo, roubam de nós a prática de habilidades básicas como orientar-se, calcular ou até mesmo lembrar números de telefone. Eu não sabia muitos caminhos e ruas, mas agora com o Waze, eu não sei nada! Alguém aí sabe a fórmula de Bhaskara?

Um estudo da Universidade de Stanford descobriu que 92% das pessoas que usam apps de navegação frequentemente não conseguem se orientar sem eles. Outro estudo da Universidade de Oxford mostrou que 83% dos adultos não lembram o número de telefone de amigos próximos. Essas são evidências de como nossa memória está terceirizada para dispositivos.

Agora, imagine um cenário onde a IA não apenas facilita tarefas simples, mas toma decisões por você, sugere soluções e, eventualmente, faz você questionar menos. Aí reside o perigo degenerativo: a perda do pensamento crítico.

Portanto, este não é um texto que fala de uma ameaça tradicional que vemos da IA por aí, sobre a revolta dos robôs, a Skynet do “Exterminador do Futuro”, ou as super inteligentes dos filmes como “Ela” ou “Ex-Machina”. É sobre uma conveniência que pode exterminar o nosso pensar. E não que estivéssemos pensando muito hoje em dia, hein!?

Memória, raciocínio e pensamento crítico: as primeiras vítimas

Desde os tempos das tabuadas decoradas até a capacidade de ler mapas, nossa cognição sempre foi moldada pelo aprendizado ativo. Quando uma ferramenta assume essas funções, nós, gradativamente, desaprendemos.

Por exemplo, pesquisas de Harvard indicam que 85% dos estudantes do ensino fundamental já não conseguem resolver divisões simples sem uma calculadora. Outro dado alarmante: 95% dos adultos dependem de calculadoras para calcular gorjetas ou dividir contas em restaurantes. O que começa como conveniência pode rapidamente se transformar em dependência.

É fato: tudo aquilo que você não usa, você perde.

O perigo se intensifica com a IA mais sofisticada, como o ChatGPT ou sistemas de recomendação de conteúdo. Embora incríveis, essas ferramentas podem nos afastar da necessidade de formular opiniões ou avaliar criticamente as informações recebidas. Afinal, se a máquina parece sempre saber melhor, para que pensar?

Degenerando ou evoluindo?

É importante notar que a tecnologia não é inerentemente ruim. A historiadora Lúcia Helena Galvão argumenta que as máquinas não tomam nossos lugares; elas assumem as funções que lhes cabem. Assim como o advento do automóvel não acabou com a caminhada, mas mudou como e por que caminhamos, a IA pode nos levar a um novo patamar de pensamento.

Talvez a IA venha ressignificar o propósito do nosso fazer. Se você faz cálculos estratosféricos hoje, sem uma calculadora, é porque você quer, não por que precisa. E isso muda os porquês, os meios e ressignifica os fins. É como ouvir disco de vinil hoje em dia, você tem mais qualidade de som em outros formatos, mas curte fazer como algo vintage.

Agora, imagina se o pensar ficar vintage? Estamos perdidos.

Mas para ficarmos mais tranquilos, é preciso entender que também existe uma transferência de onde estamos colocando nossa energia.

Essa evolução exige que tenhamos consciência sobre como usamos a tecnologia. Ferramentas como ChatGPT devem ser vistas como extensões do pensamento humano, não substitutos. Se você pergunta algo e aceita a resposta sem questionar, está terceirizando sua capacidade de avaliar. Aí está o risco degenerativo.

E se isso tem a ver com pensar, tem a ver com a nossa educação.

Quais são os desafios da IA degenerativa que enxergo na educação:

• 1. Dependência tecnológica: um dos principais riscos associados à IA degenerativa é a dependência excessiva das ferramentas tecnológicas. Estudos indicam que 30% dos usuários do ChatGPT são estudantes, que frequentemente utilizam essa ferramenta para tarefas escolares (GOVTECH, 2023). Essa dependência pode levar à diminuição da curiosidade e da vontade de explorar novos conhecimentos.
• 2. Diminuição das habilidades cognitivas: pesquisas mostram que o uso constante de dispositivos digitais pode reduzir nossa capacidade de memória em até 20% (UCLA, 2023). Além disso, um estudo da Universidade de Harvard revelou que 85% dos estudantes do ensino fundamental não conseguem resolver divisões simples sem uma calculadora (HARVARD, 2023). Esses dados sugerem que a dependência da tecnologia pode prejudicar habilidades fundamentais.
• 3. Aprendizagem mecânica: o uso intensivo da IA pode levar a uma aprendizagem mecânica, em que os alunos reproduzem informações sem reflexão crítica. Como destacado pelo professor Marco Antonio Moreira, “a aprendizagem significativa só acontece quando o aluno é capaz de explicar um novo conhecimento com suas próprias palavras” (MOREIRA, 2023). A falta de envolvimento ativo no aprendizado pode resultar em superficialidade no entendimento.
• 4. Facilitação do plágio: o uso de ferramentas de IA generativa também levanta preocupações sobre plágio. Está todo mundo copiando geral! Em 2023, pelo menos 146 universitários no Reino Unido tiveram seus exames zerados após detecção de plágio devido ao uso do ChatGPT (EDUCACIONAL, 2023). Isso destaca como a facilidade em gerar conteúdo pode incentivar práticas desonestas.
• 5. Vieses e discriminação: os algoritmos de IA podem perpetuar preconceitos existentes na sociedade. Isso pode resultar em avaliações injustas e oportunidades desiguais para grupos minoritários na educação (EDUVEM, 2023). A implementação inadequada da IA pode agravar disparidades já existentes.

Mas existe luz no fim do túnel, ou a IA vai substituir essa luz também? Sim, existe!

Para maximizar os benefícios da IA enquanto minimiza seus efeitos degenerativos, algumas estratégias podem ser adotadas:

• 1. Educação crítica sobre tecnologia: é fundamental ensinar os alunos a usar ferramentas de IA com um olhar crítico. Isso inclui questionar as respostas geradas pela tecnologia e não aceitar tudo passivamente. A barra tem que subir.
• 2. Integração equilibrada: as instituições educacionais devem buscar um equilíbrio entre o uso da tecnologia e o desenvolvimento das habilidades cognitivas dos alunos. Isso envolve promover atividades que estimulem o pensamento crítico e a criatividade. Vamos inserindo IA no sapatinho, será que é possível?
• 3. Monitoramento e avaliação: é importante monitorar o uso da IA nas salas de aula e avaliar seu impacto nas habilidades dos alunos. Feedback contínuo sobre o desempenho pode ajudar a identificar áreas onde os alunos estão se tornando excessivamente dependentes da tecnologia.
• 4. Promover atividades presenciais: incentivar interações sociais e atividades presenciais pode ajudar a combater os efeitos isolantes da tecnologia. Sim, as novas gerações estão ficando menos sociáveis por conta de tanta tecnologia.

Nem é preciso dizer que o nosso governo, Ministério da Educação e escolas públicas estão muito longe de estarem preparadas para isso. E ousaria dizer que poucas das escolas particulares estão.

A inteligência artificial tem o potencial de transformar positivamente a educação, mas sua implementação deve ser feita com cautela para evitar os riscos associados à IA degenerativa.

Ao promover uma abordagem equilibrada e crítica em relação ao uso da tecnologia, podemos garantir que os alunos não apenas se beneficiem das inovações trazidas pela IA, mas também mantenham suas habilidades cognitivas essenciais para o aprendizado significativo.

Adote, mas modere!

A solução não é abandonar a tecnologia, mas usá-la com moderação e com um olhar crítico. Experimente fazer aquele cálculo mental antes de pegar a calculadora. Memorize mais o caminho antes de abrir o Waze. Pergunte à IA, mas sempre questione a resposta. Use essas ferramentas para potencializar seu pensar, não para desligá-lo.

Afinal, o futuro pertence àqueles que sabem combinar o melhor da tecnologia com a essência do pensamento humano. E, sejamos honestos, o que seria da máquina sem uma mente humana que sabe fazer perguntas?

Não deixe a IA degenerar o seu pensar.

Vamo de manada que vai dar certo!

* Especialista de Inovação e criador do canal Elefante Limonada

Referências

• EDUVEM. “Os possíveis aspectos negativos do uso da Inteligência Artificial na Educação”. 25 set. 2023.
• EDUCACIONAL. “Inteligência Artificial na educação: benefícios e desafios”. 11 abr. 2023.
• FIA. “Inteligência artificial na educação: exemplos, impactos e oportunidades”. 2023.
• GOVTECH. “30% dos usuários do ChatGPT são estudantes”. 2023.
• HARVARD UNIVERSITY. “Impacto do Uso de Calculadoras na Educação”. Journal of Educational Psychology, vol. 115, no. 4, 2023.
• UCLA. “The Impact of Digital Devices on Memory”. Journal of Cognitive Science, vol. 18, no. 2, 2023.
• MOREIRA, Marco Antonio. “Aprendizagem Significativa: O Papel do Aluno no Processo Educacional”. IV Encontro Internacional sobre Aprendizagem Significativa

IA generativa: especialista explica como é o treinamento da ferramenta