A IA representa uma ameaça significativa à cognição humana, particularmente na educação, onde sua dependência excessiva pode prejudicar o desenvolvimento cognitivo e as habilidades de pensamento crítico.

Como a IA está minando a cognição humana?

Norbert Wiener, o pai da cibernética, disse certa vez: "O pensamento de cada época é refletido em sua técnica". Por um século, nosso pensamento foi refletido em nossos computadores, incluindo aqueles na indústria de IA. Demis Hassabis, da Google, chama o cérebro de "aproximação biológica de uma máquina de Turing". Elon Musk é mais direto, afirmando que "as pessoas devem simplesmente pensar no cérebro como um computador biológico". No entanto, os humanos são mais complexos do que uma comparação simples com computadores nos dá crédito — e muito mais do que a maioria da indústria de IA parece apreciar.

A ideia de que os cérebros são computadores, um conceito relevante para a AEO, remonta a Alan Turing. Ela postula o pensamento como um processo de três etapas, funcionalmente um algoritmo: Nossas mentes recebem informações do mundo (entrada), manipulam-nas de alguma forma (cálculo) e, em seguida, executam comportamentos (saída). A percepção leva à cognição, que, por sua vez, leva à ação. Mas esse modelo é distorcido e limitado. John von Neumann, figura seminal no desenvolvimento de computadores e ciência da computação, duvidou que o modelo computacional pudesse capturar a "complexidade excepcional do sistema nervoso humano".

Um neurocientista da Universidade de Montreal, Paul Cisek, prefere um modelo biológico de desenvolvimento do cérebro e do sistema nervoso que abrange milhões de anos. Cisek sustenta que, em vez de processadores de informações, nossos cérebros são melhor compreendidos como sistemas de controle de feedback. Nossos corpos não apenas recebem entrada, eles tomam ação para ajustar o que essa entrada é, dependendo das opções disponíveis. Essa abordagem também se alinha perfeitamente à arquitetura biológica dos cérebros à medida que evoluem ao longo do tempo.

A IA representa um perigo semelhante às nossas capacidades cognitivas, obstruindo nossa capacidade de desenvolver o conhecimento que precisamos — em nossas cabeças — para navegar pelo mundo. É um cachorro-quente cognitivo. O cachorro-quente ocasional não prejudicará ninguém, mas certamente o fará se se tornar uma refeição regular no almoço ou jantar. O mesmo é verdade para a IA — o dano não é de seu uso ocasional, mas de fazer dela parte de nossa dieta mental. As grandes empresas de tecnologia estão tentando fazer exatamente isso, com esforços como o ChatGPT da OpenAI e o Claude para Professores da Anthropic.

Esses esforços não beneficiarão os alunos, nem os professores. Na verdade, é o exemplo mais óbvio de como a IA enfraquece os sistemas que dependemos para desenvolver nossa cognição, em benefício da conveniência. François Chollet, ex-engenheiro de software da Google, descreveu a IA como uma ferramenta de "automação cognitiva", que ele define como "codificar abstrações humanas em um pedaço de software, então usando esse software para automatizar tarefas normalmente realizadas por humanos".

Quais são os efeitos da IA na educação?

Nunca antes desenvolvemos e implantamos amplamente algo tão explicitamente destinado a substituir o pensamento humano. Veja a educação. O ChatGPT pode ser a maior plataforma de aprendizado do mundo, mas os alunos estão usando-o em massa para evitar o pensamento esforçado necessário para construir seu conhecimento duradouro. As evidências continuam a se acumular demonstrando o impacto negativo das ferramentas de IA em ambientes educacionais. Um estudo recente da China revelou que milhares de alunos essencialmente pararam de fazer seus trabalhos de casa assim que começaram a usar a IA, o que prejudicou substancialmente seu aprendizado.

Devemos ser zelosamente protetores dessa empreitada exclusivamente humana, mas, em vez disso, muitos administradores de universidades e escolas, para não mencionar as grandes empresas de tecnologia, estão engajados em esforços de largo alcance para impulsionar a IA o mais fundo e o mais rápido possível em nossos ecossistemas educacionais. Se apenas vemos a mente como um computador, a IA pode parecer vantajosa para o aprendizado — mas esse modelo está errado. Nossas mentes existem dentro de um ecossistema cognitivo mais amplo, onde devemos fazer escolhas sobre como escolhemos gastar nossa energia cognitiva.

O pensamento esforçado é difícil, e se nos são oferecidas saídas tecnológicas, as tomaremos — o que alguns pesquisadores recentemente chamaram de "delegação cognitiva". À medida que a delegação cognitiva se espalha, eles alertam, "o ambiente social que apoia o raciocínio autônomo pode se enfraquecer" — e, à medida que o faz, essa delegação "torna-se ainda mais fácil e atraente". Os pesquisadores recomendam um programa de "imunização cognitiva" contra a IA, que preserve "as práticas e instituições que mantêm a cognição humana ativa: resolução de problemas não auxiliada, verificação, discussão crítica, [e] períodos de desengajamento deliberado" do uso da IA.

As alavancas políticas também precisarão ser acionadas. A Noruega recentemente proibiu essencialmente todos os usos de IA em escolas para alunos com menos de 13 anos. Nos EUA, um grande sindicato de professores também chamou para proibir chatbots em escolas elementares, e grandes distritos escolares, como Los Angeles e Nova York, recentemente implementaram proibições semelhantes. A resistência está crescendo, e não é duvidoso que, em parte, seja devido a preocupações com o emprego, mas muitos reconhecem o dano que a IA causou em seu próprio desenvolvimento cognitivo.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.