Notícias sobre IA que pode imitar a voz de diretores de escola para golpes, hackers usando inteligência artificial para furar sistemas de cibersegurança educacional, ou especialistas alertando para riscos existenciais da tecnologia. O fluxo de manchetes assustadoras sobre inteligência artificial criou um ambiente em que qualquer professor que usa um chatbot para escrever e-mails para pais pode se sentir na primeira cena de um filme de ficção científica distópica.
Mas especialistas em educação e tecnologia ouvidos pela EdWeek têm uma visão contraintuitiva: esse medo pode ser precisamente o que as escolas precisavam para parar, respirar e tomar decisões mais deliberadas sobre quando e como usar IA com estudantes.
Os medos que já existem sem precisar de ficção científica
Justin Reich, diretor executivo do Laboratório de Sistemas de Ensino do MIT, foi direto ao ponto: “Educadores e famílias têm muito sobre o que conversar, muito com o que se preocupar, apenas abordando os danos causados hoje por esses sistemas. Não é preciso especular sobre danos futuros.”
Os problemas concretos já existem: privacidade de dados de estudantes, o risco de transferir o processamento cognitivo para máquinas, crianças criando deepfakes, ferramentas educacionais construídas rapidamente sem supervisão humana adequada. São questões que merecem atenção independentemente de qualquer cenário apocalíptico.
Reich também tem uma visão crítica sobre as motivações das lideranças das grandes empresas de IA que pedem regulação de suas próprias tecnologias. “Essas pessoas não são honestas”, disse ele. “São autointeressadas e muito ruins em prever o futuro.”
O que o medo da IA está produzindo nas redes escolares
O efeito prático das notícias alarmantes já está aparecendo nas políticas escolares. As duas maiores redes de ensino dos Estados Unidos, Nova York e Los Angeles, recentemente frearam o uso de IA por estudantes. Los Angeles restringiu o uso para todos os alunos; Nova York proibiu no fundamental e médio, mas permite uso limitado no ensino médio. A Flórida aprovou regras que exigem que famílias optem ativamente pelo uso de ferramentas de IA por seus filhos.
Jeremy Roschelle, co-diretor executivo de pesquisa em ciências do aprendizado da Digital Promise, prevê que esse movimento vai ganhar força: “Essas histórias são realmente assustadoras, e quando estamos com medo, queremos pausar e proteger nossas crianças.” Mas Roschelle enxerga uma possibilidade positiva nisso: que distritos escolares usem a pausa para refletir com mais seriedade sobre o papel que a tecnologia deveria ter no aprendizado.
A diferença entre o uso estreito e o uso irresponsável
Rebecca Winthrop, pesquisadora da Instituição Brookings que liderou um exame dos problemas e benefícios da IA generativa em escolas K-12, concluiu que os riscos superam os benefícios na maioria dos casos, mas não descarta usos específicos que ela chama de “estreitos e úteis”.
Ferramentas que ajudam professores a analisar dados de estudantes em tempo real para identificar onde estão as dificuldades, por exemplo, ou tecnologias de IA preditiva que sugerem exercícios personalizados de leitura e matemática com base no histórico do aluno. São usos que ampliam a capacidade do professor e do estudante sem transferir para a máquina o que deveria ser exercício cognitivo humano.
Winthrop faz um alerta específico sobre IA agêntica, a versão mais avançada da tecnologia, capaz de executar sequências de tarefas de forma autônoma: “As escolas devem ter muito cuidado com qualquer IA agêntica em seu ambiente porque ela não está testada.”
Quando os próprios estudantes pedem limites
Um dos casos mais reveladores do artigo vem do Distrito Escolar de Umatilla, em Oregon. A superintendente Heidi Sipe convidou seu conselho consultivo de estudantes para ajudar a definir a política de IA da rede. A resposta dos alunos foi surpreendente: eles defenderam manter a IA fora das aulas de redação, exceto para brainstorming inicial.
Ao mesmo tempo, reconheceram valor em tutores chatbot para determinados tipos de aprendizado e sugeriram treinar os pais no uso da tecnologia para que possam ajudar os filhos de forma mais sofisticada. Estudantes de Umatilla também participaram de um grupo nacional de 98 alunos do ensino médio que elaborou um framework nacional para uso de IA em educação e falaram com legisladores estaduais sobre o tema.
“Temos que ser muito cautelosos e pensar sobre qual deveria ser nosso trabalho central como educadores, que é desenvolver aprendizes fortes e habilidosos no pensamento crítico”, disse Sipe. A IA, nesse enquadramento, é uma questão que os próprios estudantes deveriam aprender a questionar: qual papel ela deveria ter em minha vida?
A lição para o Brasil sobre o medo da IA
O debate americano sobre IA nas escolas tem ressonância direta para o Brasil, onde a adoção de ferramentas de IA por estudantes acontece num vácuo regulatório. O ChatGPT já é usado em trabalhos escolares em escala massiva, mas a maioria das redes de ensino não tem política clara sobre quando e como isso é aceitável.
O paradoxo identificado pelos especialistas americanos se aplica aqui: o medo exagerado que paralisa também pode ser a oportunidade de fazer a pergunta certa antes de comprar mais ferramentas sem avaliação. Não se trata de banir a IA das escolas, mas de ser deliberado sobre para que ela serve, quais habilidades ela não pode substituir e quem deveria estar na conversa quando as regras são definidas. A experiência de Umatilla sugere que incluir os próprios estudantes nessa conversa pode produzir respostas melhores do que qualquer especialista adulto imaginaria.
