Prestes a encerrar seu último ano na Universidade Yale, nos Estados Unidos, Amanda sabe que muitos de seus colegas recorrem a chatbots de IA para escrever trabalhos e outras tarefas escolares.
Mas ela começou a notar algo bizarro em suas aulas de seminário menores: seus colegas sentam-se atrás de laptops com argumentos e pontos de discussão polidos, mas as conversas que se seguem frequentemente caem no vazio em diversos assuntos.
Em uma aula, “a conversa parou completamente, e olhei para minha esquerda e vi alguém digitando ferozmente em seu laptop, perguntando (a um chatbot) a mesma questão que meu professor acabara de fazer sobre a leitura”, Amanda contou à CNN.
Amanda e outras duas estudantes — Jessica e Sophia — frequentam a Universidade Yale. Elas solicitaram anonimato por medo de retaliação de seus colegas e professores, então a CNN concordou em mudar seus nomes para este artigo.
Amanda disse que ficou surpresa. Até aquele dia, ela não percebia que seus colegas estavam usando chatbots durante as aulas e compartilhando o que eles geravam em sala. Agora ela nota o impacto que essa tendência está tendo nas discussões em classe.
“Todo mundo agora meio que soa igual”, ela disse. “Sinto que durante meu primeiro ano na faculdade, eu sentava em seminários onde todos tinham algo diferente para contribuir. Embora as pessoas aproveitassem ideias umas das outras, elas abordavam os temas de ângulos diferentes e ofereciam comentários diversos.”
À medida que a IA se torna cada vez mais integrada à educação, educadores e pesquisadores estão descobrindo que ela pode estar corroendo a capacidade dos estudantes para pensamento e expressão originais.
Um artigo publicado em março na revista Trends in Cognitive Sciences descobriu que os grandes modelos de linguagem estão sistematicamente homogeneizando a expressão e o pensamento humanos em três dimensões — linguagem, perspectiva e raciocínio — e estudantes e educadores dizem que estão vendo os efeitos dessa tendência em suas salas de aula.
E isso faz com que muitos estudantes soem iguais.
Por que os estudantes usam IA na aula
Jessica, uma estudante do último ano em Yale, contou à CNN que usa IA todos os dias para suas aulas. Em um seminário de economia em que o professor faz perguntas diretas aos alunos, “no início da aula, você podia ver cada pessoa colocando cada PDF” em um chatbot.
Ela também usa IA quando tem dificuldade em transformar seus pensamentos em palavras. “Quero comentar e tenho um conceito, mas não sei como formular a frase sozinha”, disse ela
Então ela pediu a um chatbot “para torná-lo mais coeso.”
Um porta-voz da Universidade Yale respondeu que “Os estudantes continuam experimentando o uso de IA nas aulas” e eles estão cientes das formas como a IA é usada em sala de aula, incluindo aquelas descritas neste artigo.
“Para apoiar o aprendizado e o engajamento, estamos observando uma tendência mais ampla de professores projetando cursos com uso limitado ou nenhum de laptops, enfatizando materiais impressos, pensamento original e engajamento direto com colegas e instrutores”, disse o porta-voz à CNN.
Thomas Chatterton Williams, professor visitante de humanidades e pesquisador sênior do Centro Hannah Arendt da Bard College, tem observado o impacto das decisões dos estudantes.
A dependência dos alunos em relação à IA “paradoxalmente elevou o nível mínimo de discussão em aula para um patamar geralmente melhor em cursos com conceitos difíceis, mas também tendeu a impedir pensamentos mais estranhos, excêntricos e originais”, disse Williams, que também é pesquisador não residente do American Enterprise Institute, um think tank que inclui pesquisas sobre educação.
“Minha maior preocupação é que muitos jovens brilhantes nunca consigam ter uma voz própria — aliás, que um número surpreendente deles nem sequer compreenda plenamente o valor da autoria e da propriedade de um ponto de vista.”
Thomas Chatterton Williams
Jessica admitiu que se sentiu mais preguiçosa desde que começou a usar um chatbot para ajudar com suas aulas.
“Tenho pensado em como parei de trabalhar, como minha ética de trabalho diminuiu completamente desde o ensino médio”, disse ela.
Por que a IA faz as pessoas soarem iguais?
Os grandes modelos de linguagem, ou LLMs, são treinados para prever a próxima palavra estatisticamente mais provável dado tudo o que veio antes, disse Zhivar Sourati, estudante de doutorado na Universidade do Sul da Califórnia e primeiro autor do artigo.
Os dados com os quais esses modelos são treinados superrepresentam linguagens e ideias dominantes, então suas respostas às perguntas dos usuários naturalmente “espelham uma fatia estreita e distorcida da experiência humana”, escreveram os pesquisadores em seu estudo. O resultado é “um estreitamento do espaço conceitual no qual os modelos escrevem, falam e raciocinam.”
A homogeneização induzida pela IA acontece em três dimensões: linguagem, perspectiva e estratégias de raciocínio, explicaram os autores. Isso ocorre porque os modelos de IA tendem a reproduzir o que os pesquisadores chamam de pontos de vista “WEIRD” — Ocidental, educado, industrializado, rico e democrático (Western, educated, industrialized, rich and democratic) — mesmo quando explicitamente solicitados a representar outras identidades.
Uma possível consequência, disse Sourati, é que a linguagem e as perspectivas WEIRD poderiam passar a ser percebidas como mais credíveis e “mais socialmente corretas”, marginalizando outros pontos de vista
Um fenômeno semelhante é observado no raciocínio, no qual a técnica popular de conduzir modelos através do pensamento lógico passo a passo pode estar eliminando formas mais intuitivas, culturalmente específicas e criativas de trabalhar um problema.
Quando um grupo interage repetidamente com sistemas de IA, explicou Sourati, isso reduz a criatividade do grupo em comparação com o mesmo grupo sem assistência de IA.
Essa uniformização levanta preocupações em instituições educacionais de todos os níveis.
Quando os estudantes recebiam perguntas abertas e subjetivas sem uma única resposta correta, os professores podiam esperar uma ampla variedade de respostas. Mas se todos os estudantes dependem da IA, suas respostas podem se tornar mais refinadas, mas cairão em apenas algumas categorias semelhantes, disse Sourati. Eles perderão a diversidade de pensamento que as discussões em sala de aula deveriam incentivar.
Sourati está mais preocupado com o fato de que a homogeneização está acontecendo com pessoas que estão desenvolvendo sua capacidade de gerar criativamente novas ideias
Se os estudantes continuarem a usar IA em vez de desenvolver seus próprios processos de pensamento, “eles não aprenderiam a pensar por si mesmos e a ter suas próprias perspectivas.”
Morteza Dehghani, professor de psicologia e ciência da computação na Universidade do Sul da Califórnia, disse que ouviu falar de pessoas usando IA para determinar em quem votar em uma eleição, o que ele considera “bastante assustador.”
“Se as pessoas perderem a diversidade” na forma como pensam, “ou entrarem em preguiça intelectual, é claro que isso afetará muito nossa sociedade”, disse Dehghani, que é coautor do artigo.
Sophia, uma estudante do penúltimo ano em Yale, acredita que seus colegas de antropologia estão usando IA para elaborar roteiros sobre o que dizer em sala de aula porque as pessoas se sentem inseguras sobre o que não sabem.
“Acho que a criatividade está diminuindo porque perdemos a capacidade de fazer conexões”, ela acrescentou.
Se as pessoas continuarem a transferir seu raciocínio para a IA, Dehghani concorda que as comunidades perderão inovação criativa e a capacidade de criticar ideias convencionais ou até mesmo candidatos políticos.
À medida que mais pessoas usam modelos de IA para escrever e pensar, esses resultados são reabsorvidos no discurso humano — e eventualmente nos dados usados para treinar a próxima geração de modelos — então a homogeneização continua se acumulando, disseram os autores do artigo.
“Se estamos transferindo nosso raciocínio para esses modelos, então podemos ser facilmente persuadidos pelo que os modelos nos dizem”, ele disse.
Na educação, Dehghani está preocupado com uma geração de estudantes que estão aprendendo com IA e sendo tutorados por IA. “Eles seriam mais homogêneos na forma como pensam, na forma como escrevem, então isso terá influências de longo prazo”, disse ele.
As pessoas não estão aprendendo a raciocinar
Sophia, que tenta resistir ao uso de IA na escola, disse que acredita que as pessoas estão deixando de priorizar seu próprio pensamento “em favor de ter palavras realmente grandes.”
“Eu literalmente preferiria apenas dizer ao professor: “Não sei do que estamos falando”. Mesmo que você coloque todas as leituras em (um chatbot), ele não tem suas experiências passadas que fazem de você um pensador crítico”, disse ela.
“Eu sinto que as pessoas tinham muito mais a dizer porque elas realmente se sentiam conectadas ao material”, Amanda concordou. “Agora as discussões em sala de aula não estão realmente aprofundando”
Eu acho que muito disso tem a ver com os chatbots de IA, mas também, não existe mais tanto impulso para se conectar com o material pessoalmente.”
Desapontada, ela acrescentou, “Acho que é chato estar em uma aula onde todos têm a mesma coisa para dizer, e ninguém quer se aprofundar ou ir contra o que é diretamente dito no texto ou a norma.”
Daniel Buck, pesquisador do American Enterprise Institute e ex-professor de inglês em quatro escolas K-12 durante sete anos, disse que está preocupado que os estudantes estejam contornando o trabalho cognitivo necessário para participar de discussões em sala de aula e completar tarefas de casa.
“Grande parte do aprendizado acontece nas minúcias entediantes, na luta”, disse Buck. Os estudantes retêm apenas o que realmente passaram tempo processando conscientemente, continuou ele. Se um estudante terceiriza o pensamento para a IA, eles podem ser capazes de reproduzir um argumento em aula, mas não desenvolveram as habilidades subjacentes para aplicar esse conhecimento em outros contextos.
Buck traça uma distinção clara entre a IA e a tecnologia de atalho que a precedeu: SparkNotes. Quando os estudantes dependiam do popular site para encontrar resumos baseados em capítulos de obras literárias, os professores podiam facilmente detectar isso, acrescentou ele.
A IA é uma “versão turbinada do SparkNotes” que “pode responder a qualquer pergunta que você fizer a ela”, disse Buck. Enquanto o SparkNotes oferecia um conjunto fixo de análises, a IA pode responder a qualquer coisa que um professor pergunte, tornando muito mais difícil identificar quando os estudantes não estão pensando por si mesmos.
A diferença está na forma como as pessoas raciocinam. Em vez de ser usada apenas como uma referência, como livros ou mecanismos de busca, a IA é uma participante ativa na “resolução de problemas e tomada de perspectivas”, esclareceu Dehghani.
“O que estamos vendo agora é fundamentalmente diferente de outros períodos de homogeneização da expressão e do pensamento”, disse Williams. “Se até escritores profissionais estão achando extremamente difícil resistir à terceirização do difícil trabalho de lidar com palavras e ideias — como sabemos que estão — não vejo como as gerações mais jovens que não experimentaram um mundo antes da IA de escrita altamente sofisticada e sob demanda serão capazes de fazer isso, não em larga escala.”
Buck se preocupa que os estudantes se formem sem ter desenvolvido relacionamentos com professores, assim como o hábito de trabalho cognitivo sustentado
Isso significa que eles terão dificuldades para resolver problemas no mundo real.
“Há tanto encanto em ler redações originais dos alunos”, disse ele. “Mesmo que não seja tão bem argumentada ou sólida como eu gostaria que fosse, você está vendo esses jovens estudantes, pela primeira vez, começarem a pensar por si mesmos, a analisar, a pensar criticamente. É quase como assistir meus próprios filhos andarem pela primeira vez, quando eles tropeçam e caem, e isso é incrível. Continue fazendo isso.”
Ler e interagir com os pensamentos originais dos alunos em sala de aula ajuda os professores a entenderem como os estudantes pensam e se expressam.
“Existe uma troca interpessoal que acho que é negligenciada quando você conhece seus alunos, eles conhecem você, começam a confiar em você e no seu feedback”, disse ele. “Acho que isso também se perde quando tudo é feito através da IA.”
Como os professores contornam a IA
Sun-Joo Shin, professora de filosofia em Yale, disse: “É uma grande lição de casa para qualquer pessoa envolvida no ensino” continuar explorando maneiras de garantir que os alunos continuem pensando crítica e criativamente na era da IA.
“Estamos em uma transição interessante e empolgante. Quero que meus alunos entendam o material da aula, que é constante antes e depois do surgimento da IA”, disse ela. “Ao mesmo tempo, quero que eles usem essa ferramenta empolgante para sua vantagem, não sejam vítimas dela. O dilema de um instrutor é como ajudar, ou forçar, os alunos a aprenderem o material e pensarem criativamente sem fugir das ferramentas de IA ou sem copiá-las.”
Até o semestre de outono de 2024, ela disse que não estava preocupada com como a IA afetaria a compreensão dos alunos sobre o material em sua aula de lógica matemática. Sua equipe de ensino havia testado os conjuntos de problemas contra os modelos de IA da época, e eles foram incapazes de resolver seus problemas.
Mas desde então, “a IA tem avançado”, e os modelos podem responder às perguntas “muito bem” se os alunos carregarem apostilas e materiais de aprendizagem da classe. Ela começou a pensar em requisitos adicionais na aula além das entregas de conjuntos de problemas.
“Afinal, seria extremamente injusto dar boas notas para respostas geradas por IA”, disse Shin.
Yale possui orientações sobre o uso de IA tanto para alunos quanto para professores
“O uso de IA generativa está sujeito às políticas individuais de cada curso”, afirma um dos sites da universidade. “Encorajamos todos os instrutores a adaptarem nossas políticas modelo para seu curso específico e objetivos de aprendizagem. Ferramentas de detecção de IA não são confiáveis e não são atualmente suportadas.”
Yale fornece políticas modelo para diferentes tipos de aulas, como “Seminário de Escrita Criativa” e “Aula de STEM de Médio Porte”. As políticas variam desde desencorajar o uso de IA com diretrizes sobre quando a IA explicitamente não pode ser usada, até permitir que os alunos usem IA como fonte de ideias mas proibindo-os de submeter textos gerados por chatbots, até encorajar o uso de IA, até encorajar e permitir que os alunos usem IA nas tarefas.
Buck adverte que qualquer trabalho enviado para casa não pode ser verificado como sendo do próprio aluno. Para combater a IA, professores estão voltando a ler textos em voz alta em sala de aula e utilizando “redações manuscritas sob demanda” e “avaliações com papel e lápis”.
A responsabilização em sala de aula frequentemente vem na forma de testes surpresa. Um aluno que tenha pedido à IA um resumo de capítulo em vez de ler o capítulo pode obter as ideias gerais, mas há uma grande chance de que o detalhe específico que o teste perguntará não tenha sido incluído no resumo, disse Buck.
“Se você fez a leitura, era super fácil”, ele disse. “E se você não fez, então não havia como blefar.”
“Eu fiz uma mudança bastante significativa para minhas duas aulas de lógica em termos de requisitos”, disse Shin. Embora ela ainda inclua conjuntos de problemas como parte de suas aulas, ela reduziu o peso deles nas notas dos alunos. Agora, os conjuntos de problemas são avaliados apenas pela conclusão, e feedback é dado aos alunos em vez de notas.
“Usando esses conjuntos de problemas como um banco de questões, tenho duas provas parciais e uma final, todas sendo exames em sala de aula”, ela disse. “Algumas questões são retiradas dos conjuntos de problemas, algumas são ligeiras modificações, algumas exigem que os alunos verifiquem onde uma prova está errada, e algumas são para preencher lacunas em uma prova que eles resolveram nos conjuntos de problemas.”
Para sua aula de computabilidade e lógica, “Tenho aplicado testes orais, um por um, há anos, e um requisito de apresentação desde antes da era da IA, o que tem funcionado muito bem”, ela disse.
Agora, os exames, testes orais e apresentações têm peso maior nas notas dos cursos dos estudantes do que os conjuntos de problemas para resolver em casa.
Williams chegou a um ponto similar por um caminho diferente. Como professor, ele transferiu todas as tarefas de redação para a sala de aula e as tornou espontâneas. No final do semestre, ele avalia os alunos por meio de exames orais.
“Não posso com qualquer confiança atribuir aos estudantes qualquer redação que eu não os veja escrever à mão na minha presença”, disse ele por e-mail. “Acho que isso é uma perda terrível, mas é necessário. A tentação e disponibilidade da IA são grandes demais.”
IA está afetando a educação de outras pessoas
Embora os educadores possam contornar a IA nas avaliações, é igualmente importante que os estudantes sejam intencionais em limitar sua dependência dela durante o aprendizado, especialmente porque isso afeta a educação de outros colegas.
“É frustrante porque mesmo que eu pessoalmente tente me afastar disso, não posso impedir outras pessoas de usá-la”, disse Amanda. “O fato de que outros a utilizam afeta minha educação também, e o valor das duas horas do meu seminário.”
Basil Ghezzi, uma caloura da Bard College que ativamente evita usar IA em seus estudos, se preocupa com os custos ambientais associados ao uso de modelos de IA. Em vez disso, ela encoraja os estudantes a recorrerem aos recursos que já estão ao seu redor.
“Converse com seus professores, converse com seus instrutores, converse com pessoas ao seu redor. Tenha conversas significativas com pessoas em sua vida”, disse ela. Ainda assim, nem todos têm uma abordagem de “tudo ou nada” em relação à IA. Dehghani disse que escreve tópicos capturando ideias que ele originou e pede ao modelo para encontrar falhas em seu trabalho.
Ele espera que mais empresas invistam em modelos de IA que possam gerar variedade e refletir a diversidade de pensamento em nossa sociedade atual. Por enquanto, no entanto, Dehghani sugere que as pessoas devem resistir ao uso da IA para gerar ideias ou para raciocinar.
Os modelos de IA “deveriam ser colaboradores. Eles não deveriam ser agentes que fazem tudo em nosso nome”, disse ele.