Um resumo contendo uma única informação falsa pode modificar a memória que guardamos de uma cena vista anteriormente.
Pesquisadores da Universidade de Georgetown e da Universidade de Washington testaram esse efeito com uma cena animada que representava um acidente. Um carro chega a uma interseção com uma placa de pare ou uma placa de dê a preferência. Em seguida, vira e atropela um pedestre. Os participantes deveriam lembrar o que tinham realmente visto.
Entre 24 e 48 horas depois, eles liam um resumo da cena gerado pelo ChatGPT. Dependendo do grupo, o texto indicava corretamente a placa ou mencionava a outra. Em seguida, os pesquisadores pediam aos participantes que respondessem com base na memória que tinham do vídeo, e não no resumo.
O resultado é claro. Entre as 328 pessoas incluídas na análise, 83,6% das que tinham lido a informação correta no texto do ChatGPT reconheceram a placa correta. Com uma informação enganosa, essa proporção caía para 44,8%. Portanto, o texto lido depois do vídeo havia modificado a resposta sobre um detalhe específico da cena.
Seria possível pensar que um aviso sobre a origem do texto protegeria contra esse efeito. Os participantes eram justamente informados de que o resumo vinha de uma IA ou de um transcritor humano. Na realidade, todos liam um texto produzido com o ChatGPT. A etiqueta «IA» não reduziu de maneira significativa a influência da informação errônea.
O experimento se baseia em um fenômeno conhecido há várias décadas: uma informação recebida depois de um acontecimento pode alterar a memória desse acontecimento. Portanto, os pesquisadores não demonstram que a IA cria uma nova fragilidade no cérebro. Eles constatam que um resumo automatizado pode se tornar uma nova via pela qual uma informação incorreta atua sobre a memória.
A equipe também examinou vinte resumos produzidos pelo ChatGPT e pelo Gemini a partir de dois vídeos curtos. Todos continham erros segundo o método de análise utilizado. Em média, 51,6% dos detalhes considerados centrais eram omitidos. Dezenove dos vinte resumos sequer mencionavam a colisão entre o carro e o pedestre.
Os pesquisadores agora querem estudar situações do mundo real, especialmente resumos de vídeos gravados por policiais. Essa etapa permitirá testar se o mesmo efeito aparece com cenas mais ricas, documentos mais longos e decisões com consequências concretas.