🧠 ChatGPT peut modifier vos souvenirs

Un résumé contenant une seule information fausse peut modifier le souvenir que nous gardons d’une scène pourtant vue auparavant.

Des chercheurs de Georgetown University et de l’Université de Washington ont testé cet effet avec une scène animée représentant un accident. Une voiture arrive à une intersection comportant soit un panneau stop, soit un cédez-le-passage. Elle tourne ensuite et percute un piéton. Les participants devaient retenir ce qu’ils avaient réellement vu.

Entre 24 et 48 heures plus tard, ils lisaient un résumé de la scène généré avec ChatGPT. Selon le groupe, le texte indiquait correctement le panneau ou mentionnait l’autre panneau. Les chercheurs demandaient ensuite aux participants de répondre en se fondant sur leur souvenir de la vidéo, et non sur le résumé.

Le résultat est net. Parmi les 328 personnes retenues dans l’analyse, 83,6 % de celles ayant lu l’information correcte dans le texte de ChatGPT ont reconnu le bon panneau. Avec une information trompeuse, cette proportion tombait à 44,8 %. Le texte lu après la vidéo avait donc modifié la réponse concernant un détail précis de la scène.

On pourrait penser qu’un avertissement sur l’origine du texte protège contre cet effet. Les participants étaient justement informés que le résumé provenait soit d’une IA, soit d’un transcripteur humain. En réalité, tous lisaient un texte produit avec ChatGPT. L’étiquette « IA » n’a pas réduit de manière significative l’influence de l’information erronée.

L’expérience s’appuie sur un phénomène connu depuis plusieurs décennies : une information reçue après un événement peut altérer le souvenir de l’événement. Ici, les chercheurs ne montrent donc pas que l’IA crée une faiblesse nouvelle du cerveau. Ils constatent qu’un résumé automatisé peut devenir une nouvelle voie par laquelle une information incorrecte agit sur la mémoire.

L’équipe a également examiné vingt résumés produits à partir de deux courtes vidéos par ChatGPT et Gemini. Tous contenaient des erreurs selon leur méthode d’analyse. En moyenne, 51,6 % des détails considérés comme centraux étaient omis. Dix-neuf résumés sur vingt ne mentionnaient même pas la collision entre la voiture et le piéton.

Les chercheurs veulent désormais étudier des situations issues du monde réel, notamment les résumés de vidéos enregistrées par des policiers. Cette étape permettra de tester si le même effet apparaît avec des scènes plus riches, des documents plus longs et des décisions ayant des conséquences concrètes.