🧠 ChatGPT kann Ihre Erinnerungen verändern

Eine Zusammenfassung, die nur eine einzige falsche Information enthält, kann die Erinnerung verändern, die wir an eine zuvor gesehene Szene behalten.

Forschende der Georgetown University und der University of Washington testeten diesen Effekt mit einer animierten Szene, die einen Unfall darstellte. Ein Auto nähert sich einer Kreuzung, an der entweder ein Stoppschild oder ein Vorfahrt-gewähren-Schild steht. Anschließend biegt es ab und fährt einen Fußgänger an. Die Teilnehmenden sollten sich merken, was sie tatsächlich gesehen hatten.

Zwischen 24 und 48 Stunden später lasen sie eine mit ChatGPT erstellte Zusammenfassung der Szene. Je nach Gruppe gab der Text das Schild korrekt an oder nannte das jeweils andere Schild. Anschließend baten die Forschenden die Teilnehmenden, auf Grundlage ihrer Erinnerung an das Video und nicht der Zusammenfassung zu antworten.

Das Ergebnis ist eindeutig. Von den 328 Personen, die in die Analyse einbezogen wurden, erkannten 83,6 % derjenigen, die die korrekte Information im ChatGPT-Text gelesen hatten, das richtige Schild. Bei einer irreführenden Information sank dieser Anteil auf 44,8 %. Der nach dem Video gelesene Text hatte somit die Antwort zu einem konkreten Detail der Szene verändert.

Man könnte annehmen, dass ein Hinweis auf die Herkunft des Textes vor diesem Effekt schützt. Die Teilnehmenden wurden ausdrücklich darüber informiert, dass die Zusammenfassung entweder von einer KI oder von einem menschlichen Transkribierenden stammte. Tatsächlich lasen jedoch alle einen mit ChatGPT erstellten Text. Die Kennzeichnung „KI“ verringerte den Einfluss der falschen Information nicht signifikant.

Das Experiment stützt sich auf ein seit mehreren Jahrzehnten bekanntes Phänomen: Eine Information, die nach einem Ereignis aufgenommen wird, kann die Erinnerung an dieses Ereignis verändern. Die Forschenden zeigen also nicht, dass KI eine neue Schwäche des Gehirns hervorruft. Sie stellen fest, dass eine automatisierte Zusammenfassung zu einem neuen Weg werden kann, auf dem eine falsche Information auf das Gedächtnis einwirkt.

Das Team untersuchte außerdem zwanzig Zusammenfassungen, die ChatGPT und Gemini ausgehend von zwei kurzen Videos erstellt hatten. Nach ihrer Analysemethode enthielten alle Fehler. Im Durchschnitt wurden 51,6 % der als zentral eingestuften Details ausgelassen. Neunzehn von zwanzig Zusammenfassungen erwähnten nicht einmal den Zusammenstoß zwischen dem Auto und dem Fußgänger.

Die Forschenden wollen nun Situationen aus der realen Welt untersuchen, insbesondere Zusammenfassungen von Videos, die von Polizisten aufgenommen wurden. Dieser Schritt wird zeigen, ob derselbe Effekt auch bei komplexeren Szenen, längeren Dokumenten und Entscheidungen mit konkreten Folgen auftritt.