⚕️ Patienten verhalten sich gegenüber einer Ki nicht gleich wie gegenüber einem Arzt
Medizinische Chatbots und Selbstbewertungstools werden zunehmend als erster Kontakt zwischen Patient und Gesundheitssystem eingesetzt. Sie helfen, die Dringlichkeit einer Situation zu bestimmen, bevor ein Fachmann eingreift. Diese neue Forschung zeigt jedoch, dass die Wirksamkeit dieser Werkzeuge nicht nur von ihrer Rechenleistung abhängt: Sie beruht auch auf der Qualität der von den Nutzern bereitgestellten Informationen.
Die Studie wurde vom Team um Professor Wilfried Kunde von der Universität Würzburg durchgeführt und in Nature Health veröffentlicht. 500 Teilnehmer waren beteiligt, die Symptomberichte für zwei häufige Beschwerden verfassen mussten: ungewöhnliche Kopfschmerzen und grippeähnliche Symptome. Ihnen wurde mitgeteilt, dass diese Berichte entweder von einem KI-Chatbot oder von einem menschlichen Arzt analysiert würden.
Die Ergebnisse sind eindeutig: Die für die KI bestimmten Beschreibungen waren für die medizinische Bewertung weniger nützlich als die für einen Fachmann verfassten. Unter anderem enthielten die Berichte für Ärzte durchschnittlich 255,6 Zeichen, während es bei den Chatbots 228,7 waren. Auch wenn der Unterschied gering erscheint, kann er reale Konsequenzen haben. KI-Systeme, so fortschrittlich sie auch sein mögen, laufen Gefahr, ungenaue Ratschläge zu geben, wenn wichtige Details fehlen.
Ein Phänomen namens "Einzigartigkeitsvernachlässigung" erklärt teilweise diese Zurückhaltung von Informationen. Viele Menschen glauben, dass KI die individuellen Nuancen ihrer Situation nicht erfassen kann und sich darauf beschränkt, Standardmuster zu erkennen. Auch Bedenken hinsichtlich des Datenschutzes und Skepsis gegenüber algorithmischen Diagnosen veranlassen Patienten, vage oder unvollständige Daten zu liefern.
Die Forscher betonen, dass die Verbesserung der Technologie allein nicht ausreicht. Sie empfehlen, Schnittstellen zu entwickeln, die eine reichhaltigere Kommunikation fördern. Zum Beispiel durch Beispiele detaillierter Beschreibungen und durch aktives Nachfragen, wenn Informationen fehlen. Diese Anpassungen könnten Diagnosefehler reduzieren und den Druck auf die Gesundheitssysteme verringern.
Vertrauen und Wahrnehmung der Nutzer spielen eine wichtige Rolle für die Leistungsfähigkeit digitaler Werkzeuge. Damit diese Technologien ihre Versprechen halten, müssen nicht nur die Algorithmen verbessert, sondern auch das Verhalten der Patienten besser verstanden werden.