Wenn die Patientensicht fehlt: Warum medizinische KI-Studien am Bedarf vorbeigehen

Wenn ich mit Kolleginnen und Kollegen über neue KI-Tools spreche, geht es fast immer zuerst um dieselben Fragen: Wie gut ist die Sensitivität? Wie sieht die Validierungsstudie aus? Ist das Tool CE-zertifiziert? Diese Fragen sind wichtig – aber sie beantworten nicht, ob Patientinnen und Patienten dem System überhaupt vertrauen, ob sie sich sicher fühlen, wenn eine KI an ihrer Diagnose oder Therapie beteiligt ist. Genau diese Lücke legt eine aktuelle Auswertung offen, über die heise online berichtet.

Was die Studie zeigt

Die im Fachjournal Nature Health veröffentlichte Untersuchung hat 330 Studien zu medizinischer KI systematisch ausgewertet – aus PubMed, Web of Science und Embase. Die zentralen Zahlen sind deutlich: Vertrauen von Patient:innen in KI-Systeme wurde nur in 16,7 Prozent der Studien überhaupt untersucht. Sicherheit aus Patientenperspektive kam sogar nur in 10,9 Prozent der Arbeiten vor. Stattdessen dominieren zwei andere Größen: Patientenzufriedenheit (70,6 Prozent) und wahrgenommener Nutzen (69,4 Prozent).

Das klingt zunächst nicht dramatisch – schließlich sind Zufriedenheit und Nutzen ja auch patientenrelevante Größen. Das Problem liegt in der Verwechslung: Zufriedenheit ist nicht dasselbe wie Vertrauen. Ein Patient kann mit einer KI-Antwort zufrieden sein und ihr trotzdem misstrauen, etwa weil unklar bleibt, wie die Empfehlung zustande kam oder wer im Fehlerfall haftet. Umgekehrt kann ein System medizinisch nützlich sein und trotzdem Ängste auslösen. Wer nur Zufriedenheit misst, übersieht genau die Fragen, die für die Akzeptanz in der Praxis entscheidend sind.

Zu spät befragt

Noch aufschlussreicher ist der Zeitpunkt, zu dem Patientenfaktoren überhaupt erhoben werden. In 89,4 Prozent der untersuchten Studien geschah dies erst in der Validierungsphase – wenn das System also bereits weitgehend fertig entwickelt ist. In den frühen Design- und Entwicklungsphasen waren es gerade einmal 3,9 Prozent. Patient:innen werden also überwiegend gefragt, ob sie mit einem fertigen Produkt zurechtkommen – nicht, was sie sich von einem solchen System eigentlich wünschen oder welche Bedenken sie von Anfang an haben.

Für die Entwicklung bedeutet das: Zentrale Weichen werden gestellt, bevor die Betroffenen überhaupt einbezogen sind. Nachträgliche Anpassungen an Bedürfnisse oder Ängste von Patient:innen sind dann aufwendig – oder sie unterbleiben schlicht, weil das Produkt schon marktreif ist.

Konsequenzen für die Praxis

Für Sie als Ärztin, Arzt oder Praxis-Manager ist das mehr als eine akademische Beobachtung. Wenn Sie ein KI-gestütztes Tool evaluieren – sei es zur Diagnoseunterstützung, zur Dokumentation oder zur Therapieempfehlung –, lohnt sich ein Blick über die reine Performance-Zahl hinaus:

Fragen Sie nach der Studienlage zu Vertrauen und Sicherheit aus Patientensicht, nicht nur nach Zufriedenheitswerten. Ein hoher Zufriedenheitswert sagt wenig darüber aus, ob Patient:innen dem System auch bei kritischen Entscheidungen vertrauen.
Erkundigen Sie sich, wann Patient:innen in die Entwicklung einbezogen wurden. Wurde das Tool von Anfang an mit Betroffenen entwickelt, oder wurden sie erst am Ende zur Nutzererfahrung befragt? Das beeinflusst, wie gut ein System tatsächlich zu den Bedürfnissen Ihrer Patientinnen und Patienten passt.
Rechnen Sie mit Erklärungsbedarf in der Sprechstunde. Wenn Sicherheit und Verantwortlichkeit in der Entwicklung kaum thematisiert wurden, werden diese Fragen bei Ihnen ankommen – im Gespräch mit dem Patienten, der wissen will, wer für eine KI-gestützte Empfehlung geradesteht.
Dokumentieren Sie eigene Erfahrungen mit Patientenreaktionen. Da die Forschung diese Lücke bislang kaum schließt, sind es oft die Praxen selbst, die als Erste erleben, wo Vertrauen bricht oder Unsicherheit entsteht.

Fazit

Die Auswertung macht deutlich, dass ein technisch gut validiertes System nicht automatisch ein System ist, dem Patient:innen vertrauen. Solange Vertrauen und Sicherheit aus Patientenperspektive in der Forschung eine Nebenrolle spielen, liegt es an der Praxis, diese Lücke im Alltag mitzudenken – bei der Tool-Auswahl ebenso wie im Gespräch mit den Menschen, die am Ende mit den Empfehlungen der KI leben müssen.