KI-Schreibassistenten in der Kritik: Wenn Patienten die Fehler vor dem Arzt entdecken

Ambient-AI-Systeme, die Arzt-Patienten-Gespräche live mitschreiben und automatisch zusammenfassen, gelten als eine der vielversprechendsten Anwendungen künstlicher Intelligenz in der Medizin. Weniger Tippen, weniger Bildschirmzeit, mehr Blickkontakt mit dem Patienten – das Versprechen ist verlockend. Aktuelle Berichte aus dem britischen Gesundheitssystem zeigen jedoch, dass diese Systeme in der Praxis noch erhebliche Schwächen haben – und dass die Fehler mitunter nicht den Ärzten auffallen, sondern den Patienten selbst.

Was in Großbritannien passiert ist

Wie heise online berichtet, schlägt die britische Patientenvertretung Healthwatch England gegenüber dem Guardian Alarm: KI-Dokumentationssysteme im National Health Service verwechseln Medikamentennamen, erfinden Diagnosen und lassen relevante Informationen in Arztbriefen aus. In einem dokumentierten Fall enthielt die automatisch erstellte Zusammenfassung einer Konsultation die Diagnose „Demyelinisierung“ – eine schwere Nervenschädigung, die zu Multipler Sklerose führen kann. Der tatsächliche MRT-Befund hatte jedoch das Gegenteil ergeben: keine Demyelinisierung. Erst die Nachfrage der Patientin führte zur Korrektur. In einem anderen Fall verwechselte das System ein verschriebenes Medikament mit einem ähnlich klingenden Präparat. Auch hier war es der Patient, der den Fehler bemerkte – nicht der behandelnde Arzt.

Diese Fehler sind nicht folgenlos. Die in solchen Systemen hinterlegten Daten beeinflussen, welche Medikamente ein Patient in der Apotheke erhält, und können sich auch auf Entscheidungen wie den Abschluss einer Berufsunfähigkeitsversicherung auswirken.

Die Studie dahinter

Eine von Dr. Charlotte Blease (Universität Uppsala) durchgeführte Befragung unter 1.003 britischen Hausärzten liefert konkrete Zahlen: Von den Ärzten, die solche KI-Systeme bereits nutzen, berichten 32 Prozent von häufigen Fehlern, 14 Prozent sogar von Fehlern mit schwerwiegenden Folgen. Fehleranfälliger sind demnach Gespräche mit mehreren Beteiligten, Patienten mit komplexer Krankengeschichte oder nicht-muttersprachlichen Englischkenntnissen – Faktoren, die sich in Kombination auch in vielen deutschen Praxen finden, etwa bei mehrsprachigen Patienten oder Familienangehörigen im Sprechzimmer.

Bemerkenswert: Über die Hälfte der befragten Ärzte hielt die KI-generierten Notizen dennoch für genauer als die eigene Dokumentation. Ob KI-Systeme tatsächlich mehr oder weniger Fehler produzieren als Menschen, lässt sich aus der Studie nicht ableiten – das relativiert das Problem nicht, macht aber deutlich, dass ein pauschales Misstrauen gegenüber der Technik nicht die Lösung ist.

Auch in Deutschland bereits im Einsatz

Die Diskussion ist keine rein britische Angelegenheit. Die Charité in Berlin startete im Mai 2025 eine sechsmonatige Testphase mit Microsofts Dragon Copilot. Doctolib, einer der größten Softwareanbieter für Praxen in Deutschland, integriert ebenfalls KI-gestützte Dokumentation. Zusätzlich plant das Unternehmen laut dem heise-Bericht, in Frankreich KI-Modelle mit Gesundheitsdaten per Opt-out statt Einwilligung zu trainieren – ob dieses Modell auch für den deutschen Markt Vorbildcharakter haben könnte, ist derzeit offen und wird kontrovers diskutiert.

Was das für Ihre Praxis bedeutet

Die Berichte aus Großbritannien sind kein Grund, auf Ambient AI grundsätzlich zu verzichten – aber ein deutlicher Hinweis darauf, dass die Kontrollpflicht bei Ihnen bleibt, nicht beim System:

Jede KI-Zusammenfassung vor Abschluss gegenlesen. Das gilt besonders für Diagnosen, Medikamentennamen und Dosierungsangaben – hier führen bereits kleine Verwechslungen zu erheblichen Konsequenzen.
Risikogruppen kennen. Mehrsprachige Konsultationen, Gespräche mit Angehörigen oder Begleitpersonen sowie Patienten mit komplexer Vorgeschichte sind laut Studienlage fehleranfälliger. Hier lohnt sich eine besonders sorgfältige Nachkontrolle.
Patienten aktiv einbeziehen. Da in den dokumentierten Fällen die Patienten selbst die Fehler entdeckt haben, sollten Praxen ihre Patienten ermutigen, KI-generierte Zusammenfassungen zu lesen und Rückfragen zu stellen – das ist keine Schwäche des Systems, sondern eine zusätzliche Sicherheitsebene.
Transparenz über Datennutzung schaffen. Wenn Anbieter wie Doctolib Trainingsdaten per Opt-out statt Einwilligung erheben wollen, sollten Praxen genau prüfen, welche Voreinstellungen für ihre Patientendaten gelten, und diese aktiv kommunizieren.
Fehler dokumentieren und melden. Ein interner Prozess, mit dem KI-bedingte Dokumentationsfehler erfasst werden, hilft nicht nur der eigenen Qualitätssicherung, sondern liefert auch den Anbietern wichtiges Feedback zur Systemverbesserung.

KI-Dokumentation kann administrative Entlastung bringen – das ändert aber nichts daran, dass die ärztliche Sorgfaltspflicht bei der finalen Freigabe von Diagnosen, Medikationen und Arztbriefen unverändert bei Ihnen liegt. Wer das System als Werkzeug versteht, das mitschreibt statt entscheidet, bleibt auch dann sicher, wenn die Technik einmal danebenliegt.