Divergence Events: Wenn Arzt und KI sich widersprechen – wer dokumentiert das?

Ein Radiologe liest einen Thorax-CT und sieht keinen Herdbefund. Die KI-gestützte Befundungssoftware markiert eine Auffälligkeit. Was passiert in diesem Moment? In den meisten Systemen heute: nichts, was später nachvollziehbar wäre. Der Arzt akzeptiert, verwirft oder ändert den Vorschlag – und genau dieser Moment der Uneinigkeit verschwindet mit der Entscheidung. Dokumentiert wird das Ergebnis, nicht die Interaktion.

Genau hier setzt ein aktueller Vorschlag an, der in npj Digital Medicine veröffentlicht wurde: das Konzept der Divergence Events. Gemeint ist nicht jede Meinungsverschiedenheit zwischen Arzt und KI, sondern konkret der dokumentierte Moment, in dem ärztliches Urteil und KI-Output auseinanderlaufen – und was mit diesem Moment passiert.

Warum „Uneinigkeit" der falsche Begriff ist

Die Autoren unterscheiden bewusst zwischen Disagreement und Divergence. Eine Abweichung kann drei Ursachen haben: unterschiedliche Informationsgrundlagen (der Arzt kennt die Familienanamnese, die KI nicht; die KI hat Muster aus Millionen Fällen gesehen, die dem Arzt fehlen), echte Uneinigkeit bei identischer Evidenzlage, oder schlicht ein Fehler auf einer der beiden Seiten. Die reflexartige Lösung – eine dritte Meinung einholen – hilft nur im zweiten Fall. Bei Informationsasymmetrie löst eine zusätzliche Meinung das eigentliche Problem nicht.

Das ist mehr als Begriffshygiene. Eine reale Auswertung eines LLM-basierten Clinical-Decision-Support-Tools in der Primärversorgung zeigte, dass Ärztinnen und Ärzte 58 % der schädlichen KI-Empfehlungen übernahmen, aber nur 22 % der nützlichen. Selbst formal in KI-Bewertung geschulte Ärzte verschlechterten ihre diagnostische Treffsicherheit um 14 %, sobald sie ein LLM konsultieren konnten. Technische Erklärbarkeit – Saliency Maps, Feature-Importance-Plots – löst dieses Problem nicht, weil sie erklärt, wie das Modell zu seinem Ergebnis kam, nicht warum menschliches und maschinelles Urteil auseinandergingen.

Drei Achsen, die Praxen und Kliniken aktiv gestalten können

Der Rahmen schlägt drei Dimensionen vor, entlang derer Divergenz sichtbar gemacht werden kann:

Strukturell: Fragt der Workflow nach der ärztlichen Einschätzung, bevor der KI-Output angezeigt wird? Ohne unabhängige Einschätzung vorher gibt es nichts zum Vergleichen.
Informationell: Was hat jede Seite beigetragen, was wurde geteilt, wie wurde die Abweichung aufgelöst?
Verhaltensbezogen: Wie hat die Ärztin oder der Arzt mit der KI-Begründung gearbeitet – nicht nur mit dem Ergebnis?

Bemerkenswert: Zwei technisch identische Einsatzszenarien – KI-Unterstützung direkt eingebettet versus KI-Output parallel nach eigener Einschätzung – erreichen in der Studie 4 von 15 bzw. 15 von 15 Punkten Divergenzsichtbarkeit. Der einzige Unterschied liegt darin, ob die unabhängige ärztliche Einschätzung vor dem KI-Output erfasst wird. Für die Beschaffung von KI-Software bedeutet das: Die Frage „Was zeigt das System, und wann?" ist keine UX-Nebensache, sondern entscheidet darüber, ob im Streitfall überhaupt ein nachvollziehbarer Vorgang existiert.

Die haftungsrechtliche Dimension

Hier wird der Vorschlag für den Praxisalltag konkret. In einer Studie mit Schöffen (Mock Jurors) wurde Radiologinnen und Radiologen eher zugestanden, ihre Sorgfaltspflicht erfüllt zu haben, wenn sie einen Scan zweimal befundeten – einmal vor, einmal nach dem KI-Output – statt nur einmal danach. Ebenso senkte die Offenlegung von KI-Fehlerraten (Falsch-Positiv-, Falsch-Negativ-Raten) gegenüber den Schöffen die wahrgenommene Haftung messbar. Die Struktur der Interaktion selbst wirkt also haftungsrechtlich schützend – unabhängig von der technischen Erklärbarkeit des Modells.

Interessant ist auch der Gedanke, dass eine Divergenz-Häufigkeit von null kein Qualitätsmerkmal ist, sondern im Gegenteil ein Warnsignal: Wer nie von der KI abweicht, zeigt möglicherweise keine unabhängige fachliche Prüfung mehr, sondern Automation Bias.

Was das für Ihre Praxis bedeutet

Ohne auf einzelne Produkte zu verweisen, lassen sich daraus drei Prüffragen für jede KI-Anwendung im eigenen Workflow ableiten:

Wird meine Einschätzung erfasst, bevor ich den KI-Output sehe?
Kann ich eine Abweichung dokumentieren – oder nur bestätigen oder verwerfen?
Zeigt das System, worauf sein Urteil beruht, wenn es von meinem abweicht?

Diese Fragen sollten Sie bei jeder Einführung klinischer KI-Systeme stellen – gegenüber Herstellern ebenso wie bei der internen Festlegung von Dokumentationspflichten. Der Vorschlag versteht sich ausdrücklich nicht als zusätzliche Dokumentationslast, sondern als Erweiterung bestehender Qualitätspraxis wie Morbiditäts- und Mortalitätskonferenzen oder Peer-Review – nur eben für die Schnittstelle Mensch-KI.

Die moralische Verantwortung bleibt beim Arzt, beim Arzt. Das ändert der Rahmen nicht. Aber er verschiebt, worauf diese Verantwortung gestützt ist: auf eine nachvollziehbare statt auf eine unsichtbare Entscheidung.