87% Testgenauigkeit, 53% klinischer Nutzen: Warum KI-Benchmarks Praxen in die Irre führen
Das Epic-Sepsis-Modell zeigt, dass hohe Benchmark-Werte keine klinische Wirksamkeit garantieren – und liefert konkrete Kriterien für die Tool-Evaluierung in Praxis und Klinik.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
Wenn ein Hersteller mit „87% Testgenauigkeit" wirbt, klingt das nach einem soliden Argument für die Anschaffung. Die Zahl stammt aus einer kontrollierten Testumgebung, ist aber im besten Fall die halbe Wahrheit. Was sie nicht zeigt: wie das Tool sich verhält, wenn es auf echte Patientinnen und Patienten, echte Arbeitsabläufe und echte Zeitdruck-Situationen trifft. Genau diese Lücke zwischen Labor-Benchmark und klinischer Realität beschreibt eine aktuelle Analyse, die den Fall des Epic Sepsis Model (ESM) als Lehrbeispiel heranzieht (PMC13641339).
Der Fall Epic Sepsis Model
Das ESM wurde weltweit in Kliniksystemen eingesetzt und identifizierte in 87% der Fälle Hochrisiko-Patienten – auf den ersten Blick ein starker Wert. Entscheidend ist jedoch, wann die Vorhersage erfolgte. Beschränkt man die Auswertung auf Daten vor dem Zeitpunkt, an dem Ärztinnen und Ärzte bereits selbst einen Sepsisverdacht hegten, fiel die Trefferquote auf 63%. Vor Anordnung einer Blutkultur, also bevor überhaupt eine klinische Reaktion eingeleitet wurde, lag sie bei nur noch 53%.
Das Modell hatte nicht die Physiologie der Sepsis gelernt, sondern das Verhalten der behandelnden Teams. Es erkannte, wann Ärztinnen und Ärzte bereits misstrauisch wurden – nicht, wann der Patient tatsächlich gefährdet war. In der Praxis bedeutete das: Zwei Drittel der Fälle wurden übersehen, während gleichzeitig so viele Fehlalarme produziert wurden, dass Klinikpersonal eines großen Systems 2023 nur noch 13% der Warnmeldungen überhaupt beachtete. Das ist kein reines Modellversagen, sondern auch ein Symptom von Alarmmüdigkeit und Workflow-Belastung – aber eben ein Symptom, das jedes Benchmark-Zertifikat verschweigt.
Der Gegenentwurf: TREWS
Dass es anders geht, zeigt TREWS, ein an der Johns Hopkins University entwickeltes System. Der entscheidende Unterschied lag nicht primär in der Trainingsdatenmenge, sondern im Entwicklungsprozess: Pflegekräfte und Intensivmediziner waren von Beginn an in die Modellentwicklung eingebunden – nicht als nachträgliche Konsultation, sondern als strukturelle Voraussetzung. In einer prospektiven multizentrischen Studie zeigte TREWS messbare Effekte: geringere Sepsis-Mortalität, kürzere Organversagensdauer, schnellere Antibiotikagabe.
Die Autoren der Analyse weisen zu Recht darauf hin, dass sich Trainingsdaten, Zieldefinition, Einsatzkontext und institutionelle Unterstützung zwischen beiden Systemen unterscheiden – der Kontrast lässt sich nicht auf eine einzige Ursache reduzieren. Der klarste methodische Unterschied aber bleibt: klinische Mitgestaltung als technische Anforderung statt als Option.
Warum Benchmarks strukturell versagen
Die Analyse benennt drei systemische Schwächen, die über den Einzelfall hinausweisen:
Erstens spiegeln Trainingsdatensätze häufig nicht die Population wider, in der das Tool später eingesetzt wird. Eine Analyse zu Retinopathie-Algorithmen zeigt das drastisch: Ein mit 87% Sensitivität validiertes Modell erreichte in Public-Health-Settings in Nordindien nur noch 60–80% Sensitivität, die Spezifität fiel stellenweise auf 14% – unter anderem wegen schlechterer Bildqualität der dort genutzten Non-Mydriasis-Kameras im Vergleich zu den Validierungsbildern.
Zweitens fehlt der klinische Blick im Entwicklungsprozess selbst. Werden KI-Tools von Ingenieurteams gebaut und von Statistikern evaluiert, ohne dass Ärztinnen und Ärzte strukturell eingebunden sind, entstehen Modelle, die Korrelationen statt Kausalitäten lernen – mit der Folge von Alarmmüdigkeit, Automatisierungsbias und stillschweigender Nichtbeachtung durch das Personal.
Drittens mangelt es an regulatorischer Konsequenz. In den USA wurden 96,4% der KI-Medizinprodukte über das 510(k)-Verfahren zugelassen – ohne klinische Studiendaten. Von 950 bis November 2024 zugelassenen KI-gestützten Geräten waren 60 von Rückrufen betroffen, 43% davon innerhalb des ersten Jahres nach Zulassung, überwiegend wegen diagnostischer Fehler. Der EU AI Act stellt zwar die anspruchsvollste Vorab-Prüfung dar, verlangt bislang aber keine konkreten Outcome-Studien.
Was das für Ihre Tool-Evaluierung bedeutet
Für die Kaufentscheidung in Praxis oder Klinik lassen sich daraus drei konkrete Prüfkriterien ableiten:
Fragen Sie nach dem Validierungskontext, nicht nur nach der Kennzahl. Eine Genauigkeit von 90% auf einem kuratierten Testdatensatz sagt nichts darüber, wie das Tool bei Ihrer Patientenklientel, Ihrer Geräteausstattung und Ihrem Workflow performt. Lassen Sie sich prospektive Validierungsdaten aus einer vergleichbaren Versorgungssituation vorlegen.
Verlangen Sie nach Subgruppen-Auswertungen. Ein Tool mit 92% Gesamtgenauigkeit, aber 74% in einer bestimmten Patientengruppe, ist selektiv unzuverlässig – und die Patienten, bei denen es versagt, sind oft vorhersehbar. Demografische Offenlegung der Trainingsdaten sollte zur Grundvoraussetzung werden, ist aber laut der zitierten Analyse bei weniger als 30% der zugelassenen Geräte überhaupt dokumentiert.
Prüfen Sie, ob Kliniker am Entwicklungsprozess beteiligt waren. Der Unterschied zwischen ESM und TREWS legt nahe, dass dieser Faktor mehr erklärt als reine Datenmenge. Ein Tool, das ohne klinische Mitgestaltung entstanden ist, trägt ein strukturelles Risiko in sich, das kein Benchmark-Wert sichtbar macht.
Die Rahmenwerke TRIPOD+AI und STARD-AI bieten bereits Orientierung für eine saubere externe Validierung – Hersteller, die sich darauf nicht einlassen wollen oder können, sollten kritisch hinterfragt werden. Der Unterschied zwischen 87% im Testlabor und 53% am Krankenbett ist am Ende keine akademische Fußnote, sondern für jede einzelne Patientin und jeden einzelnen Patienten eine Frage von Diagnose oder Fehldiagnose.