Shadow AI in der Patientenversorgung: Wenn Ärzte heimlich zu ungeprüften KI-Tools greifen
Ein aktueller JMIR-Perspektivbeitrag zeigt, dass Gesundheitsprofis unter Arbeitsdruck auf nicht freigegebene KI-Tools ausweichen – mit konkreten Folgen für Datenschutz und Haftung in Praxis und Klinik.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
In vielen Unternehmen ist das Phänomen "Shadow IT" seit Jahren bekannt: Mitarbeitende nutzen Software, die nicht von der IT-Abteilung geprüft oder freigegeben wurde, weil die offiziellen Werkzeuge zu langsam, zu umständlich oder schlicht nicht vorhanden sind. Ein aktueller Perspektivbeitrag in JMIR überträgt dieses Konzept nun systematisch auf die Gesundheitsversorgung – und benennt damit ein Problem, das viele Praxisinhaber und Klinikleitungen zumindest ahnen, aber selten offen ansprechen: "Shadow AI".
Was der Beitrag beschreibt
Der Kern der Analyse ist unbequem, aber nachvollziehbar: Gesundheitsprofis geraten im Arbeitsalltag unter erheblichen Zeit- und Dokumentationsdruck. Wenn die vom Arbeitgeber bereitgestellten oder freigegebenen digitalen Werkzeuge diesem Druck nicht gewachsen sind – etwa weil sie fehlen, zu langsam sind oder die eigentliche Aufgabe nicht abbilden –, weichen Ärztinnen und Ärzte auf frei verfügbare KI-Tools aus. Das können Chatbots sein, die bei der Formulierung von Arztbriefen helfen, Transkriptionsdienste für Anamnesegespräche oder Anwendungen, die medizinische Literatur zusammenfassen. Entscheidend ist: Diese Tools sind nicht durch die interne Compliance, den Datenschutzbeauftragten oder eine IT-Sicherheitsprüfung freigegeben. Sie laufen "unter dem Radar" – daher der Begriff Shadow AI.
Der Beitrag macht deutlich, dass es sich dabei nicht um ein Randphänomen einzelner technikaffiner Kolleginnen und Kollegen handelt, sondern um eine strukturelle Reaktion auf einen realen Mangel: Wo offizielle Prozesse und Werkzeuge die Arbeitsrealität nicht abbilden, entstehen informelle Lösungen. Genau das macht das Thema für Praxis-Manager und Klinikverantwortliche so relevant – es lässt sich nicht allein mit Verboten lösen.
Warum das ein echtes Risiko ist
Für die Praxis ergeben sich daraus mindestens zwei konkrete Problemfelder, die sich unmittelbar aus der beschriebenen Situation ableiten lassen.
Erstens der Datenschutz: Sobald Patientendaten – auch in scheinbar harmloser Form wie einer Sprachaufnahme oder einem eingegebenen Freitext – in ein nicht geprüftes, oft im Ausland betriebenes KI-System eingegeben werden, verlässt die Kontrolle über diese Daten die Praxis. Ob eine solche Verarbeitung mit den Anforderungen der DSGVO und den berufsrechtlichen Schweigepflichten vereinbar ist, lässt sich bei nicht freigegebenen Tools in aller Regel nicht seriös beurteilen – schlicht weil niemand geprüft hat, wo die Daten verarbeitet und gespeichert werden.
Zweitens die Haftung: Wenn ein extern, informell genutztes KI-Tool eine fehlerhafte Zusammenfassung liefert, eine Medikamenteninteraktion falsch einschätzt oder einen Dokumentationsfehler produziert, stellt sich unmittelbar die Frage der Verantwortlichkeit. Weder die Praxisleitung noch die Behandelnden selbst können sich im Ernstfall auf eine geprüfte, dokumentierte Freigabe berufen – mit entsprechenden Konsequenzen für die medizinrechtliche Bewertung eines Zwischenfalls.
Was Praxen und Kliniken jetzt konkret tun können
Aus der beschriebenen Ausgangslage lassen sich einige praktische Konsequenzen ziehen, die sich in der Praxis umsetzen lassen, ohne dass dafür große IT-Projekte notwendig wären:
Bedarf ernst nehmen, statt nur zu verbieten. Wenn Mitarbeitende zu inoffiziellen Tools greifen, ist das zunächst ein Signal für eine echte Lücke im Arbeitsalltag – etwa bei der Dokumentation, der Briefschreibung oder der Literaturrecherche. Ein reines Nutzungsverbot ohne Alternative löst das zugrunde liegende Problem nicht, es verlagert es nur in den Bereich des Verschweigens.
Freigegebene Alternativen bereitstellen. Praxen sollten prüfen, welche KI-gestützten Werkzeuge für die typischen Engpässe – Dokumentation, Zusammenfassungen, Recherche – tatsächlich datenschutzkonform verfügbar sind, und diese aktiv kommunizieren. Eine Positivliste ist in der Regel wirksamer als eine reine Verbotsliste.
Transparenz einfordern, ohne Vorwürfe. Ein offenes Gespräch im Team darüber, welche Tools bereits inoffiziell genutzt werden, schafft die Grundlage für eine realistische Risikobewertung – deutlich wertvoller als eine Grauzone, die niemand benennt.
Verantwortlichkeiten klar dokumentieren. Wer ein KI-Tool im Behandlungskontext einsetzt, sollte nachvollziehbar machen können, welches Tool wofür freigegeben wurde und auf welcher Grundlage. Das schützt im Zweifel sowohl die Behandelnden als auch die Praxis als Ganzes.
Shadow AI ist damit weniger ein technisches als ein organisatorisches Thema. Der Perspektivbeitrag liefert dafür eine wichtige Grundlage: Er macht sichtbar, dass die Ursache nicht bei einzelnen "unvorsichtigen" Kolleginnen und Kollegen liegt, sondern bei einer Lücke zwischen Arbeitsrealität und bereitgestellter Infrastruktur. Wer diese Lücke schließt, statt sie zu ignorieren, reduziert das Risiko deutlich wirksamer als mit reinen Appellen.