Praxiswissen durchsuchbar machen: Was ein lokales RAG-System für Praxisnachfolge und QM-Dokumentation leistet
Wenn der langjährige Kollege in den Ruhestand geht, verschwindet mit ihm Wissen, das in keinem Ordner steht – ein lokal betriebenes RAG-System kann genau dieses Wissen retten, wenn man seine Grenzen kennt.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.

Die Kollegin, die seit 28 Jahren die Praxis führt, weiß, warum bei bestimmten Patienten die Anamnese anders läuft als im Lehrbuch. Sie weiß, welche Passage im Hygieneplan seit der letzten Begehung eigentlich überarbeitet gehört, auch wenn im Qualitätsmanagement-Ordner noch die alte Version liegt. Sie weiß, welcher Lieferant bei Engpässen ans Telefon geht. Nichts davon steht sauber dokumentiert. Es steckt in ihrem Kopf – und am Tag der Übergabe trägt sie es aus der Tür.
Das ist kein Randproblem. Praxisübergaben in Deutschland sind seit Jahren ein Nadelöhr, und der demografische Druck auf niedergelassene Ärztinnen und Ärzte ist bekannt. Zusätzlich verschärfend: Wissensarbeiter verbringen laut dem Atlassian „State of Teams Report 2025" rund ein Viertel ihrer Arbeitszeit mit der Suche nach Informationen, die im eigenen Betrieb längst vorhanden sind – bei einer Praxis mit MFA, die zwischen Anmeldung, Abrechnung und Hygienedokumentation wechseln, ist das kein abstrakter Wert, sondern spürbarer Zeitverlust im Alltag.
Warum „einfach hochladen" in der Praxis keine Option ist
Der naheliegende Reflex – QM-Handbuch, Hygienepläne und interne Anweisungen in ein Cloud-Chatmodell laden – verbietet sich in der Arztpraxis aus zwei Gründen. Erstens technisch: Ein Sprachmodell, dem man ein paar PDFs in den Kontext gibt, sieht das Praxiswissen wie durch ein Schlüsselloch. Was zufällig im Sichtfeld liegt, wird gut verarbeitet, alles andere bleibt unsichtbar – die Folge sind Halluzinationen und Antworten, die sich von Anfrage zu Anfrage widersprechen. Zweitens datenschutzrechtlich: Selbst wenn QM-Dokumente selbst keine Patientendaten enthalten, grenzen viele Praxisunterlagen eng an Patientenbezug – Verfahrensanweisungen zu Notfällen, interne Vermerke, Ablaufpläne. Eine US-Umfrage von WalkMe im Auftrag von SAP fand 2025, dass 78 Prozent der Beschäftigten nicht freigegebene KI-Tools nutzen und im Zweifel Firmenwissen in offene Chat-Oberflächen kopieren. Belastbare deutsche Zahlen dazu kenne ich nicht, aber das Grundproblem – Schatten-KI mit ungeklärtem Datenabfluss – lässt sich in einer Praxis mit Schweigepflicht nicht einfach ignorieren.
Wie ein RAG-System das Problem technisch löst
Retrieval Augmented Generation dreht das Prinzip um: Statt der KI alle Dokumente auf einmal zu zeigen, durchsucht das System vorab ein Bedeutungsverzeichnis der eigenen Unterlagen und liefert dem Sprachmodell nur die Textstellen, die die konkrete Frage tatsächlich betreffen. Dokumente – auch eingescannte Hygienepläne oder handschriftlich ergänzte QM-Anweisungen – werden per OCR in Text umgewandelt und in kleine, thematisch abgeschlossene Abschnitte zerlegt. Jeder Abschnitt wird anschließend als Vektor gespeichert, der seine Bedeutung im Verhältnis zu anderen Textstellen abbildet. Fragt eine MFA „Wie lange ist der Aufbereitungszyklus für Instrument X", findet das System die passende Passage im Hygieneplan, nicht das ganze 40-seitige Dokument.
Entscheidend für den Praxiseinsatz: Dieser Prozess lässt sich komplett lokal betreiben, ohne dass ein einziges Dokument die Praxis-IT verlässt. Im zugrundeliegenden Whitepaper wurde ein solches System vollständig lokal über LM Studio betrieben und erreichte bei einem Testkorpus 39 von 40 korrekt beantworteten Fragen bei einer Retrieval-Zeit von 18,5 Millisekunden. Das zeigt: Die Technik ist praxistauglich und schnell genug für den Einsatz am Empfangstresen, ohne dass Wartezeiten entstehen.
Der Warnfall: Wenn das Reranking-Modell erfindet statt liest
Der gleiche Test förderte aber auch eine Schwachstelle zutage, die für jede KI-Einführung im Gesundheitswesen relevant ist: Ein nachgeschaltetes Reranking-Sprachmodell, das die gefundenen Textstellen noch einmal gewichten sollte, erfand in einem Fall eine Telefonnummer, die im Ausgangsdokument gar nicht vorkam. Das System hatte also die richtige Passage gefunden – aber die zusätzliche Sprachmodell-Ebene fügte eine plausibel klingende, aber falsche Information hinzu.
Für die Praxis heißt das: Jede Erweiterung eines RAG-Systems um zusätzliche Verarbeitungsschritte – Reranking, Zusammenfassung, automatische Antwortformulierung – muss einzeln gegen den Ausgangstext geprüft werden, bevor sie produktiv genutzt wird. Gerade bei Kontaktdaten, Dosierungsangaben oder Fristen ist eine erfundene, aber überzeugend klingende Antwort gefährlicher als gar keine Antwort.
Praktische Empfehlung
Wer QM-Handbücher, Hygienepläne und das Erfahrungswissen ausscheidender Kolleginnen und Kollegen durchsuchbar machen will, sollte auf eine lokale RAG-Basis setzen, das reine Retrieval-Ergebnis stichprobenartig gegen die Originaldokumente prüfen und jede zusätzliche Verarbeitungsstufe erst nach eigener Fehlerprüfung freischalten. Erst prüfen, dann erweitern – das ist der Unterschied zwischen einem Werkzeug, das Zeit spart, und einem, das falsche Sicherheit erzeugt.