KI verschreibt eigenständig: Was Utahs Akne-Pilotprojekt für deutsche Telemedizin bedeutet

Der US-Bundesstaat Utah hat dem Start-up Nolla Health eine Ausnahmegenehmigung erteilt, die in dieser Form noch nicht da war: Eine KI darf eigenständig Medikamente verschreiben. Der Pilotversuch ist eng begrenzt – auf Erwachsene ab 18 Jahren mit leichter bis mittelschwerer Akne, ausschließlich für äußerlich anzuwendende Präparate. Schwerere Verläufe und Schwangere werden konsequent an Ärzte verwiesen. Dennoch markiert die Genehmigung einen regulatorischen Wendepunkt, dessen Grundmuster absehbar auch in der deutschen Diskussion um Fernbehandlung und KI-gestützte Verordnung auftauchen wird. Wie das heise-Netzwerk berichtet, lohnt sich ein genauer Blick auf das Modell, bevor man es vorschnell als exotischen Einzelfall abtut.

Wie die Genehmigung funktioniert

Die Nolla-App analysiert das Gesicht der Patientinnen und Patienten per Bildauswertung, kombiniert dies mit einem strukturierten medizinischen Fragebogen und stuft darauf aufbauend den Schweregrad der Akne ein. Ein Sprachmodell wählt anschließend aus einer fest definierten Liste von acht zugelassenen Wirkstoffoptionen die passende Behandlung aus. Der gesamte Ablauf dauert laut Unternehmensangaben 10 bis 15 Minuten, die App kostet im Pilotprojekt 4,99 US-Dollar monatlich.

Bemerkenswert ist weniger die Technik selbst als das Aufsichtsmodell, das Utahs Office of Artificial Intelligence Policy vorgegeben hat. Die Genehmigung sieht drei Phasen mit schrittweise abnehmender ärztlicher Kontrolle vor: In Phase eins müssen zwei zugelassene Ärzte unabhängig voneinander jede Verschreibung der ersten 100 Patienten prüfen, bevor ein Medikament bestellt wird. Nach Unternehmensangaben stimmten Ärzte bei den letzten 1000 Behandlungen in rund 96 Prozent der Fälle der KI-Empfehlung zu. In Phase zwei – bis zu 500 Patienten – darf die KI Rezepte direkt an Apotheken übermitteln, die ärztliche Kontrolle erfolgt dann nur noch nachträglich, wöchentlich. In Phase drei schließlich wird nur noch jede zehnte Verschreibung geprüft, unabhängig davon aber jeder Fall mit Nebenwirkungen oder Eskalation vollständig.

Flankiert wird das Ganze durch Berichtspflichten: Die Zulassung läuft zunächst zwölf Monate, Nolla Health muss regelmäßig an die Aufsichtsbehörde berichten, und – nach Kritik an früheren KI-Pilotprogrammen in Utah – werden die Angaben der Unternehmen inzwischen von unabhängigen Prüfern kontrolliert. Schwerwiegende oder unerwartete Vorfälle, von Fehldiagnosen über falsche Dosierungen bis zu Halluzinationen oder Sicherheitsvorfällen wie Ransomware-Angriffen, müssen binnen 24 Stunden gemeldet werden. Parallel testet Utah mit dem Chatbot des Start-ups Doctronic ein zweites Modell, das Folgeverschreibungen nach definierten Leitlinien automatisch verlängern soll – hier muss aktuell aber noch medizinisches Fachpersonal jede Verlängerung freigeben.

Was das für Deutschland bedeutet

In Deutschland ist die eigenständige Verschreibung durch eine KI nach geltendem Recht nicht möglich – die Approbationspflicht und das Arzneimittelgesetz binden die Verordnung verschreibungspflichtiger Medikamente an einen Arzt oder eine andere zur Verschreibung berechtigte Person. Das wird sich nicht über Nacht ändern. Trotzdem zeigt der Utah-Fall ein Modell, das für die deutsche Debatte relevant werden dürfte: eine phasenweise Reduktion der ärztlichen Kontrolle, verknüpft mit klaren Indikationsgrenzen, Berichtspflichten und unabhängiger Prüfung. Genau diese Bausteine – abgestufte Verantwortung statt binärer Freigabe – werden auch hierzulande diskutiert werden müssen, sobald KI-gestützte Verordnungsvorschläge in der Telemedizin an Reife gewinnen.

Für Praxen und Telemedizin-Anbieter in Deutschland lassen sich daraus schon jetzt konkrete Punkte ableiten:

Dokumentationspflicht ernst nehmen. Wer KI-Tools zur Entscheidungsunterstützung einsetzt – etwa bei der Einstufung von Hautbefunden oder der Therapieauswahl –, sollte die Zustimmungsrate der KI-Empfehlungen durch ärztliches Personal systematisch erfassen. Das schafft im Streitfall Nachweisbarkeit und ist Voraussetzung für jede spätere Diskussion über reduzierte Kontrolldichte.
Indikationsgrenzen vorab definieren. Das Utah-Modell funktioniert nur, weil Einsatzbereich und Ausschlusskriterien (hier: schwere Akne, Schwangerschaft, orale Präparate) von Anfang an eng gefasst sind. Jede Einführung KI-gestützter Verordnungsunterstützung in Deutschland sollte ähnlich konservativ beginnen.
Vorfallmeldung mitdenken. Eine verbindliche, kurzfristige Meldepflicht für Fehlfunktionen oder Halluzinationen – wie in Utah mit 24 Stunden vorgegeben – ist ein Baustein, der sich auch in deutschen Qualitätsmanagementsystemen abbilden lässt, unabhängig davon, ob es bereits eine gesetzliche Pflicht dazu gibt.
Haftungsfragen frühzeitig klären. Solange die Approbationspflicht unverändert bleibt, trägt die verordnende Ärztin oder der verordnende Arzt die Verantwortung – auch wenn die Vorauswahl durch eine KI erfolgt. Verträge mit Telemedizin-Dienstleistern sollten diese Verantwortungsverteilung klar benennen.

Utah testet gerade live, wie viel ärztliche Kontrolle bei KI-gestützter Verordnung tatsächlich nötig ist – und wie viel sich schrittweise reduzieren lässt, ohne die Patientensicherheit zu gefährden. Für die deutsche Telemedizin ist das kein Vorbild zum Kopieren, aber ein Experiment, dessen Ergebnisse die hiesige Regulierungsdiskussion in den kommenden Jahren mitprägen dürften.