KI-Pilzbestimmung mit Todesfolge: Was Hausarztpraxen Patienten jetzt raten sollten
KI-Apps zur Pilzbestimmung liefern laut Experten gefährliche Fehlidentifikationen – ein Überblick für die Beratung in der Hausarztpraxis und eine Lehre für den Umgang mit medizinischer KI.
Mit KI-Unterstützung erstellt · redaktionell geprüft und verantwortet von Steven Breuer.
Die Pilzsaison hat begonnen, und mit ihr kehrt ein Thema in die Sprechstunde zurück, das auf den ersten Blick wenig mit Medizin zu tun hat: Pilzbestimmungs-Apps. Tatsächlich betrifft es Hausarztpraxen direkt – als Anlaufstelle für Patienten mit Verdacht auf Pilzvergiftung und als Berater, wenn Patienten vorab nach der Sicherheit solcher Apps fragen.
Was Experten warnen
Ein aktueller heise-Bericht fasst zusammen, was Pilzsachverständige schon länger beobachten: KI-Apps und Chatbots, die Pilze anhand von Fotos oder Beschreibungen bestimmen sollen, liefern teils gefährliche Fehlidentifikationen. Ein polnischer Softwareentwickler ließ mehrere Sprachmodelle Pilze bestimmen – mit dem Ergebnis, dass potenziell tödliche Irrtümer nicht selten auftraten.
Florian Gade, Pilzsachverständiger der Deutschen Gesellschaft für Mykologie (DGfM), bringt die Problematik auf den Punkt: Von rund 10.000 bekannten Pilzarten in Deutschland sind etwa 200 essbar und etwa ebenso viele gesichert giftig – der große Rest ist ungenießbar oder schlicht nicht ausreichend untersucht. Entscheidend ist dabei: Manche Pilze lassen sich nur durch Riechen, Anschneiden oder die mikroskopische Betrachtung von Zellstrukturen sicher unterscheiden. Genau das kann ein Foto in einer App nicht leisten. Gades Fazit, obwohl er selbst an einem KI-gestützten „Pilzmodul“ mitarbeitet: „Eine sichere Pilzbestimmung alleine mit einer App ist nicht möglich.“
Relevanz für die Hausarztpraxis
Für die tägliche Praxis ergeben sich daraus zwei Handlungsfelder.
Erstens: Beratung vor dem Sammeln. Wenn Patienten in der Sprechstunde erwähnen, dass sie zum Pilzesammeln gehen wollen und sich dabei auf eine App verlassen, ist ein kurzer, klarer Hinweis sinnvoll: Apps und KI-Chatbots ersetzen keine fundierte Pilzkunde. Verweisen Sie auf geführte Exkursionen mit Pilzsachverständigen oder lokale Pilzberatungsstellen, wie sie die DGfM anbietet. Gerade bei älteren Patienten, die neu mit dem Sammeln beginnen, oder bei Familien mit Kindern lohnt sich dieser präventive Satz im Gespräch.
Zweitens: Erkennen und Handeln im Vergiftungsfall. Symptome einer Pilzvergiftung – insbesondere durch den Knollenblätterpilz – treten oft verzögert auf, teils erst 8 bis 24 Stunden nach Verzehr, mit zunächst unspezifischen Magen-Darm-Beschwerden. Bei jedem Verdacht auf eine Pilzvergiftung gilt: umgehende Klinikeinweisung, keine Abwartehaltung in der Praxis. Fragen Sie gezielt nach, ob die Bestimmung per App erfolgte – das kann für die Giftnotrufzentrale und die weiterbehandelnde Klinik eine relevante Information sein, da Fehlbestimmungen durch Apps inzwischen dokumentiert sind.
Die eigentliche Lehre: KI-Validierung im Gesundheitswesen
Das Pilz-Beispiel ist mehr als eine kuriose Randnotiz – es zeigt exemplarisch, was passiert, wenn KI-Systeme außerhalb regulierter Rahmenbedingungen in sicherheitskritischen Bereichen eingesetzt werden. Eine Pilz-App unterliegt keiner Medizinprodukteverordnung, keiner klinischen Validierung, keiner Zulassungsprüfung. Sie wird wie eine beliebige Consumer-App im Store veröffentlicht, obwohl die Fehlerkonsequenz – eine Lebertransplantation oder der Tod – medizinisch ist.
Genau dieses Muster begegnet Ihnen auch bei KI-Anwendungen, die direkt in der Medizin beworben werden: Symptom-Checker-Apps, KI-gestützte Hautkrebs-Screening-Tools oder Chatbots zur Medikationsberatung, die Patienten ohne ärztliche Einordnung nutzen. Die Grundfrage ist dieselbe wie bei der Pilz-App: Wurde das System an der Breite und den Grenzfällen der realen Welt getestet, oder funktioniert es nur in sauberen Demo-Szenarien zuverlässig? Für Diagnose- und Therapieunterstützung gelten in Deutschland die Vorgaben des Medizinprodukterechts und zunehmend auch der EU-KI-Verordnung – aber Patienten unterscheiden in der Praxis selten zwischen einer zertifizierten Medizin-App und einer frei verfügbaren KI-Anwendung.
Praktische Empfehlung für Ihre Praxis
Nutzen Sie die Pilzsaison als konkreten Aufhänger, um das Thema KI-Tools allgemein im Patientengespräch anzusprechen: Fragen Sie aktiv nach, welche Apps oder Chatbots Patienten für Gesundheitsentscheidungen nutzen – nicht nur beim Pilzesammeln, sondern auch bei Symptomdeutung oder Medikamenteneinnahme. Ein kurzer Hinweis, dass KI-Ergebnisse immer eine fachliche Einordnung brauchen, kostet in der Sprechstunde wenig Zeit, kann aber im Einzelfall über Leben und Tod entscheiden.