Entscheidungsunterstützung
Der Artikel mit dem Titel „Déjà vu in healthcare AI: lessons from the world’s pioneer AI clinical decision support system“ erschien am 13. Januar 2026 als Editorial in der Zeitschrift BMJ Digital Health & AI. Er beleuchtet die Geschichte des AAPHelp-Systems, eines der ersten computergestützten klinischen Entscheidungshilfesysteme, das in den 1970er Jahren unter Leitung von Tim de Dombal an der University of Leeds zur Diagnose akuter Bauchschmerzen entwickelt wurde. Das System nutzte einen Naïve-Bayes-Klassifikator und lieferte Wahrscheinlichkeiten für Differenzialdiagnosen. Die Autoren David Wong und Kollegen fassen zentrale Erkenntnisse aus jahrzehntelangen Evaluierungen zusammen und zeigen Parallelen zu aktuellen Herausforderungen moderner KI-Systeme auf, darunter mangelnde Generalisierbarkeit über verschiedene Standorte hinweg, die Notwendigkeit sorgfältiger klinischer Studien mit multifaktoriellen Designs, die Berücksichtigung breiterer Outcome-Maße sowie das Phänomen des langfristigen Data Drift. Sie betonen, dass viele heutige Probleme in der KI-gestützten Medizin bereits vor Jahrzehnten erkannt wurden und dass der Erfolg solcher Systeme weniger von technologischer Innovation als von rigoroser, kontextsensitiver Evaluation abhängt.
Der Artikel mit dem Titel „Safety of a large language model-based clinical decision support system in African primary healthcare“ wurde am 10. März 2026 in der Zeitschrift Nature Health veröffentlicht. Er beschreibt eine retrospektive Evaluation eines in die elektronische Patientenakte integrierten Large-Language-Model-basierten klinischen Entscheidungsunterstützungssystems (LLM-CDSS), das zwischen Juli und September 2024 in 16 Primärversorgungskliniken von Penda Health in Kenia eingesetzt wurde. Ein Expertengremium aus Ärzten überprüfte 1.469 Patientenfälle. Halluzinationen traten selten auf (3,4 %), und die klinischen Empfehlungen stimmten in 99 % der Fälle mit lokalen Leitlinien überein. Dennoch änderten Kliniker in 62 % der Fälle die Dokumentation nicht. Potenziell schädliche LLM-Empfehlungen wurden in 7,8 % der Fälle identifiziert, von denen einige übernommen wurden, während das System in 8 % der Fälle bestehende Risiken in den ursprünglichen Notizen der Kliniker vollständig beseitigte. Die Studie hebt das Potenzial des Tools zur Qualitätsverbesserung hervor, betont jedoch die Notwendigkeit besserer Benutzbarkeit, lokaler Sicherheitsmechanismen und prospektiver Studien zur Bestätigung des patientenbezogenen Nutzens aufgrund der asymmetrischen Übernahme schädlicher versus vorteilhafter Ausgaben.
Die Preprint-Studie „Human-AI Collaboration in Clinical Reasoning: A UK Replication and Interaction Analysis“ von J. Healy, J. Kossoff, M. Lee und C. Hasford (veröffentlicht 2025 auf medRxiv) untersucht die Zusammenarbeit zwischen britischen Ärzten und einem Large Language Model (LLM) bei der diagnostischen Fallbeurteilung. In einer Within-Subjects-Studie mit 22 UK-Ärzten und vier klinischen Vignetten erreichte das LLM allein signifikant bessere Ergebnisse als die Ärzte mit LLM-Zugang (mittlerer Unterschied 21,3 Prozentpunkte). Der LLM-Zugang verbesserte die ärztliche Leistung im Vergleich zu konventionellen Ressourcen jedoch leicht (73,7 % vs. 66,3 %). Die qualitative Analyse der Interaktionsprotokolle zeigte, dass Ärzte nur etwa 30 % der Fragen direkt an das LLM stellten, was auf eine Unter Nutzung hinweist und den Leistungsunterschied teilweise erklärt. Die Autoren schlussfolgern, dass das volle Potenzial der Human-AI-Kollaboration durch gezielte Schulung der Ärzte zur Integration solcher Tools sowie durch bessere Systemdesigns erreicht werden könnte.
Der Artikel „Digital Medication Management in Polypharmacy“ beschreibt eine cluster-randomisierte kontrollierte Studie (AdAM), die den Einsatz eines klinischen Entscheidungsunterstützungssystems (CDSS) in der hausärztlichen Versorgung untersuchte. Bei 42 700 Patient:innen mit Polypharmazie zeigte sich in den Hauptanalysen kein signifikanter Effekt auf Mortalität oder Hospitalisierungen. Sensitivitätsanalysen deuten jedoch auf eine mögliche Reduktion der Mortalität hin, insbesondere vor der COVID-19-Pandemie. Die Ergebnisse unterstreichen, dass CDSS zwar Prozessqualität verbessern können, patientenrelevante Outcomes jedoch weiterhin uneinheitlich bleiben.
Der Beitrag „Trust, Scrutiny, or Collaboration? A Performance-Based Framework for Human–AI Interaction in Medicine“ aus NEJM AI (2026) analysiert die Zusammenarbeit zwischen Ärztinnen und Ärzten und KI-Systemen in der klinischen Entscheidungsfindung. Die Autorinnen und Autoren argumentieren, dass Fehlleistungen von KI nicht allein durch „Automationsbias“ erklärbar sind, sondern generell den Einfluss fehlerhafter Informationen widerspiegeln. Entscheidend sei daher keine pauschale Skepsis, sondern eine situationsabhängige Kalibrierung von Vertrauen. Vorgeschlagen wird ein dynamisches Rahmenmodell mit vier Interaktionszonen: menschlich-dominant, KI-dominant, hybride Überprüfung und Konfliktlösung bei abweichenden Einschätzungen. Welche Strategie sinnvoll ist, hängt von der relativen Genauigkeit von Mensch und KI sowie der Komplementarität ihrer Fehler ab. Das Modell betont, dass sich optimale Formen der Zusammenarbeit kontinuierlich an die Weiterentwicklung von KI-Systemen und klinischer Expertise anpassen müssen.
Der Artikel „Performance of a large language model on the reasoning tasks of a physician“ aus Science untersucht die diagnostischen und klinischen Entscheidungsfähigkeiten eines großen Sprachmodells (OpenAI o1). In mehreren Experimenten mit Hunderten Ärztinnen und Ärzten zeigte das Modell eine insgesamt höhere Leistung bei Differentialdiagnosen, Testauswahl und klinischem Management, insbesondere in frühen Entscheidungsphasen wie der Notaufnahme. Die Studie betont jedoch Einschränkungen, etwa die Fokussierung auf textbasierte Fälle, und fordert prospektive klinische Studien zur sicheren Integration in die medizinische Praxis.
Der Artikel „From prediction to navigation for artificial intelligence in medicine“ beschreibt die Weiterentwicklung klinischer KI-Systeme von reinen Vorhersagemodellen hin zu entscheidungsunterstützenden Systemen. Während aktuelle Anwendungen vor allem Risiken und Diagnosen prognostizieren, betonen die Autoren die Notwendigkeit sogenannter „navigational AI“, die konkrete Handlungsempfehlungen für individuelle Patienten liefert. Ziel ist es, klinische Entscheidungen in komplexen und zeitkritischen Situationen besser zu unterstützen, indem patientenspezifische Daten, Verläufe und Kontexte integriert werden.
Der Artikel „Trust, Scrutiny, or Collaboration? A Performance-Based Framework for Human–AI Interaction in Medicine“ aus NEJM AI analysiert die Rolle von Künstlicher Intelligenz in klinischen Entscheidungsprozessen. Die Autoren argumentieren, dass nicht pauschale Skepsis gegenüber KI angemessen ist, sondern eine situationsabhängige Kalibrierung von Vertrauen. Sie schlagen ein Modell vor, das vier Interaktionsformen zwischen Mensch und KI unterscheidet, basierend auf relativer Genauigkeit und Fehlerkomplementarität, um klinische Arbeitsabläufe gezielt zu verbessern.
Der Beitrag „Advertising in AI-Powered Clinical Decision Support Tools“ beschreibt die Chancen und Risiken werbefinanzierter KI-gestützter klinischen Entscheidungsunterstützungssysteme im Gesundheitswesen. Die Autorinnen analysieren insbesondere Plattformen wie OpenEvidence, die medizinische KI-Dienste kostenlos anbieten und sich über Werbung finanzieren. Im Mittelpunkt steht die Sorge, dass Werbung in unmittelbarer Nähe zu medizinischen Empfehlungen ärztliche Entscheidungen beeinflussen könnte. Anders als klassische Pharmamarketingkanäle wirken KI-basierte Clinical-Decision-Support-Systeme direkt im klinischen Arbeitsprozess und können Werbung kontextbezogen zu konkreten Therapiefragen platzieren. Dadurch entsteht das Risiko verzerrter Verschreibungsentscheidungen, steigender Behandlungskosten und einer stärkeren Nutzung beworbener Medikamente statt leitliniengerechter oder kosteneffizienter Alternativen. Die Autorinnen betonen, dass Anbieter wie OpenEvidence derzeit technische Trennungen zwischen Antwortgenerierung und Werbeausspielung implementieren. Dennoch fordern sie strengere ethische Leitplanken, transparente Werberichtlinien und klare Kennzeichnungen von Anzeigen. Besonders kritisch bewerten sie personalisierte Werbung auf Basis aktueller Suchanfragen oder zukünftiger Integrationen in elektronische Patientenakten. Darüber hinaus verweisen sie auf frühere problematische Beispiele sponsorengesteuerter klinischen Entscheidungsunterstützung, etwa den Practice-Fusion-Fall im Zusammenhang mit Opioidverschreibungen. Regulierungsbehörden wie die US Food and Drug Administration sollten daher Werbeinhalte stärker überwachen. Abschließend argumentiert der Beitrag, dass langfristiges Vertrauen in KI-gestützte medizinische Systeme nur entstehen kann, wenn klinische Informationen frei von kommerzieller Einflussnahme bleiben und Entwickler ethische Standards konsequent durchsetzen.
„Evaluation des digitalen Entscheidungsunterstützungssystems TriageClient zur sektoralen Zuweisung von Notfallpatienten in ein INZ“ untersucht den Routineeinsatz der Software TriageClient im integrierten Notfallzentrum des Universitätsklinikums Freiburg. In der Analyse von 50.047 selbstvorstellenden Patient*innen im Jahr 2024 zeigte das System hohe Sicherheit, Effizienz und Zeitgerechtigkeit. Die 7-Tage-Krankenhausmortalität lag bei niedrig dringlichen Fällen (ESI 4/5) deutlich unter der hochdringlichen Kohorte, ebenso die Rate sicherheitsrelevanter Tracerdiagnosen. Die sekundäre Wechselrate von der Notdienstpraxis in die Notaufnahme betrug 12,3 %, die Defektrate für eine Triagedauer über 10 Minuten lag bei 1,36 %. Die Autoren sehen in der Kombination aus digitaler Ersteinschätzung und pflegerischer Finalentscheidung ein leistungsfähiges Modell für integrierte Notfallzentren.
Der Originalartikel „Automation Bias in Large Language Model–Assisted Diagnostic Reasoning among Physicians Trained in AI Literacy — A Randomized Clinical Trial“ untersucht den Einfluss fehlerhafter LLM-Empfehlungen auf die diagnostische Entscheidungsfindung von Ärzten trotz AI-Literacy-Training. In der randomisierten Studie mit 44 Ärzten sank die diagnostische Gesamtgenauigkeit bei fehlerhaften ChatGPT-4o-Empfehlungen von 84,9 % auf 73,3 %, während die Genauigkeit der Hauptdiagnose von 90,5 % auf 76,1 % zurückging. Die Ergebnisse zeigen eine ausgeprägte Automatisierungsverzerrung selbst bei geschulten Anwendern und unterstreichen den Bedarf an Validierungs- und Sicherheitsmechanismen für klinische KI-Systeme.
„Appropriateness and Utility of a Clinical Decision Support System at the Digital Front Door“ untersucht die Eignung und den Nutzen eines klinischen Entscheidungsunterstützungssystems (CDSS) für die digitale Ersteinschätzung von Patienten vor einem Arztkontakt. In einer prospektiven Post-Market-Studie innerhalb eines großen privaten Gesundheitsnetzwerks absolvierten erwachsene Patienten vor ihrer Konsultation eine strukturierte Symptomerhebung, während Patienten und behandelnde Ärzte standardisierte Fragebögen ausfüllten. Die Ergebnisse zeigen, dass die behandelnden Ärzte die Dringlichkeitsempfehlungen und die generierten Berichte überwiegend als angemessen bewerteten. Wurde der Bericht vor der Konsultation eingesehen, berichteten Ärzte von einer besseren Vorbereitung auf das Gespräch sowie von wahrgenommenen Effizienzgewinnen im klinischen Ablauf. Die Patienten gaben mehrheitlich an, dass ihre Symptome vollständig erfasst wurden und sie sich besser auf den Arzttermin vorbereitet fühlten. Die Studie liefert damit prospektive Real-World-Evidenz dafür, dass ein in die Routineversorgung integriertes Symptom-Assessment-CDSS klinisch angemessene Ergebnisse erzeugen kann. Solche „Digital Front Door“-Lösungen könnten sowohl die Patientenaktivierung als auch die Effizienz klinischer Arbeitsabläufe unterstützen. Gleichzeitig ist zu beachten, dass mehrere Autoren finanzielle oder berufliche Verbindungen zum Unternehmen Ada Health hatten, dessen System untersucht wurde.
Der Preprint „MDIA: A Multi-Agent Diagnostic Intelligence Pipeline on HealthBench Professional“ beschreibt ein siebenstufiges Multi-Agenten-System für klinische Entscheidungsunterstützung. Auf dem HealthBench-Professional-Benchmark erreichte MDIA einen Score von 0,6272 und lag damit über den veröffentlichten Referenzwerten für GPT-5.4 und ChatGPT for Clinicians. Die Autoren führen die Leistungssteigerung vor allem auf die Systemarchitektur zurück, darunter Spezialisten-Routing, Multi-Turn-Kontextverarbeitung, Sicherheitsprüfungen für Medikamente, gezielte Literatur- und Websuche sowie verbesserte Antwortsynthese. Zudem zeigt die Studie, dass die Berücksichtigung vollständiger Gesprächsverläufe die Benchmark-Ergebnisse deutlich beeinflussen kann und dass die Wahl des LLM-basierten Bewertungsmodells eine relevante Quelle für Ergebnisvariabilität darstellt.
Die Originalarbeit „Komplexitätssteigerung medizinischer Entscheidungssituationen – Herausforderungen der Digitalisierung erkennen und gestalten“ analysiert die Auswirkungen der Digitalisierung auf medizinische Entscheidungsprozesse. Die Autorinnen und Autoren betrachten klinische Entscheidungen als sozial eingebettete und hybride Prozesse, in denen digitale Technologien, Organisationen und menschliche Akteure zusammenwirken. Der Beitrag beschreibt zentrale Herausforderungen wie Datenintegration, Dokumentationsaufwand, Fehlerdynamiken, Zeitressourcen und Diversität sowie daraus abgeleitete Handlungsempfehlungen für die Praxis.
“Towards autonomous medical artificial intelligence agents” beschreibt die Entwicklung und Evaluation von MIRA, einem autonomen KI-Agenten für klinische Arbeitsabläufe innerhalb einer elektronischen Patientenakte. Die Studie zeigt, dass der Agent in simulierten Notaufnahmeszenarien Diagnosen stellen, Untersuchungen veranlassen und Therapieentscheidungen treffen kann und dabei teilweise Leistungen auf oder über dem Niveau erfahrener Ärztinnen und Ärzte erreicht.
„Tandem Health“ bietet eine medizinische Dokumentations- und Entscheidungsunterstützung für Ärzt:innen und Versorgungsteams in Europa. Im Fokus stehen automatisierte Notizerstellung, Kodierunterstützung, Sprachbearbeitung sowie die Integration in bestehende PVS/KIS-Systeme unter Einhaltung europäischer Datenschutz- und Medizinproduktstandards (u. a. MDR Klasse IIa, ISO-Zertifizierungen, DSGVO).
“Multi-model assurance analysis showing large language models are highly vulnerable to adversarial hallucination attacks during clinical decision support” untersucht die Anfälligkeit großer Sprachmodelle (LLMs) für gezielte Halluzinationsangriffe in der klinischen Entscheidungsunterstützung. Die Studie mit 300 validierten Vignetten und 5.400 Ausgaben zeigt Halluzinationsraten von 50 % bis 82 % bei eingebetteten falschen Details. Ein spezieller Mitigations-Prompt senkt die Rate signifikant auf 44 %, während Temperatur-Anpassungen keine Verbesserung bringen. GPT-4o schneidet am besten ab, doch alle Modelle bleiben anfällig.
Der Text erhebt keinen Anspruch auf Vollständigkeit oder Korrektheit und stellt keine Rechtsberatung dar. Anmerkungen können in der rechten Seitenleiste mit Hypothes.is sozialem Annotierungswerkzeug oder am unteren Ende einer Seite mit GitHub Giscus Diskussionen hinterlassen werden.