Chatbot
Forschung
„Foundation metrics for evaluating effectiveness of healthcare conversations powered by generative AI“ ist ein im März 2024 in npj Digital Medicine veröffentlichter Perspective-Artikel. Die Autoren stellen einen umfassenden, nutzerzentrierten Satz von Evaluationsmetriken für KI-gestützte Gesundheits-Chatbots vor. Diese Metriken sind in vier Hauptkategorien gegliedert: Accuracy (Genauigkeit), Trustworthiness (Vertrauenswürdigkeit), Empathy (Empathie) sowie Performance (Leistungsfähigkeit). Der Beitrag betont die besondere Bedeutung patientenzentrierter Aspekte wie Empathie, Vertrauensaufbau, Personalisierung und ethischer Verantwortung, die in bisherigen generischen LLM-Evaluationsmetriken weitgehend fehlen. Gleichzeitig werden Herausforderungen bei der praktischen Umsetzung sowie ein konzeptioneller Rahmen für standardisierte und vergleichbare Bewertungen von Gesundheits-Chatbots diskutiert.
Der Artikel „I Double Checked It with My Own Knowledge:” Physician Perspectives on the Use of AI Chatbots for Clinical Decision-Making, veröffentlicht am 21. Januar 2026 im Journal of General Internal Medicine, untersucht die Haltung von Allgemeinmedizinern zum Einsatz von KI-Chatbots wie ChatGPT-4 bei klinischen Entscheidungen. Basierend auf semistrukturierten Interviews mit 22 US-amerikanischen Ärzten verschiedener Erfahrungsstufen sehen diese sich primär als „Filter“ für Informationen aus unterschiedlichen Quellen, einschließlich KI-Ausgaben. Die Ärzte betrachten klinische Entscheidungsfindung als Problemlösungsprozess, in dem KI bei der Hypothesengenerierung und Erweiterung differentialdiagnostischer Möglichkeiten unterstützen kann. Das Vertrauen in KI-Ergebnisse bleibt jedoch begrenzt und hängt stark vom eigenen klinischen Wissen ab; Ausgaben werden durchweg mit eigener Expertise abgeglichen und kontextuell angepasst, insbesondere wenn Referenzen fehlen. Die Studie betont, dass KI die Bandbreite möglicher Fälle erweitern kann, die endgültige Bewertung und Personalisierung aber bei den Ärzten verbleibt.
„A community-codesigned LLM-powered chatbot for primary care: a randomized controlled trial“ ist eine im Januar 2026 in Nature Health veröffentlichte, Open-Access-Studie. Chinesische Forscher entwickelten unter intensiver Einbindung von Betroffenen und Gemeindegesundheitsarbeitern den Chatbot P&P Care (Population Medicine and Public Health), der auf GPT-4 basiert und speziell für den Einsatz in ressourcenarmen Primärversorgungssettings optimiert wurde. In einer randomisierten kontrollierten Studie mit 2.113 Teilnehmenden aus elf chinesischen Provinzen zeigte sich, dass die Kombination aus vorbereitenden E-Learning-Modulen und Chatbot-Konsultation die objektive Gesundheitskompetenz signifikant stärker verbesserte als die alleinige Nutzung des Chatbots (mittlere Punktzahl 2,95 vs. 2,34; p < 0,001). Die Studie unterstreicht, dass community-basierte Co-Design-Prozesse und begleitende Schulungsmaßnahmen LLMs auch in unterversorgten Regionen effektiv und sicher einsetzbar machen können.
Der Artikel mit dem Titel „Are AI Tools Ready to Answer Patients’ Questions About Their Medical Care?“ von Rita Rubin erschien online am 6. März 2026 in JAMA. Er beleuchtet patientenorientierte generative KI-Tools wie ChatGPT Health von OpenAI, das im Januar 2026 gestartet wurde und personalisierte Gesundheitsinformationen auf Basis hochgeladener medizinischer Daten bieten soll. Experten sehen Potenzial in der Verbesserung des Verständnisses komplexer medizinischer Inhalte, der Erstellung postoperativer Anweisungen oder der Vereinfachung von Einwilligungserklärungen, betonen jedoch Grenzen: Studien zeigen unzureichende Triage-Leistung bei Notfällen, Risiken falscher oder unvollständiger Auskünfte durch mangelnde Kommunikation sowie Datenschutzprobleme, da diese Tools nicht HIPAA-konform sind. KI wird daher primär als Unterstützung – nicht als Ersatz – für Ärzte empfohlen, etwa zur Vorbereitung von Arztbesuchen oder Erklärung von Fachbegriffen, während für Diagnosen und Behandlungen weiterhin professionelle medizinische Beratung erforderlich bleibt.
Der Podcast „AI Tools for Patients Have Arrived” vom 6. März 2026 der JAMA Medical News behandelt die Verfügbarkeit und Anwendungsfähigkeit künstlicher Intelligenz als Gesundheitsinformationstool für Patientinnen und Patienten. Die Moderatoren Jennifer Abbasi und Rita Rubin diskutieren ChatGPT Health sowie weitere patientenorientierte KI-Anwendungen, deren Genauigkeit bei medizinischen Fragen, Datenschutzaspekte im Vergleich zu HIPAA-geschützten Einrichtungen und geplante staatlich geförderte Projekte zur Entwicklung autonomer Entscheidungsunterstützungssysteme für Herzinsuffizienz-Patienten. Ärzte empfehlen weiterhin, medizinische Ratschläge aus KI-Chatbots vor der Umsetzung mit behandelnden Ärztinnen und Ärzten abzustimmen, insbesondere bei schwerwiegenden gesundheitlichen Fragestellungen.
Der Blogbeitrag „Exploring the feasibility of conversational diagnostic AI in a real-world clinical study“ vom 11. März 2026 stellt die Ergebnisse einer prospektiven Machbarkeitsstudie vor, die Google Research und Google DeepMind gemeinsam mit dem Beth Israel Deaconess Medical Center durchgeführt haben. In der Untersuchung wurde das konversationelle medizinische KI-System AMIE eingesetzt, um vor ambulanten Primärarztbesuchen bei nicht-notfallmäßigen Beschwerden eine textbasierte Anamnese mit Patienten zu erheben. Unter ärztlicher Live-Aufsicht zeigte AMIE in 100 Fällen keinerlei sicherheitskritische Ereignisse, erreichte eine hohe diagnostische Genauigkeit (90 % Abdeckung der finalen Diagnose in den Top-7-Differentialdiagnosen) und wurde sowohl von Patienten als auch von Ärzten hinsichtlich Gesprächsqualität und Nutzen positiv bewertet. Die Vertrauenswerte der Patienten gegenüber KI stiegen nach der Interaktion signifikant an, während die Qualität der Differentialdiagnosen und Managementpläne von AMIE und den behandelnden Ärzten als vergleichbar eingestuft wurde, wobei Ärzte bei Praktikabilität und Kosteneffizienz Vorteile zeigten. Die Studie markiert einen wichtigen Schritt hin zu einer evidenzbasierten Bewertung konversationeller medizinischer KI im realen klinischen Umfeld.
Der Artikel mit dem Titel „AI-augmented communication improves HIV PrEP initiation and persistence in populations disproportionately impacted by HIV“ erschien am 7. März 2026 als Brief Communication im Open-Access-Journal npj Digital Medicine. Diese retrospektive Kohortenstudie untersuchte einen KI-gestützten Chatbot zur Unterstützung der PrEP-Versorgung (Präexpositionsprophylaxe gegen HIV) in Kliniken der AIDS Healthcare Foundation in den USA. Unter 155.217 geeigneten Erwachsenen zeigten Personen, die mit dem Chatbot interagierten, höhere Raten bei PrEP-Initiierung, Teilnahme an Nachsorgeterminen und Terminadhärenz im Vergleich zu Nichtnutzern. Die Nutzung war besonders hoch bei jüngeren Patienten sowie bei Personen aus rassischen oder ethnischen Minderheiten. Die Ergebnisse deuten darauf hin, dass KI-unterstützte Kommunikation bestimmte Aspekte der PrEP-Versorgung verbessern kann.
Das Paper „Advancing Conversational Diagnostic AI with Multimodal Reasoning“ (arXiv:2505.04653v1, veröffentlicht im Mai 2025) stellt eine Weiterentwicklung des KI-Systems Articulate Medical Intelligence Explorer (AMIE) vor. Es integriert multimodale Fähigkeiten, um in diagnostischen Gesprächen nicht nur Text, sondern auch medizinische Bilder (z. B. Hautfotos, EKGs) und Dokumente (z. B. PDFs von Laborberichten) anzufordern, zu interpretieren und in die Diagnosefindung einzubeziehen. Basierend auf Gemini 2.0 Flash nutzt das System einen state-aware Dialograhmen, der den Gesprächsverlauf dynamisch steuert und Unsicherheiten gezielt durch Folgefragen oder Artefaktanfragen reduziert, um den Prozess erfahrener Kliniker in Telemedizin nachzuahmen. In einer randomisierten, verblindeten OSCE-Studie mit 105 Szenarien und 25 Patientendarstellern zeigte AMIE gegenüber Primärärzten (PCPs) überlegene oder vergleichbare Leistungen, insbesondere bei multimodaler Datenverarbeitung (7 von 9 Achsen) sowie bei diagnostischer Genauigkeit und weiteren klinischen Kriterien (29 von 32 Achsen), bewertet durch 18 Fachärzte. Die Autoren betonen, dass dies Fortschritte in der multimodalen konversationellen Diagnostik darstellt, eine reale klinische Anwendung jedoch weitere Forschung erfordert.
„Evaluation format, not model capability, drives triage failure in the assessment of consumer health AI“ untersucht, warum eine in Nature Medicine berichtete hohe Untertriage-Rate von ChatGPT Health vor allem ein Artefakt des Prüfungsformats und nicht der klinischen Leistungsfähigkeit großer Sprachmodelle ist. Die Autoren replizieren und variieren das ursprüngliche, stark reglementierte „Exam-Style“-Setting (ABCD-Zwangsauswahl, Wissensunterdrückung, Verbot von Rückfragen) an fünf aktuellen LLMs und vergleichen dies mit natürlich formulierten, patientenähnlichen Anfragen ohne Formatbeschränkungen. Sie zeigen, dass unter realistischeren, freien Textinteraktionen die Triagegenauigkeit im Mittel um 6,4 Prozentpunkte steigt, Notfälle wie diabetische Ketoazidose durchgängig korrekt eingestuft werden und insbesondere der Zwang zu diskreten ABCD-Antworten scheinbare Untertriage erzeugt, obwohl die Modelle in ihren eigenen Worten konsequent zur Notfallversorgung raten. Die Arbeit folgert, dass belastbare Sicherheitsbewertungen von Consumer-Gesundheitschatbots nur unter nutzungsnahen, interaktiven Bedingungen möglich sind und dass aus examinierten Einmal-Prompts ohne Rückfragen keine stabilen Aussagen über das reale Triageverhalten abgeleitet werden können.
Die Studie „ChatGPT Health performance in a structured test of triage recommendations“ wurde am 23. Februar 2026 in Nature Medicine veröffentlicht. Sie untersuchte die Triage-Empfehlungen von ChatGPT Health, einem im Januar 2026 gestarteten Verbraucher-Tool von OpenAI, anhand von 60 klinisch erstellten Vignetten aus 21 Fachbereichen unter 16 faktoriellen Bedingungen (insgesamt 960 Antworten). Die Ergebnisse zeigten ein umgekehrt U-förmiges Leistungsprofil mit den höchsten Fehlerraten an den Extremen: 35 % Fehlentscheidungen bei nicht-akuten Fällen und 48 % bei Notfällen. Bei goldstandardmäßigen Notfällen unterschätzte das System in 52 % der Fälle die Dringlichkeit und empfahl teilweise 24–48-Stunden-Kontrollen statt sofortiger Notaufnahme, etwa bei diabetischer Ketoazidose oder drohendem Atemversagen, während klassische Notfälle wie Schlaganfall oder Anaphylaxie korrekt erkannt wurden. Bei symptomverharmlosenden Angaben (Anchoring-Bias) verschoben sich Empfehlungen in Grenzfällen signifikant zu geringerer Dringlichkeit. Kriseninterventionsmeldungen bei Suizidgedanken aktivierten sich inkonsistent. Patientenmerkmale wie Rasse, Geschlecht oder Zugangsbarrieren zeigten keine signifikanten Effekte. Die Autoren sehen hierin erhebliche Sicherheitsrisiken und fordern prospektive Validierungen vor breiterem Einsatz.
Der Artikel „Are AI Tools Ready to Answer Patients’ Questions About Their Medical Care?“ von Rita Rubin erschien am 6. März 2026 online in JAMA. Er beleuchtet patientenorientierte generative KI-Tools wie das im Januar 2026 von OpenAI eingeführte ChatGPT Health, die medizinische Informationen erklären, postoperative Anweisungen erstellen oder personalisierte Angaben auf Basis hochgeladener Gesundheitsdaten liefern sollen. Experten betonen, dass solche Systeme derzeit als Ergänzung zu Ärzten („clinician extender“) dienen sollten, nicht als Ersatz, da Studien Ungenauigkeiten bei der Triage schwerer und leichter Fälle, Risiken durch unvollständige Nutzerangaben sowie fehlende HIPAA-Konformität und Datenschutzbedenken aufzeigen. Trotz Potenzials zur Verbesserung des Zugangs zu medizinischem Wissen und Vorbereitung auf Arztbesuche raten Fachleute zu Vorsicht bei hochrisikorelevanten Entscheidungen und sehen sie primär für niedrigschwellige Aufgaben wie Begriffserklärungen oder Zusammenfassungen geeignet.
„Conversational health agents: a personalized large language model-powered agent framework“ ist ein wissenschaftlicher Artikel, der 2025 in der Zeitschrift JAMIA Open erschienen ist. Die Autoren stellen darin das open-source Framework openCHA vor, das die Entwicklung von konversationellen Gesundheitsagenten (Conversational Health Agents, CHAs) auf Basis von Large Language Models ermöglicht. Das Framework adressiert zentrale Schwächen bestehender LLM-basierter Gesundheits-Chatbots, indem es mehrstufiges Problemlösen, Personalisierung, multimodale Datenverarbeitung, Mehrsprachigkeit sowie den Zugriff auf aktuelle Wissensquellen und externe Analysewerkzeuge integriert. In mehreren Anwendungsfällen (u. a. Diabetes-Management, Ernährungsempfehlungen, Stresserkennung aus Wearable-Daten, Emotionserkennung und Evaluierung von Mental-Health-Chatbots) zeigen mit openCHA erstellte Agenten deutlich bessere Ergebnisse als reine LLM-Lösungen wie GPT-4. Der Quellcode und die Dokumentation sind öffentlich auf GitHub verfügbar.
„Uses of generative AI by non-clinician staff at an academic medical center“ ist eine Open-Access-Studie, die im Februar 2026 in der Zeitschrift npj Health Systems erschienen ist. Die Autoren analysierten 30.503 Chat-Verläufe eines sicheren, HIPAA-konformen Large-Language-Model-Tools (GPT-4o), das über elf Monate an einem akademischen Medizinzentrum eingesetzt wurde. 98 % der Threads stammten von Nicht-Klinikpersonal aus 239 verschiedenen Rollen. Die Nutzung konzentrierte sich vor allem auf administrative Aufgaben wie E-Mail- und Dokumentenerstellung (53,9 %), Textmanipulation (9,1 %) und Brainstorming (6,7 %). Ein Teil der Anfragen bezog sich jedoch auf klinische Entscheidungsfindung (5,9 %) oder war privat und arbeitsfremd. Die Studie kommt zu dem Schluss, dass gezielte Schulungen, rollenspezifische Governance-Richtlinien und angepasste Evaluationsrahmen notwendig sind, um den Nutzen von generativer KI für Nicht-Klinikpersonal zu maximieren und gleichzeitig Risiken in Gesundheitseinrichtungen zu minimieren.
Das Paper „Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians“ (arXiv:2602.19141v1, 22. Februar 2026) von Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley und Joshua B. Tenenbaum untersucht den Zusammenhang zwischen der Sycophancy von KI-Chatbots und dem Phänomen der „delusional spiraling“ oder „AI-Psychose“. Die Autoren entwickeln ein einfaches bayessches Modell einer rationalen Nutzerin, die mit einem Chatbot interagiert, und formalisieren darin Sycophancy sowie die Entstehung wahnhafter Überzeugungen. Simulationen zeigen, dass selbst ein ideal bayes-rationaler Nutzer anfällig für eine Verstärkung falscher Überzeugungen ist, sobald der Chatbot mit einer gewissen Wahrscheinlichkeit (π) sycophantisch antwortet, also gezielt die geäußerte Meinung des Nutzers validiert. Dieser Effekt bleibt auch bei zwei untersuchten Gegenmaßnahmen bestehen: bei der Beschränkung des Chatbots auf faktisch korrekte, aber selektiv präsentierte Informationen sowie bei der vollständigen Information des Nutzers über mögliche Sycophancy. Die Arbeit liefert damit das erste formale computationale Modell, das die kausale Rolle von Sycophancy bei der Entstehung von Wahnspiralen belegt, und diskutiert Implikationen für Entwickler und Regulierer.
Der Artikel „It Is the Journey, Not the Destination: Moving From End Points to Trajectories When Assessing Chatbot Mental Health Safety“ von Hamilton Morrin, Joshua Au Yeung, Zarinah Agnew, Søren Dinesen Østergaard und Thomas A. Pollak, erschienen am 6. April 2026 in JMIR Mental Health, plädiert für eine Neuausrichtung der Sicherheitsbewertung von KI-Chatbots im mentalen Gesundheitsbereich. Die Autoren argumentieren, dass Risiken für die psychische Gesundheit – wie die Entwicklung von Wahnvorstellungen, suizidalen Krisen oder schleichenden Schäden durch zwanghafte Nutzung, Schlafstörungen und sozialen Rückzug – nicht primär an einzelnen Gesprächsendpunkten entstehen, sondern sich schrittweise über längere Dialogverläufe (Trajektorien) aufbauen. Bisherige Evaluationsmethoden, die sich auf isolierte Antworten, kurze Skripte oder einzelne Turns konzentrieren, greifen daher zu kurz. Stattdessen fordern die Autoren, ganze Dialoge als Bewertungseinheit zu betrachten, turn-by-turn-Dynamiken wie Bestätigung von Wahnideen oder das Timing von Sicherheitsinterventionen zu analysieren und kurze Tests an realitätsnahen, längeren Interaktionssequenzen zu kalibrieren. Ergänzend wird eine Kombination aus Textanalysen und der Erfassung tatsächlicher Nutzer-Outcomes (z. B. Veränderungen in Gewissheit, Erregung oder Verhalten) sowie der Aufbau einer prospektiven Überwachungsinfrastruktur mit einwilligungsbasierten Transkript- und Gesundheitsdaten empfohlen, um die klinische Relevanz der Sicherheitsbewertung zu verbessern.
Generative artificial intelligence-driven chatbots and medical misinformation: an accuracy, referencing and readability audit ist eine Audit-Studie zu fünf populären KI-Chatbots (u. a. Gemini, ChatGPT, Grok). Die Untersuchung zeigt, dass fast die Hälfte (49,6 %) der Antworten zu gesundheitsrelevanten Themen problematisch waren – mit signifikant mehr hochproblematischen Ausgaben bei Grok. Zitationen waren häufig unvollständig oder halluziniert, die Lesbarkeit entsprach durchgängig einem anspruchsvollen Hochschulniveau. Die Ergebnisse unterstreichen die Risiken von KI bei medizinischen Fehlinformationen und den Bedarf an Aufklärung und Regulierung.
Der Artikel „Mass Media Narratives of Psychiatric Adverse Events Associated With Generative AI Chatbots: Rapid Scoping Review“ aus der Fachzeitschrift JMIR Mental Health analysiert systematisch, wie Massenmedien über angebliche psychiatrische Nebenwirkungen im Zusammenhang mit generativen KI-Chatbots berichten. Die Studie zeigt, dass Medienberichte häufig schwere Ereignisse wie Suizid oder Psychosen hervorheben, insbesondere bei Jugendlichen, während die zugrunde liegende Evidenz meist schwach ist und oft auf Chatprotokollen oder Aussagen von Angehörigen basiert. Ein zentraler Befund ist, dass Kausalzusammenhänge selten belegt sind und stattdessen narrative Zuschreibungen dominieren. Die Autoren betonen die Notwendigkeit strukturierter Sicherheitsüberwachung, transparenter Risikoprüfung und klarer regulatorischer Rahmenbedingungen, da generative KI zunehmend in sensiblen mentalen Kontexten eingesetzt wird.
Der Artikel „Reduced symptom reporting quality during human–chatbot versus human–physician interactions“ untersucht, wie sich die Wahrnehmung des Gegenübers (KI-Chatbot vs. Arzt) auf die Qualität von Symptombeschreibungen auswirkt. Die Studie zeigt, dass Teilnehmende ihre Symptome weniger detailliert und damit weniger geeignet für medizinische Ersteinschätzungen schildern, wenn sie glauben, mit einer KI zu kommunizieren. Dies deutet darauf hin, dass nicht nur die Leistungsfähigkeit von KI-Systemen entscheidend ist, sondern auch das Kommunikationsverhalten der Nutzer, das die Qualität medizinischer Ergebnisse beeinflussen kann.
„When the source is a bot: How people adapt their evaluation strategies to assess AI-generated content“ untersucht, wie Erwachsene Bewertungsstrategien für wissenschaftsbezogene Informationen anpassen, wenn die Quelle generative KI (Bing-Chat) statt einer Suchmaschine (Google) ist. Die qualitative Studie mit 30 Teilnehmenden zeigt, dass bekannte Strategien (Inhalts-, Quellenbewertung, Korroboration) auf beiden Plattformen eingesetzt, bei GenAI jedoch in neue Formen transformiert werden: „Representation evaluation“ prüft, ob die KI ihre Quellen korrekt zusammenfasst, statt unabhängige Übereinstimmung zu verifizieren; „Meta-source evaluation“ stützt sich auf die Bekanntheit der von der KI gelieferten Quellen statt auf deren direkte Prüfung. Dialogfähigkeiten der KI wurden kaum zur Glaubwürdigkeitsprüfung genutzt; viele verließen sich auf die Machine Heuristic (Übervertrauen in automatisierte Systeme). Die Arbeit erweitert bestehende Modelle der Online-Informationsbewertung um KI-vermittelte Kontexte und unterstreicht den Bedarf an kritischen Evaluationskompetenzen.
„There are more AI health tools than ever—but how well do they work?“ untersucht den aktuellen Einsatz von KI-Chatbots für Gesundheitsfragen und die bislang begrenzte Evidenz zu ihrer Sicherheit und Wirksamkeit. Die Analyse zeigt Potenziale für einen besseren Zugang zur Gesundheitsversorgung, aber auch Risiken insbesondere bei Triage, Diagnosen und Therapieempfehlungen. Als zentrale Voraussetzung werden unabhängige externe Evaluationen und belastbare Benchmarks wie HealthBench und MedHELM hervorgehoben.
„Older adults’ experience with virtual conversational agents for health data collection“ untersucht die Erfahrungen von 260 Erwachsenen ab 60 Jahren mit einem Chatbot zur Erhebung von Gesundheitsdaten. Der Chatbot wurde insgesamt als einfach (5,8/7), brauchbar (5,4/7) und mit geringer kognitiver Belastung (12,3/100) bewertet. Mit zunehmender Formularlänge sank jedoch die wahrgenommene Nützlichkeit und die Bereitschaft zur Weiterempfehlung. Als zentrale Verbesserungsfelder wurden Lesbarkeit, Fortschrittsanzeige, Bearbeitung früherer Antworten, technische Zuverlässigkeit, Möglichkeiten für Rückfragen sowie Datenschutz und Datensicherheit identifiziert.
„A Beta-Prototype Chatbot for Increasing Health Literacy of Patients With Decompensated Cirrhosis: Usability Study“ untersucht die Nutzbarkeit des Chatbots Lucy LiverBot bei 20 Patientinnen und Patienten mit dekompensierter chronischer Lebererkrankung. Der Prototyp wurde insgesamt gut angenommen und insbesondere als verständliche, vertrauenswürdige Informationsquelle sowie als potenziell unterstützendes Instrument für Gesundheitskompetenz und Selbstmanagement bewertet. Die Ergebnisse sind jedoch aufgrund der kleinen Stichprobe zunächst explorativ und müssen durch größere und längerfristige Studien validiert werden.
„Evaluating User Experience With a Chatbot Designed as a Public Health Response to the COVID-19 Pandemic in Brazil: Mixed Methods Study“ untersucht die Nutzererfahrung eines COVID-19-Chatbots für Symptom-Screening und evidenzbasierte Gesundheitsinformationen. 63 reale Nutzer bewerteten die Anwendung insgesamt positiv; ergänzende Interviews mit 15 Personen zeigten zugleich konkrete Schwächen bei Interaktionslogik, Zugänglichkeit, Aktualität der Informationen und situationsbezogener Unterstützung.
„Evaluating User Experiences with an AI Chatbot for Health-Related Social Needs: A Cross-Sectional Mixed Methods Study“ untersucht die Nutzungserfahrung des Chatbots DAPHNE zur Identifikation ungedeckter sozialer Gesundheitsbedarfe und zur Vermittlung passender Ressourcen. In einer Mixed-Methods-Studie mit 128 Betreuungspersonen wurden hohe Gebrauchstauglichkeit, Zufriedenheit und Vertrauenswerte festgestellt; 94 % bewerteten das System als hilfreich. Die auf Retrieval-Augmented Generation basierende Empfehlungskomponente erreichte eine Intent-Genauigkeit von 99 % bei 1.523 Nachrichten. Die Autoren sehen Potenzial insbesondere bei finanziellen, wohnbezogenen und ernährungsbezogenen Unterstützungsbedarfen, betonen jedoch den Bedarf an Langzeit- und Wirksamkeitsstudien.
„Putting ChatGPT’s Medical Advice to the (Turing) Test: Survey Study“ untersucht, wie gut Laien zwischen ChatGPT- und ärztlich formulierten Antworten auf Patientenfragen unterscheiden können und wie stark sie solchen Chatbots vertrauen. In einer US-repräsentativen Befragung mit 392 ausgewerteten Teilnehmenden wurden Chatbot-Antworten in 65,5 % und menschliche Antworten in 65,1 % der Fälle korrekt erkannt. Das Vertrauen war für administrative und präventive Fragen höher als für diagnostische oder therapeutische Empfehlungen.
„Virtual conversational agents versus online forms: Patient experience and preferences for health data collection“ untersucht, wie Patientinnen und Patienten einen Chatbot im Vergleich zu einem klassischen Online-Formular zur Erfassung von Gesundheitsdaten bewerten. In einer innerhalb der Personen randomisierten Studie mit 206 ausgewerteten Teilnehmenden bevorzugten 69,9 % den Chatbot; auch der Net Promoter Score war mit 24 gegenüber 13 signifikant höher. Der Chatbot wurde vor allem als intuitiv, interaktiv und ansprechend wahrgenommen, benötigte jedoch deutlich mehr Zeit für die Datenerfassung (Median 212,5 gegenüber 123 Sekunden). Die Ergebnisse sprechen für ein höheres Engagement durch konversationelle Schnittstellen, zeigen aber zugleich Optimierungsbedarf bei Bearbeitungszeit sowie Datenschutz- und Sicherheitswahrnehmung.
„Leveraging large language models for generating responses to patient messages—a subjective analysis“ untersucht den Einsatz feinabgestimmter Large Language Models zur Unterstützung von Antworten auf Nachrichten in Patientenportalen. Auf Basis von 499.286 Patientennachrichten und Antworten sowie einer Bewertung durch vier Hausärzte erzielte das Modell CLAIR-Long positive Bewertungen für Empathie, Responsivität und Genauigkeit und war in mehreren Dimensionen mit ChatGPT-3.5 und ChatGPT-4 vergleichbar. Die Ergebnisse zeigen Potenzial für KI-generierte Antwortentwürfe, betonen aber die Notwendigkeit aktueller klinischer Informationen und ärztlicher Kontrolle.
„Using AI chatbots (e.g., CHATGPT) in seeking health-related information online: The case of a common ailment“ untersucht anhand von 231 US-amerikanischen Befragten, welche Faktoren die Nutzung von ChatGPT zur Gesundheitsinformationssuche beeinflussen. Sowohl der praktische Nutzen als auch emotionale und interaktive Aspekte steigerten die Zufriedenheit signifikant; diese wiederum beeinflusste die Absicht zur Weiternutzung (β = 0,534) und zur Umsetzung von Empfehlungen (β = 0,568). Das Modell erklärte 50,1 % der Varianz der Zufriedenheit, 53,6 % der Weiternutzungsabsicht und 48,2 % der Handlungsabsicht.
“Influencing human–AI interaction by priming beliefs about AI can increase perceived trustworthiness, empathy and effectiveness” zeigt, dass die Erwartungen und mentalen Modelle von Nutzer:innen die Wahrnehmung derselben KI wesentlich beeinflussen können. In der Studie führte die Darstellung einer KI mit fürsorglichen Motiven zu höheren Einschätzungen von Vertrauenswürdigkeit, Empathie und Leistungsfähigkeit; zudem verstärkten sich diese Effekte bei einem leistungsfähigeren Modell. Die Ergebnisse verdeutlichen, dass bereits die Einführung und Rahmung eines KI-Systems die Mensch-KI-Interaktion und die wahrgenommene Verlässlichkeit beeinflussen kann.
“Training Empathetic Communication Skills in Medical Students With a Role-Prompted GPT-4o Chatbot: Quasi-Experimental Intervention Study” untersucht den Einsatz eines GPT-4o-basierten Chatbots zur Verbesserung kommunikativer Kompetenzen von Medizinstudierenden. Die Studie zeigt, dass bereits eine einzelne KI-gestützte Gesprächssimulation mit Rollenszenarien und Feedback die selbst eingeschätzte Kommunikationskompetenz signifikant steigern kann. Die Ergebnisse verdeutlichen das Potenzial generativer KI als ressourceneffizientes Werkzeug für das Training professioneller Gesprächsführung.
Der Beitrag „Check Symptoms & Get Care”: Mount Sinai’s AI Triage Solution beschreibt die Einführung einer KI-gestützten digitalen Selbsttriage am Mount Sinai Health System. Im Mittelpunkt stehen die technische Umsetzung, die klinische Validierung sowie die Auswirkungen auf Patientenzufriedenheit, Versorgungseffizienz und sichere Navigation innerhalb des Gesundheitssystems.
„Emerging shadow health systems: regulating health-focused generative AI chatbots from a European perspective“ untersucht die gesundheitspolitischen und regulatorischen Folgen von KI-Chatbots, die zunehmend als alternative erste Anlaufstelle für Gesundheitsinformationen und Versorgung fungieren. Die Autoren beschreiben solche Systeme als „Schatten-Gesundheitssysteme“ und zeigen regulatorische Lücken im EU-Recht bei Sicherheit, klinischer Validierung, Gleichheit, Verantwortlichkeit und der Nutzung sensibler Gesundheitsdaten auf. Vorgeschlagen wird eine stärker funktions- und wirkungsorientierte Regulierung, die personalisierte Gesundheits-KI unabhängig von Produktbezeichnungen oder Haftungsausschlüssen angemessenen Pflichten unterwirft.
Die Studie „KI-Nutzung im privaten Alltag 2026“ zeigt, dass KI-gestützte Gesundheitsberatung bereits erheblichen Einfluss auf das Verhalten von Patient*innen hat. 46 Prozent der Befragten haben vor einem Arztbesuch bereits eine KI-Diagnose eingeholt; zugleich verzichtet ein relevanter Teil nach einer solchen Einschätzung auf ärztliche Beratung. Trotz hoher Zufriedenheit mit KI-Informationen bewerten 55 Prozent die Informationen der Ärzteschaft als zuverlässiger als KI-generierte Antworten. Besonders jüngere Menschen nutzen KI intensiv für Gesundheitsfragen, wodurch die Bedeutung von Gesundheitskompetenz und einer kritischen Einordnung medizinischer KI-Ausgaben zunimmt.
Der Artikel „Physician Edits to AI-Drafted Patient Messages and Their Impact on Clinical Workload“ untersucht den Einfluss ärztlicher Bearbeitungen KI-generierter Antworten auf Patientenmitteilungen. In einer Analyse von 14.350 KI-gestützten Antworten von 1.131 Ärzten waren alle 15 untersuchten Bearbeitungskategorien mit längeren Antwortzeiten verbunden; besonders stark wirkten die Interpretation radiologischer Befunde (+70,1 %), diagnostische Klärung (+63,9 %) und Laborbefundinterpretation (+60,8 %). Aufgrund ihrer hohen Häufigkeit verursachten jedoch Terminplanung, Lebensstilberatung und Überweisungskoordination die größte kumulative Arbeitsbelastung. Die Ergebnisse verdeutlichen, dass der Nutzen von KI zur Entlastung klinischer Kommunikation stark davon abhängt, welche Inhalte die Systeme zuverlässig vorformulieren.
Der Text erhebt keinen Anspruch auf Vollständigkeit oder Korrektheit und stellt keine Rechtsberatung dar. Anmerkungen können in der rechten Seitenleiste mit Hypothes.is sozialem Annotierungswerkzeug oder am unteren Ende einer Seite mit GitHub Giscus Diskussionen hinterlassen werden.