Regulation Künstlicher Intelligenz
„Guidance and Quality Criteria on AI Prediction Algorithms in Medical Devices“ ist ein Überblicksbericht aus dem August 2020, der zentrale Leitlinien und Qualitätskriterien für KI-basierte Vorhersagealgorithmen im Gesundheitswesen zusammenfasst. Der Bericht strukturiert den Lebenszyklus solcher Algorithmen in sechs Phasen – von Datenvorbereitung über Entwicklung und Validierung bis hin zu Implementierung und Anwendung – und betont dabei Aspekte wie Datenqualität, Bias, Generalisierbarkeit, Transparenz sowie klinische Wirkung. Ziel ist es, eine Orientierung für die sichere, effektive und regulierungskonforme Nutzung von KI in medizinischen Softwareprodukten zu bieten.
Der Artikel „Availability of Evidence for Predictive Machine Learning Algorithms in Primary Care“ untersucht systematisch die Verfügbarkeit von Evidenz für prädiktive Machine-Learning-Algorithmen in der Primärversorgung. Die Autoren identifizieren 43 Algorithmen, von denen viele auf kardiovaskuläre Erkrankungen und Diabetes ausgerichtet sind. Insgesamt zeigt sich eine erhebliche Lücke in der öffentlich zugänglichen Evidenz über den gesamten Lebenszyklus dieser Systeme hinweg, insbesondere in den Phasen Vorbereitung und Impact-Bewertung. Während Entwicklungs- und Validierungsdaten häufiger berichtet werden, fehlen oft Informationen zu Implementierung, Monitoring und klinischem Nutzen. Algorithmen aus wissenschaftlicher Literatur weisen dabei mehr verfügbare Evidenz auf als solche aus regulatorischen Datenbanken (z. B. FDA oder CE). Die Studie betont die Notwendigkeit transparenter und standardisierter Berichterstattung, etwa durch Anwendung der niederländischen AIPA-Leitlinie, um Vertrauen, Nachvollziehbarkeit und eine breitere Implementierung von KI-Systemen in der Primärversorgung zu fördern.
Der Beitrag „A Collaborative Best Practice Guide for Promoting AI Vendor Transparency in Health Care — The HAIP AI Vendor Disclosure Framework“ beschreibt einen strukturierten Ansatz zur Verbesserung der Transparenz bei der Beschaffung von KI-Systemen im Gesundheitswesen. Im Mittelpunkt steht ein von der Health AI Partnership entwickeltes Rahmenwerk, das fünf zentrale Informationsbereiche definiert: Systemfunktionen, Leistungsfähigkeit, Datenmanagement, Integrationsanforderungen und Lebenszyklusmanagement. Ziel ist es, die bislang oft unzureichenden und uneinheitlichen Angaben von Anbietern zu standardisieren und damit fundiertere, sicherere Beschaffungsentscheidungen zu ermöglichen. Das Framework adressiert bestehende Defizite in der Bewertung von KI-Systemen, stärkt die Vergleichbarkeit von Angeboten und fördert Vertrauen sowie Verantwortlichkeit zwischen Anbietern und Gesundheitseinrichtungen. Gleichzeitig werden Herausforderungen bei der Umsetzung betont, insbesondere begrenzte Ressourcen und fehlende Expertise in kleineren Organisationen, was potenziell bestehende Ungleichheiten verstärken kann.
Der Perspective-Artikel „Mapping AI regulation in health care with the Health & AI Policy Index“ beschreibt die zunehmende Fragmentierung der Regulierung von KI im Gesundheitswesen. Auf Basis des Health & AI Policy Index (HAPI) analysieren die Autoren 240 gesundheitsbezogene KI-Politiken bis Januar 2026. Die Analyse zeigt, dass Transparenz- und Governance-Vorgaben dominieren, während verbindliche klinische Regeln weiterhin selten sind. Regulatorische Anforderungen richten sich vor allem an Gesundheitsanbieter, Behörden und Entwickler. Gleichzeitig nimmt die Zahl beteiligter Institutionen und Regelwerke seit 2024 stark zu, was die Governance-Landschaft komplexer macht.
„Overcoming regulatory barriers to the implementation of AI agents in healthcare“ ist ein Kommentar in Nature Medicine (2025), der sich mit regulatorischen Herausforderungen beim Einsatz autonomer KI-Agenten im Gesundheitswesen befasst. Der Beitrag betont die Notwendigkeit, bestehende, statische Zulassungsmodelle durch adaptive und flexiblere Aufsichts- und Steuerungsmechanismen zu ergänzen, um Sicherheit und Implementierbarkeit zu gewährleisten.
Der Text erhebt keinen Anspruch auf Vollständigkeit oder Korrektheit und stellt keine Rechtsberatung dar. Anmerkungen können in der rechten Seitenleiste mit Hypothes.is sozialem Annotierungswerkzeug oder am unteren Ende einer Seite mit GitHub Giscus Diskussionen hinterlassen werden.