Die praktische Konsequenz: Ein einziges KI-Medizinprodukt kann gleichzeitig unter MDR/IVDR (Produktsicherheit), AI Act (KI-Systemanforderungen), DSGVO und EHDS (Gesundheitsdatennutzung) sowie NIS-2 und CRA (Cybersecurity) fallen. Für Projekte ist daher ein integrierter Governance- und Risikomanagement-Ansatz unerlässlich, der widersprüchliche Anforderungen – etwa das Spannungsfeld zwischen Datenminimierung (DSGVO) und dem Bedarf an umfangreichen Trainingsdaten (AI Act) – systematisch auflöst.
3. Das normative Gerüst: Harmonisierte Normen und ihre KI-spezifischen Herausforderungen
Für KI-Hersteller sind mehrere harmonisierte Normen besonders zentral – und alle stellen im KI-Kontext neue Anforderungen, die über ihre ursprüngliche Konzeption hinausgehen:
IEC 62304 – Software-Lebenszyklus: Die Norm definiert Anforderungen an den gesamten Softwareentwicklungsprozess (Klassen A, B, C). Für KI-Systeme entstehen besondere Herausforderungen: Algorithmische Modelle sind nicht vollständig durch klassische Anforderungsspezifikationen beschreibbar, Trainings- und Validierungsdaten werden Teil des Produkts, und kontinuierliches Lernen (Continuous Learning) erfordert ein erweitertes Änderungsmanagement.
ISO 14971 – Risikomanagement: Das Risikomanagement muss für KI-Produkte neue Risikokategorien adressieren: algorithmische Verzerrungen (Bias), Verteilungsverschiebungen im Einsatz (Distribution Shift), fehlende Erklärbarkeit von Entscheidungen sowie Cybersecurity-Risiken vernetzter Systeme. Die MDCG-Leitlinie 2021-24 gibt erste Orientierung; die Norm wird durch IEC/TR 24372 (KI-spezifische Risiken) weiter konkretisiert.
ISO 13485 – Qualitätsmanagementsystem: Ein QMS nach ISO 13485 muss für KI-Hersteller um Prozesse für Datenqualitätsmanagement, Modell-Validierung und -Überwachung sowie KI-spezifisches Change Management erweitert werden. Die neue ISO 42001 (KI-Managementsystem, 2023) bietet eine sinnvolle Ergänzungsstruktur, die Governance, Risikomanagement und kontinuierliche Verbesserung für KI-Systeme adressiert.
IEC 62366-1 – Usability Engineering: Die Norm fordert einen systematischen Prozess zur Gebrauchstauglichkeit. Bei KI-Systemen ist die Gestaltung der Human Oversight besonders relevant: Nutzer müssen KI-Ausgaben sicher interpretieren, Unsicherheiten erkennen und Vorschläge gezielt überschreiben können. Der AI Act verankert diese Anforderung in Art. 14 (menschliche Aufsicht).
IEC 81001-5-1 / IEC 62443 – Cybersecurity: Die IEC 81001-5-1 definiert Cybersecurity-Anforderungen speziell für Health Software und Health IT-Systeme. Sie ergänzt die horizontale IEC 62443 (Industrial Automation & Control Systems) und bildet zusammen mit dem Cyber Resilience Act die normative Grundlage für die Produktsicherheit vernetzter KI-Medizinprodukte.
4. EU AI Act: Neue Pflichten für Provider und Deployer
Seit dem Inkrafttreten des EU AI Act entstehen für KI-Hersteller schrittweise neue Pflichten – mit Übergangsfristen, die bis August 2027 laufen. Für Hochrisiko-KI-Systeme, zu denen die meisten diagnostischen und therapeutischen KI-Anwendungen zählen, gelten folgende Kernanforderungen:
Für Hersteller, die bereits unter MDR reguliert sind, entsteht damit ein Mehrschichtenmodell: MDR regelt die Sicherheit und Leistungsfähigkeit des Medizinprodukts, der AI Act adressiert die KI-spezifischen Transparenz- und Robustheitspflichten – und beide Verfahren müssen koordiniert, aber separat dokumentiert werden. Das Konformitätsbewertungsverfahren nach AI Act kann unter bestimmten Bedingungen mit dem MDR-Verfahren bei einer Benannten Stelle (NB) kombiniert werden.
5. Datenschutz und Data Governance: DSGVO, EHDS und Data Act
Jedes KI-Medizinprodukt, das Patientendaten verarbeitet, unterliegt dem vollständigen Datenschutzregime der DSGVO (Verordnung (EU) 2016/679). Gesundheitsdaten als besondere Kategorie personenbezogener Daten (Art. 9 DSGVO) dürfen nur auf expliziter Rechtsgrundlage verarbeitet werden. Für KI-gestützte Diagnose- und Triagesysteme ist regelmäßig eine Datenschutz-Folgenabschätzung (DPIA, Art. 35 DSGVO) durchzuführen.
Für die Nutzung von Routinedaten zum KI-Training und zur Modellvalidierung sind zusätzlich der Data Governance Act (DGA, Verordnung (EU) 2022/868) und der Data Act (Verordnung (EU) 2023/2854) relevant: Sie schaffen Rahmenbedingungen für die Datenteilung zwischen Leistungserbringern, Herstellern und Forschungseinrichtungen. Der Europäische Gesundheitsdatenraum (EHDS, Verordnung (EU) 2025/327) ergänzt dies durch eine sektorspezifische Infrastruktur, die zwischen Primärnutzung (Versorgung) und Sekundärnutzung (Forschung, Innovation) unterscheidet und den Zugang über Health Data Access Bodies regelt.
Das Spannungsfeld zwischen Datenminimierung (DSGVO Art. 5 Abs. 1 lit. c) und den Datenqualitätsanforderungen des AI Act (Art. 10) ist eines der zentralen praktischen Compliance-Probleme: Technische und organisatorische Lösungen wie Pseudonymisierung, Federated Learning und synthetische Daten gewinnen daher in der Entwicklung von KI-Medizinprodukten erheblich an Bedeutung.
6. Cybersecurity: NIS-2-Richtlinie und Cyber Resilience Act
Die NIS-2-Richtlinie (Richtlinie (EU) 2022/2555) verpflichtet wesentliche Einrichtungen – darunter Krankenhäuser und Gesundheitseinrichtungen als Sektor mit kritischer Relevanz – zu umfassenden Cyber-Risikomanagementmaßnahmen (Art. 20–21): Risikobewertungen, Sicherheitsrichtlinien, Incident-Handling, Business Continuity und Meldepflichten bei Sicherheitsvorfällen. Auf Betreiberseite ist NIS-2 damit unmittelbar für den sicheren Betrieb von KI-Medizinprodukten relevant.
Der Cyber Resilience Act (Verordnung (EU) 2024/2847) richtet sich an Hersteller von Produkten mit digitalen Elementen und fordert Secure-by-Design und Secure-by-Default als Grundprinzipien, ein Schwachstellenmanagement über den gesamten Produktlebenszyklus, Meldung ausgenutzter Schwachstellen und Sicherheitsvorfälle sowie Security Updates für einen definierten Zeitraum (Art. 5, 10–14; Anhang I). Der CRA ergänzt das sektorale MDR/IVDR-Regime um generische Cybersecurity-Anforderungen für alle Softwareprodukte und schließt damit eine wesentliche Lücke in der bisherigen Produktgesetzgebung.
7. Technische Dokumentation, klinische Bewertung und PMS
Die technische Dokumentation nach MDR Anhang II und III stellt für KI-Produkte besondere Anforderungen. Die General Safety and Performance Requirements (GSPR, Anhang I MDR) müssen auf KI-spezifische Eigenschaften angewendet werden: algorithmische Transparenz, Datenqualität der Trainingsdaten, Validierungsdesign, Grenzen des Einsatzbereichs (Intended Use vs. Indications for Use) und Human Oversight-Konzepte. Eine integrierte Produktakte, die MDR/IVDR-, AI-Act-, DSGVO-/EHDS- und Security-Anforderungen abbildet, ist einem Ansatz paralleler Dokumentationssilos vorzuziehen.
Die klinische Bewertung (MDR Art. 61; Anhang XIV Teil A) muss nachweisen, dass das KI-System in der vorgesehenen Zielpopulation und dem vorgesehenen klinischen Umfeld die erwartete Leistung erbringt – und dabei Risiken wie Undertriage, algorithmischen Bias und Modell-Drift adressiert. Für lernende Systeme ergibt sich daraus eine anspruchsvolle Post-Market Clinical Follow-up (PMCF)-Verpflichtung: Die klinische Leistung muss kontinuierlich überwacht werden, und jede wesentliche Änderung des Modells löst einen erneuten Bewertungszyklus aus (MDR Art. 83–86). Praxiserprobte Ansätze kombinieren kontinuierliches Performance-Monitoring (Drift-Erkennung, Konfidenzmetriken), strukturierte PMCF-Studien und klare Eskalationspfade für Vigilanzmeldungen.
Überblick: Regelwerke, Gesetze und Normen für KI-Medizinprodukte
Die nachfolgende Tabelle fasst alle wesentlichen Regelwerke zusammen, die für die Entwicklung, Zulassung und den Betrieb von KI-basierten Medizinprodukten im EU-Raum relevant sind:
8. Nationale Besonderheiten: DiGA und DVG (Deutschland)
In Deutschland schafft das Digitale-Versorgung-Gesetz (DVG) mit § 139e SGB V und der DiGAV einen eigenständigen Fast-Track-Zulassungsweg beim BfArM für Digitale Gesundheitsanwendungen (DiGA). Voraussetzungen sind CE-Kennzeichnung als Medizinprodukt, eine digitale Hauptfunktion sowie der Nachweis eines positiven Versorgungseffekts (pVE). Für DiGA mit KI-Funktionalität kumulieren die Anforderungen: Neben MDR und AI Act gelten die BSI TR-03161 (Sicherheitsanforderungen für digitale Gesundheitsanwendungen), die DiGAV-Anhänge zu Datenschutz, Interoperabilität und Qualität sowie spezifische Anforderungen an die Verwendung von FHIR-Standards. Die KI-Dokumentation nach AI Act kann dabei als Teil der DiGA-Unterlagen genutzt werden.
9. Fazit: Compliance als strategische Investition
Die regulatorischen Anforderungen an KI-basierte Medizinprodukte sind komplex – aber beherrschbar, wenn sie systematisch in den Produktentwicklungsprozess integriert werden. Das Konzept der "Layered Compliance" verdeutlicht: Klassifizierung, Risikomanagement, technische Dokumentation, klinische Bewertung, Datenschutz, Cybersecurity und Post-Market Surveillance müssen als zusammenhängendes System verstanden werden, nicht als isolierte Dokumentationsaufgaben.
Hersteller, die frühzeitig in eine konsolidierte Compliance-Architektur investieren – die MDR/IVDR, AI Act, DSGVO/EHDS, NIS-2/CRA-Anforderungen und die relevanten Normen (IEC 62304, ISO 14971, ISO 13485, IEC 62366-1, IEC 81001-5-1, ISO 42001) in einem kohärenten Qualitätsmanagementsystem abbildet –, schaffen nicht nur regulatorische Sicherheit, sondern auch einen nachhaltigen Marktzugang in der EU und der Schweiz. Rollen- und Datenklarheit (Hersteller/Provider, Deployer/Krankenhaus, Verantwortlicher/Auftragsverarbeiter) und ein integriertes Governance-Framework sind dabei entscheidende Erfolgsfaktoren.
