KI in der medizinischen Diagnostik: Risikoklasse und Pflichten im EU-KI-Recht

KI in der medizinischen Diagnostik ist in der Regel ein Medizinprodukt (Software mit medizinischem Zweck nach Art. 2 MDR 2017/745). Als solches ist sie nach Anhang I AI Act ein „Sicherheitsbestandteil eines regulierten Produkts" und damit HOCHRISKANT. Sie unterliegt kumulativ dem AI Act (Art. 8–15) UND der MDR (Konformitätsbewertung über eine notifizierte Stelle, CE-Kennzeichnung nach MDR, klinische Bewertung, Vigilanz). Eine einzige CE-Kennzeichnung deckt beide Regime ab (Art. 47 Abs. 2–4); das strengere Verfahren ist anzuwenden. Beispiele: KI-Röntgenbildauswertung, Hautkrebs-Screening, Mammographie-CAD.

Vollständiges AI-Act-Pflichtenbündel: Risikomanagement (Art. 9, hier klinisches Risikomanagement nach MDR ISO 14971), Daten-Governance (Art. 10, repräsentative Patientendaten, Bias-Prüfung), technische Dokumentation (Art. 11, hier MDR-Technische Dokumentation), Aufzeichnung (Art. 12), menschliche Aufsicht durch Ärztinnen/Ärzte (Art. 14), Genauigkeit/Robustheit/Cybersecurity (Art. 15), QMS (Art. 17). Aufsicht: BfArM,DIMDI und benannte Stellen nach MDR; AI-Act-Marktüberwachung. Hohes Risiko von Fehldiagnosen erfordert strenge Validierung an repräsentativen Kohorten, Bias-Prüfung an Untergruppen und klare klinische Evaluierung.

Nicht-medizinische KI im Gesundheitsbereich (Termin-Chatbots, Wartelisten-Optimierung, reine Dokumentationshilfe) ist oft minimal/begrenzt riskant — keine MDR-Pflicht, ggf. Art. 50 Transparenz. Wearable-Datenanalyse zur reinen Selbstverfolgung (Fitness, nicht Diagnose) fällt ebenfalls nicht unter MDR/Hochrisiko. Abgrenzung entscheidend: „medizinischer Zweck" (Diagnose, Behandlung, Überwachung) = Medizinprodukt + Hochrisiko; Wellness/Selbstoptimierung = minimal. Patientenaufklärung über den Unterstützungscharakter („KI unterstützt, entscheidet nicht allein") und ärztliche Letztverantwortung sind ethisch-rechtliche Leitplanken. Die ärztliche Aufsicht (Art. 14) ist keine Formalie, sondern materielle Verantwortung.