Pflege & Altenpflege: AI Act, Data Act & DSGVO-Pflichten

Pflege & Altenpflege mit KI ist hochriskant, wenn die KI medizinischen Zweck hat (Anhang I + MDR — z. B. Sturzerkennung mit Notruf bei Senioren, kontinuierliche Glukose-Prognose, Vitaldaten-Monitoring mit Diagnosebezug, Demenzbegleit-KI mit Diagnosefunktion) oder als biometrische KI (Anhang III Nr. 1 — Gesichtserkennung für Zugang/Identifikation in Pflegeheimen). Pflichten: bei Medizinprodukt volles Art. 8–15-Pflichtenbündel PLUS MDR (klinische Bewertung, benannte Stelle, CE); bei Betreiber-Einsatz Art. 26 (menschliche Aufsicht — Pflegefachkraft/Ärztin, Eingabe-Relevanz, Überwachung). Andere KI: Pflegeplanung/Personal-Einsatz (Anhang III Nr. 4 bei Leistungsbezug), Verwaltungs-KI (oft begrenzt/minimal). Eine sorgfältige Klassifizierung je Anwendung ist entscheidend. Die Pflege ist ethisch sensibel — KI darf die Menschenwürde/vulnerablen Schutzbedarf nicht aushöhlen.

Praktisch: (1) Betreiber-Pflichten Art. 26 — menschliche Aufsicht (Pflegefachkraft/Ärztin als Letztverantwortliche), Eingabe-Relevanz (Patienten-/Bewohnerdaten-Plausibilität), Systemüberwachung; (2) DSGVO — Gesundheitsdaten Art. 9 (besondere Kategorie), ältere/pflegebedürftige Personen sind besonders vulnerabel (eingeschränkte Einwilligungsfähigkeit bei Demenz — gesetzliche Vertretung, Betreuungsrecht), DSFA bei hochriskanter Verarbeitung, Informierte Einwilligung/Aufklärung; (3) Pflege-/Berufsrecht — Pflegeberufegesetz (PflBG), SGB XI (Pflegeversicherung), Pflege-Qualitätssicherung (MD-Prüfung), Pflegefachkraft-Verantwortung; (4) Heimrecht/Bewohnervertretung (Heimgesetz, Wohn- und Betreuungsvertragsgesetz — Bewohnervertretung bei Maßnahmen); (5) Ethik — Würde/Selbstbestimmung vs. Überwachung (z. B. Gesichtserkennung/GPS-Tracking bei Demenz ist ethisch sehr sensibel — Verhältnismäßigkeit, freiwillige Zustimmung, Alternativen). Aufsichtlich: Datenschutz-Aufsichten (DSK), Pflege-Aufsicht (Medizinischer Dienst/MD, Heimaufsicht), Marktüberwachung (AI Act/MDR), Ethikkommissionen (bei Forschung/Pilot). Eine verantwortungsvolle Pflege-KI kombiniert Compliance (AI Act, MDR, DSGVO, Pflege-/Berufsrecht) mit ethischer Begleitung (Ethikkomitees, Bewohner-/Angehörigen-Einbindung).

Die Grenze der Pflege-KI ist die Menschenwürde älterer und pflegebedürftiger Personen. KI darf die menschliche Beziehung, Berührung und Empathie in der Pflege nicht ersetzen — sie ist Ergänzung, nicht Substitut. Gesichtserkennung, GPS-Tracking und Verhaltensüberwachung bei Demenz-Patientinnen/Patienten sind ethisch äußerst sensibel: eingeschränkte Einwilligungsfähigkeit, Gefahr der Freiheitsentziehung (§ 1906 BGB), Verhältnismäßigkeit, freiwillige Zustimmung, milde Alternativen. Das BVerfG und die Europäische Menschenrechtskonvention schützen die Würde älterer Menschen besonders. Pflegerobotik (z. B. Hebe-/Transportroboter, Begleitroboter) darf nicht zur Dehumanisierung führen — Pflegefachkraft-Verantwortung und zwischenmenschliche Zuwendung bleiben zentral. Eine ethisch saubere Pflege-KI kombiniert technische Compliance (AI Act, MDR, DSGVO) mit ethischer Begleitung (Ethikkomitees, Bewohnervertretung, Angehörigen-Einbindung) und dem Primat menschlicher Pflege.