KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht

Anhang III Nr. 5 erfasst KI zur Bewertung und Einordnung beim Zugang zu wesentlichen öffentlichen Dienstleistungen und Sozialleistungen (dazu gehört die Jugendhilfe); Nr. 6 kann Risikobewertungen in justiziellen/familiengerichtlichen Kontexten erfassen. Beispiele: Risiko-Scoring bei Kindeswohlgefährdung (§ 8a SGB VIII), Prognose-Tools für Wiederholungsrisiko, Unterstützung familiengerichtlicher Gutachter,Matching-Algorithmen für Pflegeplatz-Zuweisung. Grund: Eingriffe in Familie und Kindeswohl sind grundrechtsrelevant (Art. 6, 24 GRCh, UN-KRK); fehlerhafte/hochriskant-biased KI kann Familien zerstören oder Kinder gefährden. Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026).

Art. 8–15 mit Schwerpunkt: Daten-Governance mit Bias-Prüfung (Art. 10 — besonders wichtig, da historische Fall-Daten soziale/ethnische Verzerrungen spiegeln); menschliche Aufsicht mit sozialpädagogischer/richterlicher Letztverantwortung (Art. 14); Aufzeichnung (Art. 12); Genauigkeit/Robustheit (Art. 15). Öffentliche Jugendämter als Betreiber: vor Inbetriebnahme Grundrechts-Folgenabschätzung nach Art. 27 AI Act (Art. 26 Abs. 7) — betroffene Personen/Gruppen (Kinder, Familien), spezifische Risiken, Maßnahmen, menschliche Aufsicht, Beschwerdeweg. Überlagert: SGB VIII (Verfahrensregelungen, §§ 8a, 42, 50), Familienverfahrensrecht (FamFG — Anhörung/Beteiligung), UN-KRK, DSGVO Art. 9 (Gesundheitsdaten, besondere Daten). Eine KI darf nicht ersetzen, sondern nur unterstützen — die sozialpädagogische/richterliche Verantwortung bleibt.

KI in der Jugendhilfe ist besonders fehler- und biasanfällig. Internationale Vorfälle (z. B. das amerikanische APPROACH/Allegheny-System) haben gezeigt, dass Risiko-Scoring systematisch benachteiligte Familien (geringes Einkommen, Alleinerziehende, ethnische Minderheiten) überrepräsentiert — die KI lernt historische Überwachungsschwerpunkte und verstärkt sie (Feedback-Schleife). Art. 10 verlangt Bias-Prüfung; Art. 14 menschliche Aufsicht; Art. 22 DSGVO (Recht auf menschliche Prüfung bei automatisierten Entscheidungen mit rechtlicher/ähnlich weitreichender Wirkung — Kindeswohl-Entscheidungen sind „ähnlich weitreichend"). Praktisch erforderlich: repräsentative Fall-Daten, Bias-Audits an Untergruppen, transparente Score-Faktoren, klare Begründung individueller Empfehlungen, menschliche Letztverantwortung, Beschwerdeweg. Eine KI als „Entscheidungs-Werkzeug" ist die Leitplanke; vollautomatische Inobhutnahme ist ausgeschlossen.