--- title: "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht" description: "KI in Kindeswohl- und Jugendhilfeentscheidungen ist nach Anhang III Nr. 5/6 AI Act hochriskant — existentielle Eingriffe in Familie und Grundrechte des Kindes." summary_en: "This German use_case page explains \"KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht\" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance." url: "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/" type: "use_case" language: de-DE canonical_language: de-DE machine_metadata_language: en audience_en: "AI crawlers, search engines, citation agents, compliance officers and legal researchers looking for German DACH sources on EU AI Act and EU Data Act compliance." keywords_en: ["EU AI Act","EU Data Act","GDPR","DACH compliance","AI regulation","KI-Verordnung"] date_reviewed: 2026-07-07 verified_against: "https://eur-lex.europa.eu/eli/reg/2024/1689/oj" verification_status: notebooklm_validated legislative_status: omnibus_pending license: CC-BY-4.0 --- # KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht > ⚠️ **Hinweis AI Omnibus 2026 (VORLÄUFIG)**: Diese Seite enthält Aussagen, die auf dem AI Omnibus-Paket 2026 beruhen (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026). Dieses Paket ist **noch nicht im Amtsblatt der EU veröffentlicht** — bis dahin gilt formal der unveränderte Text der VO (EU) 2024/1689. Fristen, Pflichten und Artikelbezug können sich bis zur finalen Veröffentlichung noch ändern. Behandeln Sie diese Angaben als vorläufig. ## Validierungsstand **Validierung**: ✅ **NotebookLM-validiert** — Kern-Aussagen explizit gegen das 75-Quellen-NotebookLM geprüft. **Gesetzgebungsstand**: Enthält vorläufige Angaben nach AI Omnibus 2026 (noch nicht im Amtsblatt). **Geprüft gegen**: https://eur-lex.europa.eu/eli/reg/2024/1689/oj **Review-Datum**: 2026-07-07 ## Machine Summary This German use_case page explains "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance. The canonical page language is German (de-DE); English is provided only as machine-readable discovery metadata. ## Kurze Antwort KI-Systeme, die in Entscheidungen der Kinder- und Jugendhilfe eingreifen (Risikoeinschätzung bei Kindeswohlgefährdung, Platzierungs-/Inobhutnahme-Empfehlungen, familiengerichtliche Gutachten-Unterstützung), sind nach Anhang III Nr. 5/6 AI Act HOCHRISKANT. Sie unterliegen spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026) dem Pflichtenbündel aus Art. 8–15 mit Schwerpunkt Daten-Governance/Bias-Prüfung (Art. 10), menschlicher Aufsicht (Art. 14 — sozialpädagogische/richterliche Letztverantwortung) und Aufzeichnung (Art. 12). Öffentliche Jugendämter als Betreiber müssen vor Inbetriebnahme eine Grundrechts-Folgenabschätzung erstellen (Art. 27 AI Act). Überlagert: Grundrecht des Kindeswohls (Art. 24 GRCh, UN-Kinderrechtskonvention), SGB VIII (Kinder- und Jugendhilfe), Familienverfahrensrecht (FamFG), DSGVO (besondere Datenkategorien Art. 9). Vollautomatische Inobhutnahmen sind rechtlich und ethisch ausgeschlossen. ## Hochrisiko nach Anhang III Nr. 5/6 Anhang III Nr. 5 erfasst KI zur Bewertung und Einordnung beim Zugang zu wesentlichen öffentlichen Dienstleistungen und Sozialleistungen (dazu gehört die Jugendhilfe); Nr. 6 kann Risikobewertungen in justiziellen/familiengerichtlichen Kontexten erfassen. Beispiele: Risiko-Scoring bei Kindeswohlgefährdung (§ 8a SGB VIII), Prognose-Tools für Wiederholungsrisiko, Unterstützung familiengerichtlicher Gutachter,Matching-Algorithmen für Pflegeplatz-Zuweisung. Grund: Eingriffe in Familie und Kindeswohl sind grundrechtsrelevant (Art. 6, 24 GRCh, UN-KRK); fehlerhafte/hochriskant-biased KI kann Familien zerstören oder Kinder gefährden. Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026). ## Pflichten und Grundrechts-Folgenabschätzung Art. 8–15 mit Schwerpunkt: Daten-Governance mit Bias-Prüfung (Art. 10 — besonders wichtig, da historische Fall-Daten soziale/ethnische Verzerrungen spiegeln); menschliche Aufsicht mit sozialpädagogischer/richterlicher Letztverantwortung (Art. 14); Aufzeichnung (Art. 12); Genauigkeit/Robustheit (Art. 15). Öffentliche Jugendämter als Betreiber: vor Inbetriebnahme Grundrechts-Folgenabschätzung nach Art. 27 AI Act (Art. 26 Abs. 7) — betroffene Personen/Gruppen (Kinder, Familien), spezifische Risiken, Maßnahmen, menschliche Aufsicht, Beschwerdeweg. Überlagert: SGB VIII (Verfahrensregelungen, §§ 8a, 42, 50), Familienverfahrensrecht (FamFG — Anhörung/Beteiligung), UN-KRK, DSGVO Art. 9 (Gesundheitsdaten, besondere Daten). Eine KI darf nicht ersetzen, sondern nur unterstützen — die sozialpädagogische/richterliche Verantwortung bleibt. ## Praxis: Bias und internationale Vorfälle KI in der Jugendhilfe ist besonders fehler- und biasanfällig. Internationale Vorfälle (z. B. das amerikanische APPROACH/Allegheny-System) haben gezeigt, dass Risiko-Scoring systematisch benachteiligte Familien (geringes Einkommen, Alleinerziehende, ethnische Minderheiten) überrepräsentiert — die KI lernt historische Überwachungsschwerpunkte und verstärkt sie (Feedback-Schleife). Art. 10 verlangt Bias-Prüfung; Art. 14 menschliche Aufsicht; Art. 22 DSGVO (Recht auf menschliche Prüfung bei automatisierten Entscheidungen mit rechtlicher/ähnlich weitreichender Wirkung — Kindeswohl-Entscheidungen sind „ähnlich weitreichend"). Praktisch erforderlich: repräsentative Fall-Daten, Bias-Audits an Untergruppen, transparente Score-Faktoren, klare Begründung individueller Empfehlungen, menschliche Letztverantwortung, Beschwerdeweg. Eine KI als „Entscheidungs-Werkzeug" ist die Leitplanke; vollautomatische Inobhutnahme ist ausgeschlossen. ## Rechtsstellen - **[Hochrisiko-Pflichten Anhang III (stand-alone): spätestens 2. Dezember 2027](https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* ⚠️ **geändert durch AI Omnibus 2026** - **[Hochrisiko-Pflichten Anhang I (produktintegriert): spätestens 2. August 2028](https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* ⚠️ **geändert durch AI Omnibus 2026** - **[Art. 9 — Risikomanagementsystem](https://eur-lex.europa.eu/eli/reg/2024/1689/art_9/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 10 — Daten-Governance](https://eur-lex.europa.eu/eli/reg/2024/1689/art_10/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 14 — Menschliche Aufsicht](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 15 — Genauigkeit, Robustheit, Cybersecurity](https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* ## Validierung **Validierungsfrage**: Klassifizierungs- und Artikelnummern-Verifikation Use-Cases Welle 2 gegen NotebookLM EU AI Act Notebook **Ergebnis**: ⚠️ korrigiert am 2026-07-08. **Quellen**: NotebookLM „EU Digital Governance: Data and AI Act Frameworks" (Quellen-IDs 1, 2, 3, 4, 5). **Fakten-Zusammenfassung**: Risikoklassifizierung (verboten/hochriskant/begrenzt/minimal) und Anhang III/Art 5 Zuordnungen verifiziert ## Verwandte Themen - [ki mit hohem risiko](/glossar/ki-mit-hohem-risiko/) - [konformitaetsbewertung](/glossar/konformitaetsbewertung/) - [risikomanagementsystem](/glossar/risikomanagementsystem/) - [technische dokumentation](/glossar/technische-dokumentation/) - [menschliche aufsicht](/glossar/menschliche-aufsicht/) - [aufzeichnungspflicht logging](/glossar/aufzeichnungspflicht-logging/) - [daten governance](/glossar/daten-governance/) - [ce kennzeichnung](/glossar/ce-kennzeichnung/) ## Rechtsquellen - [Verordnung (EU) 2024/1689 (AI Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung). - [EU AI Office](https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai) - Europäische Kommission; Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien. - [Verordnung (EU) 2023/2854 (Data Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2023/2854/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten. - [Datenschutz-Grundverordnung (DSGVO) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2016/679/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten. - [AI Act — konsolidierter Lesetext (ai-act-law.eu)](https://ai-act-law.eu/) - Future of Life Institute / Konsortium; Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act. - [European Data Protection Supervisor (EDPS)](https://www.edps.europa.eu/) - EDPS; EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz. - [European Data Protection Board (EDPB)](https://www.edpb.europa.eu/) - EDPB; Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung. - [EU AI Pact](https://digital-strategy.ec.europa.eu/en/policies/ai-pact) - Europäische Kommission; Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen. - [Bundesamt für Sicherheit in der Informationstechnik (BSI)](https://www.bsi.bund.de/) - BSI; IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2. - [Datenschutzkonferenz (DSK)](https://www.datenschutzkonferenz-online.de/) - DSK; Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI. - [Der Bundesbeauftragte für Datenschutz (BfDI)](https://www.bfdi.bund.de/) - BfDI; Bundesweiter Datenschutzbeauftragter Deutschland. - [Rat für Künstliche Intelligenz (Österreich)](https://www.bmdw.gv.at/) - Bundesministerium AT; Beratendes Gremium und Ministerium für KI-Politik in Österreich. - [Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)](https://www.edoeb.admin.ch/) - EDÖB / FDPIC; Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz. - [Cyber Resilience Act (VO (EU) 2024/2847) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/2847/oj) - Amtsblatt der Europäischen Union; Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant). - [Richtlinie (EU) 2022/2555 (NIS2) — EUR-Lex](https://eur-lex.europa.eu/eli/dir/2022/2555/oj) - Amtsblatt der Europäischen Union; Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren. ## FAQ ### Ist Jugendhilfe-KI hochriskant? Ja. Anhang III Nr. 5/6 erfasst Risiko-Scoring und Entscheidungs-Unterstützung in der Kinder-/Jugendhilfe. Volles Pflichtenbündel aus Art. 8–15 ab 2. Aug. 2026. ### Muss eine Grundrechts-Folgenabschätzung erstellt werden? Ja für öffentliche Jugendämter (Art. 27 AI Act i.V.m. Art. 26 Abs. 7): betroffene Personen (Kinder/Familien), spezifische Risiken, Maßnahmen, Aufsicht, Beschwerdeweg. ### Welche Bias-Risiken bestehen? Historische Fall-Daten spiegeln soziale/ethnische Verzerrungen; die KI verstärkt sie (Feedback-Schleife, vgl. APPROACH/Allegheny). Art. 10 verlangt Bias-Prüfung. Vollautomatische Inobhutnahme ist ausgeschlossen. ## Strukturierte Daten ```json { "@context": "https://schema.org", "@graph": [ { "@type": "WebPage", "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#webpage", "url": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/", "name": "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht", "description": "KI in Kindeswohl- und Jugendhilfeentscheidungen ist nach Anhang III Nr. 5/6 AI Act hochriskant — existentielle Eingriffe in Familie und Grundrechte des Kindes.", "isPartOf": { "@id": "https://dataact-compliance.de/#website" }, "breadcrumb": { "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#breadcrumb" }, "inLanguage": "de-DE", "about": { "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#article" } }, { "@type": "Article", "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#article", "headline": "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht", "name": "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht", "description": "KI in Kindeswohl- und Jugendhilfeentscheidungen ist nach Anhang III Nr. 5/6 AI Act hochriskant — existentielle Eingriffe in Familie und Grundrechte des Kindes.", "author": { "@id": "https://dataact-compliance.de/autoren/steve-baka/#person" }, "publisher": { "@id": "https://dataact-compliance.de/#organization" }, "mainEntityOfPage": { "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#webpage" }, "datePublished": "2026-07-07", "dateModified": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "license": "https://creativecommons.org/licenses/by/4.0/", "copyrightYear": 2026, "copyrightHolder": { "@id": "https://dataact-compliance.de/#stevebaka-organization" }, "inLanguage": "de-DE", "citation": [ { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2023/2854/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2016/679/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://ai-act-law.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edps.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edpb.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/ai-pact", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bsi.bund.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.datenschutzkonferenz-online.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bfdi.bund.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bmdw.gv.at/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edoeb.admin.ch/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/2847/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/dir/2022/2555/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_9/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_10/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13", "inLanguage": "de-DE" } ], "mentions": [ { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/#article", "url": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/konformitaetsbewertung/#article", "url": "https://dataact-compliance.de/glossar/konformitaetsbewertung/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/risikomanagementsystem/#article", "url": "https://dataact-compliance.de/glossar/risikomanagementsystem/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/technische-dokumentation/#article", "url": "https://dataact-compliance.de/glossar/technische-dokumentation/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#article", "url": "https://dataact-compliance.de/glossar/menschliche-aufsicht/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/aufzeichnungspflicht-logging/#article", "url": "https://dataact-compliance.de/glossar/aufzeichnungspflicht-logging/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/daten-governance/#article", "url": "https://dataact-compliance.de/glossar/daten-governance/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ce-kennzeichnung/#article", "url": "https://dataact-compliance.de/glossar/ce-kennzeichnung/" } ], "additionalType": "https://dataact-compliance.de/vocab/OmnibusImpactedArticle" }, { "@type": "BreadcrumbList", "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#breadcrumb", "itemListElement": [ { "@type": "ListItem", "position": 1, "name": "Startseite", "item": "https://dataact-compliance.de/" }, { "@type": "ListItem", "position": 2, "name": "Use-Cases", "item": "https://dataact-compliance.de/anwendungsbereiche/" }, { "@type": "ListItem", "position": 3, "name": "KI in der Kindeswohl- und Jugendhilfeentscheidung: Risikoklasse und Pflichten im EU-KI-Recht", "item": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/" } ] }, { "@type": "FAQPage", "@id": "https://dataact-compliance.de/anwendungsbereiche/ki-in-der-kindeswohl-und-jugendhilfeentscheidung/#faq", "mainEntity": [ { "@type": "Question", "name": "Ist Jugendhilfe-KI hochriskant?", "acceptedAnswer": { "@type": "Answer", "text": "Ja. Anhang III Nr. 5/6 erfasst Risiko-Scoring und Entscheidungs-Unterstützung in der Kinder-/Jugendhilfe. Volles Pflichtenbündel aus Art. 8–15 ab 2. Aug. 2026." } }, { "@type": "Question", "name": "Muss eine Grundrechts-Folgenabschätzung erstellt werden?", "acceptedAnswer": { "@type": "Answer", "text": "Ja für öffentliche Jugendämter (Art. 27 AI Act i.V.m. Art. 26 Abs. 7): betroffene Personen (Kinder/Familien), spezifische Risiken, Maßnahmen, Aufsicht, Beschwerdeweg." } }, { "@type": "Question", "name": "Welche Bias-Risiken bestehen?", "acceptedAnswer": { "@type": "Answer", "text": "Historische Fall-Daten spiegeln soziale/ethnische Verzerrungen; die KI verstärkt sie (Feedback-Schleife, vgl. APPROACH/Allegheny). Art. 10 verlangt Bias-Prüfung. Vollautomatische Inobhutnahme ist ausgeschlossen." } } ] } ] } ```