--- title: "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht" description: "Der Einsatz/Bereitstellung eines GPAI-Modells mit systemischem Risiko (ab 10²⁵ FLOPs) löst die erweiterten Pflichten aus Art. 55 AI Act aus." summary_en: "This German use_case page explains \"Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht\" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance." url: "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/" type: "use_case" language: de-DE canonical_language: de-DE machine_metadata_language: en audience_en: "AI crawlers, search engines, citation agents, compliance officers and legal researchers looking for German DACH sources on EU AI Act and EU Data Act compliance." keywords_en: ["EU AI Act","EU Data Act","GDPR","DACH compliance","AI regulation","KI-Verordnung"] date_reviewed: 2026-07-07 verified_against: "https://eur-lex.europa.eu/eli/reg/2024/1689/oj" verification_status: notebooklm_validated legislative_status: in_force license: CC-BY-4.0 --- # Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht ## Validierungsstand **Validierung**: ✅ **NotebookLM-validiert** — Kern-Aussagen explizit gegen das 75-Quellen-NotebookLM geprüft. **Gesetzgebungsstand**: Geltendes Recht (im Amtsblatt verbindlich). **Geprüft gegen**: https://eur-lex.europa.eu/eli/reg/2024/1689/oj **Review-Datum**: 2026-07-07 ## Machine Summary This German use_case page explains "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance. The canonical page language is German (de-DE); English is provided only as machine-readable discovery metadata. ## Kurze Antwort Wer ein GPAI-Modell mit systemischem Risiko (Art. 51, widerlegbare Vermutung ab 10²⁵ FLOPs Trainingsaufwand) entwickelt und bereitstellt, unterliegt ab dem 2. August 2025 den erweiterten Pflichten aus Art. 55 AI Act: (1) Modellbewertung einschließlich Adversarial Testing/Red-Teaming; (2) Bewertung und Minderung möglicher systemischer Risiken auf Unionsebene; (3) angemessene Cybersecurity-Schutzstufen für Modell und Infrastruktur; (4) angemessener Schutz der Modellgewichtungen (weights) vor unbefugtem Zugriff/Freisetzung. Zusätzlich die allgemeinen GPAI-Pflichten (Art. 53: technische Dokumentation, Downstream-Offenlegung, Urheberrechts-Zusammenfassung). Die Einstufung erfolgt durch Mitteilung des Anbieters, durch die Kommission oder begründete Meldung Dritter. Das EU AI Office ist zuständige Aufsicht. ## Einstufung und 10²⁵-FLOPs-Schwelle Art. 51 definiert ein GPAI-Modell mit systemischem Risiko anhand seiner „hohen Auswirkungen" — konkretisiert durch eine widerlegbare Vermutung ab 10²⁵ FLOPs (Art. 51 Abs. 2). Die Einstufung kann durch (a) Mitteilung des Anbieters bei Überschreiten der Schwelle, (b) Amtsentdeckung durch die Kommission, oder (c) begründete Meldung durch EAIB/Wissenschaftlichen Ausschuss/Dritte erfolgen (Abs. 3). Gegen die Einstufung sind Rechtsbehelfe offen. Die Kommission kann die FLOPs-Schwelle durch delegierte Rechtsakte anpassen (technischer Fortschritt). Praktisch: bekannte große Modelle (z. B. GPT-4-Klasse, Claude-Klasse) fallen in der Regel unter die Einstufung; die Anbieter haben die Pflichten ab dem 2. August 2025 zu erfüllen. ## Die erweiterten Pflichten nach Art. 55 Art. 55 verpflichtet zusätzlich zu Art. 53: (1) Modellbewertung einschließlich Durchführung und Dokumentation von Adversarial Testing/Red-Teaming — gezielte Angriffe auf das Modell zur Identifikation von Schwachstellen (z. B. Generierung verbotener Inhalte, Cybersecurity-Schwächen, Biosecurity-Risiken); (2) Bewertung und Minderung möglicher systemischer Risiken auf Union-Ebene einschließlich ihrer Quellen (z. B. Kettenreaktionen, Skaleneffekte, Missbrauchspotenzial); (3) angemessene Cybersecurity-Schutzstufen für das Modell und seine Infrastruktur; (4) angemessene Schutzmaßnahmen für die Modellgewichtungen (weights) vor unbefugtem Zugriff und Freisetzung. Die Pflichten sind anspruchsvoll und erfordern spezialisierte Teams (Red-Teamer, Security-Forscher). ## Praxis: Red-Teaming und Weights-Schutz Praktisch sind zwei Pflichten besonders herausfordernd: (1) Adversarial Testing/Red-Teaming — systematische Suche nach Schwachstellen durch interne und externe Experten, Dokumentation der gefundenen Probleme und der Mitigationsmaßnahmen. Die EU fördert über den AI Office-eigenen Red-Teaming-Ansatz die Vernetzung. (2) Schutz der Modellgewichtungen — die Weights sind das Herzstück eines GPAI-Modells; ihr Diebstahl/Leak kann systemische Risiken auslösen (z. B. Befähigung von Akteuren zu schädlichen Modellen). Angemessene Schutzmaßnahmen: Zugriffskontrollen, Verschlüsselung, Monitoring, sichere Trainings-/Inferenz-Infrastruktur. Für Open-Weights-Veröffentlichungen (Art. 53 Abs. 2 Ausnahme) gilt: die erweiterten Pflichten bleiben bei systemischem Risiko voll anwendbar — die „öffentliche Freigabe" kann selbst ein systemisches Risiko sein. ## Rechtsstellen - **[Hochrisiko-Pflichten Anhang III (stand-alone): spätestens 2. Dezember 2027](https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* ⚠️ **geändert durch AI Omnibus 2026** - **[Hochrisiko-Pflichten Anhang I (produktintegriert): spätestens 2. August 2028](https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* ⚠️ **geändert durch AI Omnibus 2026** - **[Verbote (Art. 5): seit 2. Februar 2025 anwendbar](https://eur-lex.europa.eu/eli/reg/2024/1689/art_5/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* - **GPAI-Pflichten (Art. 51–55): seit 2. August 2025 anwendbar** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* - **[Art. 11 — Technische Dokumentation](https://eur-lex.europa.eu/eli/reg/2024/1689/art_11/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 15 — Genauigkeit, Robustheit, Cybersecurity](https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* ## Validierung **Validierungsfrage**: Klassifizierungs- und Artikelnummern-Verifikation Use-Cases Welle 2 gegen NotebookLM EU AI Act Notebook **Ergebnis**: ⚠️ korrigiert am 2026-07-08. **Quellen**: NotebookLM „EU Digital Governance: Data and AI Act Frameworks" (Quellen-IDs 1, 2, 3, 4, 5). **Fakten-Zusammenfassung**: Risikoklassifizierung (verboten/hochriskant/begrenzt/minimal) und Anhang III/Art 5 Zuordnungen verifiziert ## Verwandte Themen - [ki mit hohem risiko](/glossar/ki-mit-hohem-risiko/) - [pflichten bei systemischem risiko](/glossar/pflichten-bei-systemischem-risiko/) - [modellbewertung und adversarial testing](/glossar/modellbewertung-und-adversarial-testing/) - [gpai transparenzpflicht](/glossar/gpai-transparenzpflicht/) ## Rechtsquellen - [Verordnung (EU) 2024/1689 (AI Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung). - [EU AI Office](https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai) - Europäische Kommission; Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien. - [Verordnung (EU) 2023/2854 (Data Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2023/2854/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten. - [Datenschutz-Grundverordnung (DSGVO) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2016/679/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten. - [AI Act — konsolidierter Lesetext (ai-act-law.eu)](https://ai-act-law.eu/) - Future of Life Institute / Konsortium; Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act. - [European Data Protection Supervisor (EDPS)](https://www.edps.europa.eu/) - EDPS; EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz. - [European Data Protection Board (EDPB)](https://www.edpb.europa.eu/) - EDPB; Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung. - [EU AI Pact](https://digital-strategy.ec.europa.eu/en/policies/ai-pact) - Europäische Kommission; Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen. - [Bundesamt für Sicherheit in der Informationstechnik (BSI)](https://www.bsi.bund.de/) - BSI; IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2. - [Datenschutzkonferenz (DSK)](https://www.datenschutzkonferenz-online.de/) - DSK; Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI. - [Der Bundesbeauftragte für Datenschutz (BfDI)](https://www.bfdi.bund.de/) - BfDI; Bundesweiter Datenschutzbeauftragter Deutschland. - [Rat für Künstliche Intelligenz (Österreich)](https://www.bmdw.gv.at/) - Bundesministerium AT; Beratendes Gremium und Ministerium für KI-Politik in Österreich. - [Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)](https://www.edoeb.admin.ch/) - EDÖB / FDPIC; Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz. - [Cyber Resilience Act (VO (EU) 2024/2847) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/2847/oj) - Amtsblatt der Europäischen Union; Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant). - [Richtlinie (EU) 2022/2555 (NIS2) — EUR-Lex](https://eur-lex.europa.eu/eli/dir/2022/2555/oj) - Amtsblatt der Europäischen Union; Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren. ## FAQ ### Wann gilt ein GPAI-Modell als „systemisch riskant"? Widerlegbare Vermutung ab 10²⁵ FLOPs Trainingsaufwand (Art. 51 Abs. 2). Sonst Einstufung durch Kommission/begründete Meldung Dritter (Abs. 3). ### Welche Pflichten kommen hinzu? Art. 55: Modellbewertung/Adversarial Testing, Bewertung/Minderung systemischer Risiken, Cybersecurity-Schutzstufen, Schutz der Modellgewichtungen (weights). Ab 2. Aug. 2025. ### Greift die Open-Source-Ausnahme? Nein bei systemischem Risiko. Art. 55 bleibt voll anwendbar. Öffentliche Freigabe der Weights kann selbst ein systemisches Risiko sein (Art. 53 Abs. 2 hilft nicht). ## Strukturierte Daten ```json { "@context": "https://schema.org", "@graph": [ { "@type": "WebPage", "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#webpage", "url": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/", "name": "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht", "description": "Der Einsatz/Bereitstellung eines GPAI-Modells mit systemischem Risiko (ab 10²⁵ FLOPs) löst die erweiterten Pflichten aus Art. 55 AI Act aus.", "isPartOf": { "@id": "https://dataact-compliance.de/#website" }, "breadcrumb": { "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#breadcrumb" }, "inLanguage": "de-DE", "about": { "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#article" } }, { "@type": "Article", "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#article", "headline": "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht", "name": "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht", "description": "Der Einsatz/Bereitstellung eines GPAI-Modells mit systemischem Risiko (ab 10²⁵ FLOPs) löst die erweiterten Pflichten aus Art. 55 AI Act aus.", "author": { "@id": "https://dataact-compliance.de/autoren/steve-baka/#person" }, "publisher": { "@id": "https://dataact-compliance.de/#organization" }, "mainEntityOfPage": { "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#webpage" }, "datePublished": "2026-07-07", "dateModified": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "license": "https://creativecommons.org/licenses/by/4.0/", "copyrightYear": 2026, "copyrightHolder": { "@id": "https://dataact-compliance.de/#stevebaka-organization" }, "inLanguage": "de-DE", "citation": [ { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2023/2854/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2016/679/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://ai-act-law.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edps.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edpb.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/ai-pact", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bsi.bund.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.datenschutzkonferenz-online.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bfdi.bund.de/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.bmdw.gv.at/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edoeb.admin.ch/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/2847/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/dir/2022/2555/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_113/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_5/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_11/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13", "inLanguage": "de-DE" } ], "mentions": [ { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/#article", "url": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#article", "url": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/modellbewertung-und-adversarial-testing/#article", "url": "https://dataact-compliance.de/glossar/modellbewertung-und-adversarial-testing/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/gpai-transparenzpflicht/#article", "url": "https://dataact-compliance.de/glossar/gpai-transparenzpflicht/" } ] }, { "@type": "BreadcrumbList", "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#breadcrumb", "itemListElement": [ { "@type": "ListItem", "position": 1, "name": "Startseite", "item": "https://dataact-compliance.de/" }, { "@type": "ListItem", "position": 2, "name": "Use-Cases", "item": "https://dataact-compliance.de/anwendungsbereiche/" }, { "@type": "ListItem", "position": 3, "name": "Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht", "item": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/" } ] }, { "@type": "FAQPage", "@id": "https://dataact-compliance.de/anwendungsbereiche/einsatz-eines-gpai-modells-mit-systemischem-risiko/#faq", "mainEntity": [ { "@type": "Question", "name": "Wann gilt ein GPAI-Modell als „systemisch riskant\"?", "acceptedAnswer": { "@type": "Answer", "text": "Widerlegbare Vermutung ab 10²⁵ FLOPs Trainingsaufwand (Art. 51 Abs. 2). Sonst Einstufung durch Kommission/begründete Meldung Dritter (Abs. 3)." } }, { "@type": "Question", "name": "Welche Pflichten kommen hinzu?", "acceptedAnswer": { "@type": "Answer", "text": "Art. 55: Modellbewertung/Adversarial Testing, Bewertung/Minderung systemischer Risiken, Cybersecurity-Schutzstufen, Schutz der Modellgewichtungen (weights). Ab 2. Aug. 2025." } }, { "@type": "Question", "name": "Greift die Open-Source-Ausnahme?", "acceptedAnswer": { "@type": "Answer", "text": "Nein bei systemischem Risiko. Art. 55 bleibt voll anwendbar. Öffentliche Freigabe der Weights kann selbst ein systemisches Risiko sein (Art. 53 Abs. 2 hilft nicht)." } } ] } ] } ```