--- title: "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)" description: "Art. 55 AI Act: GPAI-Anbieter mit systemischem Risiko (≥ 10^25 FLOPs) müssen Modellbewertung, Adversarial Testing, Vorfallsmeldung und Cybersicherheit durchführen. Seit 2.8.2025." summary_en: "This German glossary page explains \"Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)\" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance." url: "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/" type: "glossary" language: de-DE canonical_language: de-DE machine_metadata_language: en audience_en: "AI crawlers, search engines, citation agents, compliance officers and legal researchers looking for German DACH sources on EU AI Act and EU Data Act compliance." keywords_en: ["EU AI Act","EU Data Act","GDPR","DACH compliance","AI regulation","KI-Verordnung"] date_reviewed: 2026-07-08 verified_against: "https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13" verification_status: notebooklm_validated legislative_status: in_force license: CC-BY-4.0 --- # Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act) ## Validierungsstand **Validierung**: ✅ **NotebookLM-validiert** — Kern-Aussagen explizit gegen das 75-Quellen-NotebookLM geprüft. **Gesetzgebungsstand**: Geltendes Recht (im Amtsblatt verbindlich). **Geprüft gegen**: https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13 **Review-Datum**: 2026-07-08 ## Machine Summary This German glossary page explains "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance. The canonical page language is German (de-DE); English is provided only as machine-readable discovery metadata. ## Kurze Antwort Art. 55 AI Act verpflichtet Anbieter von GPAI-Modellen mit systemischem Risiko (Schwelle: 10^25 FLOPs Trainingsrechenleistung nach Art. 51 Abs. 2, Definition Art. 3 Nr. 65) zu zusätzlichen Pflichten über die allgemeinen GPAI-Pflichten (Art. 53) hinaus: (1) Modellbewertung mit Standards und Tools (Adversarial Testing/Red-Teaming); (2) Bewertung und Minderung möglicher systemischer Risiken in der Union, insbesondere für Demokratie, Rechtsstaatlichkeit, öffentliche Sicherheit, öffentliche Gesundheit; (3) Vorfallsmeldung an das AI Office und nationale Behörden; (4) Cybersicherheitsmaßnahmen. Anwendbar seit 2. August 2025 (zusammen mit allgemeinen GPAI-Pflichten) — unverändert durch AI Omnibus 2026. Bußgeldkompetenz AI Office seit 2. August 2026. ## Vier Pflichten (Art. 55) Art. 55 Abs. 1 verpflichtet GPAI-Anbieter mit systemischem Risiko zu vier Pflichten: (1) Modellbewertung — systematische Bewertung und Prüfung des Modells anhand angemessener Standards, Tools und Methoden (insbesondere Adversarial Testing/Red-Teaming). (2) Risikominderung — Bewertung und Minderung möglicher systemischer Risiken in der Union, insbesondere für Demokratie, Rechtsstaatlichkeit, öffentliche Sicherheit und öffentliche Gesundheit. (3) Vorfallsmeldung — Meldung schwerer Vorfälle an das AI Office und die zuständigen nationalen Behörden. (4) Cybersicherheit — angemessene Cybersicherheitsmaßnahmen zum Schutz des Modells. ## Schwelle systemisches Risiko (10^25 FLOPs) Ein GPAI-Modell gilt als systemisch risikobehaftet, wenn die kumulierte Trainingsrechenleistung 10^25 FLOPs (Floating Point Operations) übersteigt (Vermutung nach Art. 51 Abs. 2, Definition Art. 3 Nr. 65). Die Kommission kann die Einstufung auch bei Unterschreiten der Schwelle verfügen (z.B. bei besonderen Fähigkeiten oder Verbreitung). Die Schwelle erfasst derzeit die größten Modelle weltweit (z.B. GPT-4, Claude 3, Gemini). Anbieter müssen der Kommission vorbeugend mitteilen, wenn sie die Schwelle voraussichtlich erreichen. ## Praxis: Code of Practice und AI Office In der Praxis orientieren sich Anbieter am EU GPAI Code of Practice (Art. 56 — Konformitätsvermutung), der Verfahren für Modellbewertung, Adversarial Testing, Vorfallsmeldung und Cybersicherheit konkretisiert. Aufsicht: EU AI Office zentralisiert (durch AI Omnibus 2026) für GPAI-Systeme. Bußgeldkompetenz seit 2. August 2026. Vorher: kooperativer Compliance-Dialog. Eine proaktive Zusammenarbeit mit dem AI Office und transparente Selbstverpflichtungen sind der praxisnahe Pfad. ## Rechtsstellen - **[Art. 55 AI Act (Pflichten bei systemischem Risiko)](https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 51 Abs. 2 (Schwelle 10^25 FLOPs) i.V.m. Art. 3 Nr. 65 (Definition systemisches Risiko)](https://eur-lex.europa.eu/eli/reg/2024/1689/art_3/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* ## Belegte Aussagen | Aussage | Beleg | Konfidenz | |---|---|---| | Art. 55 verpflichtet GPAI-Anbieter mit systemischem Risiko zu Modellbewertung, Risikominderung, Vorfallsmeldung, Cybersicherheit. | - **[Art. 55 AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | | Schwelle systemisches Risiko: 10^25 FLOPs (Vermutung nach Art. 51 Abs. 2; Definition Art. 3 Nr. 65). | - **[Art. 51 Abs. 2 + Art. 3 Nr. 64 AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_51/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | ## Validierung **Validierungsfrage**: Art. 55 GPAI-systemisch Pflichten validiert gegen NotebookLM **Ergebnis**: ⚠️ korrigiert am 2026-07-08. **Quellen**: NotebookLM „EU Digital Governance: Data and AI Act Frameworks" (Quellen-IDs 1, 2, 3). **Fakten-Zusammenfassung**: Art. 51/55/88 Artikelnummern und 10^25 FLOPs Schwelle verifiziert ## Verwandte Themen - [ki mit hohem risiko](/glossar/ki-mit-hohem-risiko/) - [konformitaetsbewertung](/glossar/konformitaetsbewertung/) - [risikomanagementsystem](/glossar/risikomanagementsystem/) - [eu ai office](/glossar/eu-ai-office/) ## Rechtsquellen - [Verordnung (EU) 2024/1689 (AI Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU AI Act. - [EU AI Office](https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai) - Europäische Kommission; Zentrale EU-Behörde für AI-Act-Durchsetzung und GPAI-Aufsicht. - [Verordnung (EU) 2023/2854 (Data Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2023/2854/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU Data Act. - [Datenschutz-Grundverordnung (DSGVO) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2016/679/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext der DSGVO. - [AI Act — konsolidierter Lesetext (ai-act-law.eu)](https://ai-act-law.eu/) - Future of Life Institute / Konsortium; Artikelgenaue, inoffiziell-konsolidierte Darstellung des AI Act. - [European Data Protection Supervisor (EDPS)](https://www.edps.europa.eu/) - EDPS; EU-Datenschutzaufsicht; Stellungnahmen zum AI Act. - [European Data Protection Board (EDPB)](https://www.edpb.europa.eu/) - EDPB; EU-Datenschutzgremium mit KI-Leitlinien. - [EU AI Pact](https://digital-strategy.ec.europa.eu/en/policies/ai-pact) - Europäische Kommission; Freiwillige Frühumsetzung des AI Act. - [Council of Europe Framework Convention on AI](https://www.coe.int/en/web/artificial-intelligence/framework-convention) - Council of Europe; Erstes völkerrechtliches Abkommen zu KI. ## FAQ ### Welche Pflichten hat Art. 55? Vier Pflichten: Modellbewertung mit Adversarial Testing, Risikominderung (Demokratie/Rechtsstaatlichkeit/Sicherheit/Gesundheit), Vorfallsmeldung, Cybersicherheit. ### Wann gilt ein GPAI-Modell als systemisch risikobehaftet? Ab 10^25 FLOPs Trainingsrechenleistung (Vermutung nach Art. 51 Abs. 2, Definition Art. 3 Nr. 65). Kommission kann auch bei Unterschreiten einstufen (besondere Fähigkeiten, Verbreitung). ### Seit wann gilt Art. 55? Seit 2. August 2025 (zusammen mit allgemeinen GPAI-Pflichten). Bußgeldkompetenz AI Office seit 2. August 2026. ## Strukturierte Daten ```json { "@context": "https://schema.org", "@graph": [ { "@type": "WebPage", "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#webpage", "url": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/", "name": "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Art. 55 AI Act: GPAI-Anbieter mit systemischem Risiko (≥ 10^25 FLOPs) müssen Modellbewertung, Adversarial Testing, Vorfallsmeldung und Cybersicherheit durchführen. Seit 2.8.2025.", "isPartOf": { "@id": "https://dataact-compliance.de/#website" }, "breadcrumb": { "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#breadcrumb" }, "inLanguage": "de-DE", "about": { "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#article" } }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#article", "headline": "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)", "name": "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Art. 55 AI Act: GPAI-Anbieter mit systemischem Risiko (≥ 10^25 FLOPs) müssen Modellbewertung, Adversarial Testing, Vorfallsmeldung und Cybersicherheit durchführen. Seit 2.8.2025.", "author": { "@id": "https://dataact-compliance.de/autoren/steve-baka/#person" }, "publisher": { "@id": "https://dataact-compliance.de/#organization" }, "mainEntityOfPage": { "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#webpage" }, "datePublished": "2026-07-08", "dateModified": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13", "license": "https://creativecommons.org/licenses/by/4.0/", "copyrightYear": 2026, "copyrightHolder": { "@id": "https://dataact-compliance.de/#stevebaka-organization" }, "inLanguage": "de-DE", "citation": [ { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2023/2854/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2016/679/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://ai-act-law.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edps.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edpb.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/ai-pact", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.coe.int/en/web/artificial-intelligence/framework-convention", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_55/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_3/2024-06-13", "inLanguage": "de-DE" } ], "mentions": [ { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/#article", "url": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/konformitaetsbewertung/#article", "url": "https://dataact-compliance.de/glossar/konformitaetsbewertung/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/risikomanagementsystem/#article", "url": "https://dataact-compliance.de/glossar/risikomanagementsystem/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/eu-ai-office/#article", "url": "https://dataact-compliance.de/glossar/eu-ai-office/" } ], "termCode": "pflichten-bei-systemischem-risiko" }, { "@type": "BreadcrumbList", "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#breadcrumb", "itemListElement": [ { "@type": "ListItem", "position": 1, "name": "Startseite", "item": "https://dataact-compliance.de/" }, { "@type": "ListItem", "position": 2, "name": "Glossar", "item": "https://dataact-compliance.de/glossar/" }, { "@type": "ListItem", "position": 3, "name": "Pflichten bei systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)", "item": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/" } ] }, { "@type": "FAQPage", "@id": "https://dataact-compliance.de/glossar/pflichten-bei-systemischem-risiko/#faq", "mainEntity": [ { "@type": "Question", "name": "Welche Pflichten hat Art. 55?", "acceptedAnswer": { "@type": "Answer", "text": "Vier Pflichten: Modellbewertung mit Adversarial Testing, Risikominderung (Demokratie/Rechtsstaatlichkeit/Sicherheit/Gesundheit), Vorfallsmeldung, Cybersicherheit." } }, { "@type": "Question", "name": "Wann gilt ein GPAI-Modell als systemisch risikobehaftet?", "acceptedAnswer": { "@type": "Answer", "text": "Ab 10^25 FLOPs Trainingsrechenleistung (Vermutung nach Art. 51 Abs. 2, Definition Art. 3 Nr. 65). Kommission kann auch bei Unterschreiten einstufen (besondere Fähigkeiten, Verbreitung)." } }, { "@type": "Question", "name": "Seit wann gilt Art. 55?", "acceptedAnswer": { "@type": "Answer", "text": "Seit 2. August 2025 (zusammen mit allgemeinen GPAI-Pflichten). Bußgeldkompetenz AI Office seit 2. August 2026." } } ] } ] } ```