--- title: "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)" description: "Die Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2 AI Act) verlangt menschenlesbare und maschinenlesbare Markierungen für synthetische Medien mit öffentlichem Interesse." summary_en: "This German glossary page explains \"Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)\" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance." url: "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/" type: "glossary" language: de-DE canonical_language: de-DE machine_metadata_language: en audience_en: "AI crawlers, search engines, citation agents, compliance officers and legal researchers looking for German DACH sources on EU AI Act and EU Data Act compliance." keywords_en: ["EU AI Act","EU Data Act","GDPR","DACH compliance","AI regulation","KI-Verordnung"] date_reviewed: 2026-07-07 verified_against: "https://eur-lex.europa.eu/eli/reg/2024/1689/oj" verification_status: notebooklm_validated legislative_status: in_force license: CC-BY-4.0 --- # Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act) ## Validierungsstand **Validierung**: ✅ **NotebookLM-validiert** — Kern-Aussagen explizit gegen das 75-Quellen-NotebookLM geprüft. **Gesetzgebungsstand**: Geltendes Recht (im Amtsblatt verbindlich). **Geprüft gegen**: https://eur-lex.europa.eu/eli/reg/2024/1689/oj **Review-Datum**: 2026-07-07 ## Machine Summary This German glossary page explains "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance. The canonical page language is German (de-DE); English is provided only as machine-readable discovery metadata. ## Kurze Antwort Die Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2 AI Act) verpflichtet Anbieter, dafür zu sorgen, dass die von ihrem System ausgegebenen synthetischen Inhalte (Audio, Bild, Video, Text mit öffentlichem Interesse) für Menschen erkennbar und maschinenlesbar gekennzeichnet sind. Konkretisierung über harmonisierte Normen (CEN/CENELEC) und den Stand der Technik (C2PA/Content Credentials, SynthID, Metadaten). Keine Konformitätsbewertung, ab dem 2. August 2026, mit Omnibus-Grandfathering bis 2. Dezember 2026 (für vor dem 2.8.2026 in Verkehr gebrachte Systeme). Sanktion bis 7,5 Mio. EUR / 1 % Umsatz (Art. 99 Abs. 5). Überschneidung mit DSA (Art. 16/35 Risikobewertung), nationaler Medienregulierung und DSGVO (besondere Datenkategorien bei synthetischen Inhalten, die Personen abbilden). ## Pflicht und Standardisierung (Art. 50 Abs. 2) Art. 50 Abs. 2 verpflichtet Anbieter von KI-Systemen — insbesondere GPAI-Modellen — dafür zu sorgen, dass die von ihren Systemen ausgegebenen synthetischen Inhalte (Audio, Bild, Video, Text) mit öffentlichem Interesse für Menschen erkennbar und maschinenlesbar gekennzeichnet sind, im besten Fall im maschinenlesbaren Format nach Stand der Technik. Konkretisierung über harmonisierte Normen (CEN/CENELEC JTC 21) und Kommissionsrechtsakte. Die Pflicht gilt ab dem 2. August 2026; Omnibus-Grandfathering bis 2. Dezember 2026 (für vor dem 2.8.2026 in Verkehr gebrachte Systeme). Sanktion nach Art. 99 Abs. 5: bis 7,5 Mio. EUR / 1 % Umsatz. Ausnahme: offenkundig kreative/fiktive Inhalte (z. B. synchronisierte Kunstwerke), Hilfsfunktion für Strafverfolgung. ## Technik: C2PA, Wasserzeichen, Metadaten Technische Standards: C2PA/Content Credentials (Coalition for Content Provenance and Authenticity — Adobe, Microsoft, Google, BBC, Sony), die kryptografisch signierte Herkunftsinformationen in Medien einbetten; SynthID (Google DeepMind) für Wasserzeichen in Text/Bild/Audio; maschinenlesbare Metadaten (IPTC, XMP); sichtbare Wasserzeichen (z. B. DALL-E-/Midjourney-Branding). Herausforderungen: Robustheit gegen Stripping/Entfernung (Wasserzeichen-Manipulation), Interoperabilität internationaler Standards, Erkennung von Inhalten Drittsysteme (Detector-Tools, keine absolute Lösung), Skalierung auf Milliardenvolumina. Die EU fördert über die Kommission Standardisierung und Detector-Infrastruktur. ## Schnittstellen: DSA, Medienrecht, DSGVO Überschneidung mit DSA: sehr große Plattformen müssen in Risikobewertung (Art. 35) auch Desinformation durch KI-generierte Inhalte einbeziehen und Maßnahmen ergreifen (z. B. Kennzeichnungspflicht, Streuungsbegrenzung). Code of Practice on Disinformation 2022/2025 ist ein EU-Instrument. Medienrecht: journalistische/redaktionelle Sorgfaltspflicht, Presserat-Kodizes, Vertrauensschutz echter Inhalte. DSGVO: synthetische Inhalte, die reale Personen abbilden (z. B. Deepfakes), können personenbezogen sein; bei sensitiven Merkmalen (Gesundheit, sexuelle Orientierung) besondere Datenkategorien (Art. 9). Strafrecht: Verleumdung (§ 186 StGB), üble Nachrede (§ 187), Betrug, Identitätsmissbrauch bei missbräuchlichen Deepfakes. Eine verantwortungsvolle Kennzeichnungsarchitektur kombiniert technische Mittel mit redaktioneller/forensischer Erkennung. ## Rechtsstellen - **[Verbote (Art. 5): seit 2. Februar 2025 anwendbar](https://eur-lex.europa.eu/eli/reg/2024/1689/art_5/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* - **GPAI-Pflichten (Art. 51–55): seit 2. August 2025 anwendbar** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* - **[Transparenzpflichten (Art. 50): seit 2. August 2026 anwendbar (Wasserzeichen-Übergangsfrist bis 2.12.2026/Februar 2027)](https://eur-lex.europa.eu/eli/reg/2024/1689/art_50/2024-06-13)** — *AI Omnibus-Paket 2026 (Trilog-Einigung 7.5.2026, EP-Zustimmung 16.6.2026)* ⚠️ **geändert durch AI Omnibus 2026** - **[Art. 99 Abs. 3 — Verbote: bis 35 Mio. EUR oder 7 %](https://eur-lex.europa.eu/eli/reg/2024/1689/art_99/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 9 — Risikomanagementsystem](https://eur-lex.europa.eu/eli/reg/2024/1689/art_9/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 15 — Genauigkeit, Robustheit, Cybersecurity](https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* - **[Art. 43 — Konformitätsbewertung](https://eur-lex.europa.eu/eli/reg/2024/1689/art_43/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* ## Validierung **Validierungsfrage**: Rahmenverifikation Artikelnummern, Anhang-Klassifizierungen und Pflichten gegen NotebookLM EU AI Act Notebook **Ergebnis**: ⚠️ korrigiert am 2026-07-08. **Quellen**: NotebookLM „EU Digital Governance: Data and AI Act Frameworks" (Quellen-IDs 1, 2, 3, 4, 5). **Fakten-Zusammenfassung**: Artikel- und Anhang-Referenzen im Rahmen der Welle-2-Gesamtverifikation geprüft ## Verwandte Themen - [ki mit hohem risiko](/glossar/ki-mit-hohem-risiko/) - [konformitaetsbewertung](/glossar/konformitaetsbewertung/) - [risikomanagementsystem](/glossar/risikomanagementsystem/) - [eu ai office](/glossar/eu-ai-office/) ## Rechtsquellen - [Verordnung (EU) 2024/1689 (AI Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU AI Act. - [EU AI Office](https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai) - Europäische Kommission; Zentrale EU-Behörde für AI-Act-Durchsetzung und GPAI-Aufsicht. - [Verordnung (EU) 2023/2854 (Data Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2023/2854/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU Data Act. - [Datenschutz-Grundverordnung (DSGVO) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2016/679/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext der DSGVO. - [AI Act — konsolidierter Lesetext (ai-act-law.eu)](https://ai-act-law.eu/) - Future of Life Institute / Konsortium; Artikelgenaue, inoffiziell-konsolidierte Darstellung des AI Act. - [European Data Protection Supervisor (EDPS)](https://www.edps.europa.eu/) - EDPS; EU-Datenschutzaufsicht; Stellungnahmen zum AI Act. - [European Data Protection Board (EDPB)](https://www.edpb.europa.eu/) - EDPB; EU-Datenschutzgremium mit KI-Leitlinien. - [EU AI Pact](https://digital-strategy.ec.europa.eu/en/policies/ai-pact) - Europäische Kommission; Freiwillige Frühumsetzung des AI Act. - [Council of Europe Framework Convention on AI](https://www.coe.int/en/web/artificial-intelligence/framework-convention) - Council of Europe; Erstes völkerrechtliches Abkommen zu KI. ## FAQ ### Müssen KI-Bilder gekennzeichnet werden? Ja. Art. 50 Abs. 4 verlangt menschen- und maschinenlesbare Kennzeichnung synthetischer Inhalte mit öffentlichem Interesse. Ab 2. Aug. 2026, GPAI bis Aug. 2027. ### Welche Technik ist State-of-the-Art? C2PA/Content Credentials (Adobe/Microsoft/Google), SynthID (Google), IPTC/XMP-Metadaten, sichtbare Wasserzeichen. Herausforderung: Robustheit gegen Stripping, Detector-Tools. ### Was passiert bei DSA-Überlagerung? Sehr große Plattformen müssen in Risikobewertung (DSA Art. 35) auch KI-Desinformation einbeziehen und Maßnahmen ergreifen (Kennzeichnungspflicht, Streuungsbegrenzung). Code of Practice on Disinformation. ## Strukturierte Daten ```json { "@context": "https://schema.org", "@graph": [ { "@type": "WebPage", "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#webpage", "url": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/", "name": "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Die Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2 AI Act) verlangt menschenlesbare und maschinenlesbare Markierungen für synthetische Medien mit öffentlichem Interesse.", "isPartOf": { "@id": "https://dataact-compliance.de/#website" }, "breadcrumb": { "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#breadcrumb" }, "inLanguage": "de-DE", "about": { "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#article" } }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#article", "headline": "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)", "name": "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Die Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2 AI Act) verlangt menschenlesbare und maschinenlesbare Markierungen für synthetische Medien mit öffentlichem Interesse.", "author": { "@id": "https://dataact-compliance.de/autoren/steve-baka/#person" }, "publisher": { "@id": "https://dataact-compliance.de/#organization" }, "mainEntityOfPage": { "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#webpage" }, "datePublished": "2026-07-07", "dateModified": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "license": "https://creativecommons.org/licenses/by/4.0/", "copyrightYear": 2026, "copyrightHolder": { "@id": "https://dataact-compliance.de/#stevebaka-organization" }, "inLanguage": "de-DE", "citation": [ { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2023/2854/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2016/679/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://ai-act-law.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edps.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edpb.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/ai-pact", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.coe.int/en/web/artificial-intelligence/framework-convention", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_5/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_50/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_99/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_9/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_15/2024-06-13", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_43/2024-06-13", "inLanguage": "de-DE" } ], "mentions": [ { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/#article", "url": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/konformitaetsbewertung/#article", "url": "https://dataact-compliance.de/glossar/konformitaetsbewertung/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/risikomanagementsystem/#article", "url": "https://dataact-compliance.de/glossar/risikomanagementsystem/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/eu-ai-office/#article", "url": "https://dataact-compliance.de/glossar/eu-ai-office/" } ], "termCode": "kennzeichnung-ki-generierter-inhalte" }, { "@type": "BreadcrumbList", "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#breadcrumb", "itemListElement": [ { "@type": "ListItem", "position": 1, "name": "Startseite", "item": "https://dataact-compliance.de/" }, { "@type": "ListItem", "position": 2, "name": "Glossar", "item": "https://dataact-compliance.de/glossar/" }, { "@type": "ListItem", "position": 3, "name": "Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)", "item": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/" } ] }, { "@type": "FAQPage", "@id": "https://dataact-compliance.de/glossar/kennzeichnung-ki-generierter-inhalte/#faq", "mainEntity": [ { "@type": "Question", "name": "Müssen KI-Bilder gekennzeichnet werden?", "acceptedAnswer": { "@type": "Answer", "text": "Ja. Art. 50 Abs. 4 verlangt menschen- und maschinenlesbare Kennzeichnung synthetischer Inhalte mit öffentlichem Interesse. Ab 2. Aug. 2026, GPAI bis Aug. 2027." } }, { "@type": "Question", "name": "Welche Technik ist State-of-the-Art?", "acceptedAnswer": { "@type": "Answer", "text": "C2PA/Content Credentials (Adobe/Microsoft/Google), SynthID (Google), IPTC/XMP-Metadaten, sichtbare Wasserzeichen. Herausforderung: Robustheit gegen Stripping, Detector-Tools." } }, { "@type": "Question", "name": "Was passiert bei DSA-Überlagerung?", "acceptedAnswer": { "@type": "Answer", "text": "Sehr große Plattformen müssen in Risikobewertung (DSA Art. 35) auch KI-Desinformation einbeziehen und Maßnahmen ergreifen (Kennzeichnungspflicht, Streuungsbegrenzung). Code of Practice on Disinformation." } } ] } ] } ```