Kennzeichnung KI-generierter Inhalte: Definition und rechtliche Bedeutung (AI Act / Data Act)
Die Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2 AI Act) verpflichtet Anbieter, dafür zu sorgen, dass die von ihrem System ausgegebenen synthetischen Inhalte (Audio, Bild, Video, Text mit öffentlichem Interesse) für Menschen erkennbar und maschinenlesbar gekennzeichnet sind. Konkretisierung über harmonisierte Normen (CEN/CENELEC) und den Stand der Technik (C2PA/Content Credentials, SynthID, Metadaten). Keine Konformitätsbewertung, ab dem 2. August 2026, mit Omnibus-Grandfathering bis 2. Dezember 2026 (für vor dem 2.8.2026 in Verkehr gebrachte Systeme). Sanktion bis 7,5 Mio. EUR / 1 % Umsatz (Art. 99 Abs. 5). Überschneidung mit DSA (Art. 16/35 Risikobewertung), nationaler Medienregulierung und DSGVO (besondere Datenkategorien bei synthetischen Inhalten, die Personen abbilden).
Steve Baka
Pflicht und Standardisierung (Art. 50 Abs. 2)
Art. 50 Abs. 2 verpflichtet Anbieter von KI-Systemen — insbesondere GPAI-Modellen — dafür zu sorgen, dass die von ihren Systemen ausgegebenen synthetischen Inhalte (Audio, Bild, Video, Text) mit öffentlichem Interesse für Menschen erkennbar und maschinenlesbar gekennzeichnet sind, im besten Fall im maschinenlesbaren Format nach Stand der Technik. Konkretisierung über harmonisierte Normen (CEN/CENELEC JTC 21) und Kommissionsrechtsakte. Die Pflicht gilt ab dem 2. August 2026; Omnibus-Grandfathering bis 2. Dezember 2026 (für vor dem 2.8.2026 in Verkehr gebrachte Systeme). Sanktion nach Art. 99 Abs. 5: bis 7,5 Mio. EUR / 1 % Umsatz. Ausnahme: offenkundig kreative/fiktive Inhalte (z. B. synchronisierte Kunstwerke), Hilfsfunktion für Strafverfolgung.
Technik: C2PA, Wasserzeichen, Metadaten
Technische Standards: C2PA/Content Credentials (Coalition for Content Provenance and Authenticity — Adobe, Microsoft, Google, BBC, Sony), die kryptografisch signierte Herkunftsinformationen in Medien einbetten; SynthID (Google DeepMind) für Wasserzeichen in Text/Bild/Audio; maschinenlesbare Metadaten (IPTC, XMP); sichtbare Wasserzeichen (z. B. DALL-E-/Midjourney-Branding). Herausforderungen: Robustheit gegen Stripping/Entfernung (Wasserzeichen-Manipulation), Interoperabilität internationaler Standards, Erkennung von Inhalten Drittsysteme (Detector-Tools, keine absolute Lösung), Skalierung auf Milliardenvolumina. Die EU fördert über die Kommission Standardisierung und Detector-Infrastruktur.
Schnittstellen: DSA, Medienrecht, DSGVO
Überschneidung mit DSA: sehr große Plattformen müssen in Risikobewertung (Art. 35) auch Desinformation durch KI-generierte Inhalte einbeziehen und Maßnahmen ergreifen (z. B. Kennzeichnungspflicht, Streuungsbegrenzung). Code of Practice on Disinformation 2022/2025 ist ein EU-Instrument. Medienrecht: journalistische/redaktionelle Sorgfaltspflicht, Presserat-Kodizes, Vertrauensschutz echter Inhalte. DSGVO: synthetische Inhalte, die reale Personen abbilden (z. B. Deepfakes), können personenbezogen sein; bei sensitiven Merkmalen (Gesundheit, sexuelle Orientierung) besondere Datenkategorien (Art. 9). Strafrecht: Verleumdung (§ 186 StGB), üble Nachrede (§ 187), Betrug, Identitätsmissbrauch bei missbräuchlichen Deepfakes. Eine verantwortungsvolle Kennzeichnungsarchitektur kombiniert technische Mittel mit redaktioneller/forensischer Erkennung.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act.
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung und GPAI-Aufsicht.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Artikelgenaue, inoffiziell-konsolidierte Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act.
European Data Protection Board (EDPB)EDPB. EU-Datenschutzgremium mit KI-Leitlinien.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act.
Council of Europe Framework Convention on AICouncil of Europe. Erstes völkerrechtliches Abkommen zu KI.
Häufige Fragen
Müssen KI-Bilder gekennzeichnet werden?
Ja. Art. 50 Abs. 4 verlangt menschen- und maschinenlesbare Kennzeichnung synthetischer Inhalte mit öffentlichem Interesse. Ab 2. Aug. 2026, GPAI bis Aug. 2027.
Welche Technik ist State-of-the-Art?
C2PA/Content Credentials (Adobe/Microsoft/Google), SynthID (Google), IPTC/XMP-Metadaten, sichtbare Wasserzeichen. Herausforderung: Robustheit gegen Stripping, Detector-Tools.
Was passiert bei DSA-Überlagerung?
Sehr große Plattformen müssen in Risikobewertung (DSA Art. 35) auch KI-Desinformation einbeziehen und Maßnahmen ergreifen (Kennzeichnungspflicht, Streuungsbegrenzung). Code of Practice on Disinformation.
Du willst EU AI Act und Data Act praktisch umsetzen?
Ich helfe dir, aus Konzepten, Pflichten, Use-Cases und Nachweisen ein Compliance-System zu bauen, das für Menschen verständlich und für Aufsichten nachvollziehbar ist.