Automatisierte Inhaltsmoderation (plattformseitig): Risikoklasse und Pflichten im EU-KI-Recht

Plattformseitige Inhaltsmoderation ist meist begrenzt riskant nach dem AI Act — die AI-Act-Pflichten sind minimal (Art. 50 Transparenz bei direkter Nutzerinteraktion). Die eigentliche Regulierung liegt im Digital Services Act: Art. 6 (Transparenz der Maßnahmen), Art. 16 (Verfahren bei Inhaltsbeschränkung — Begründung, Rechtsbehelf), Art. 22 (Verfahren zur Beschwerde/außergerichtlichen Streitbeilegung), Art. 17 (vertrauenswürdige Melder), das Verbot allgemeiner Überwachungspflicht (Art. 7). Der DSA verbietet „over-removal" und verlangt fair trial-ähnliche Verfahren bei Inhaltslöschungen. Für VLOPs: Risikobewertung (Art. 34/35), algorithmische Transparenz (Art. 27/40).

Vollautomatische Inhaltsmoderation ohne menschliche Überprüfung ist grundrechts- und DSA-problematisch. Meinungs-/Informationsfreiheit (Art. 5 GG, Art. 10 EMRK, Art. 11 GRCh) verlangt Verhältnismäßigkeit: Sperrungen müssen transparent, begründet und anfechtbar sein; legitime Meinungen dürfen nicht gelöscht werden. Der DSA (Art. 6, 16, 22) verlangt faire Verfahren. KI-gestützte Vorfiltierung von Inhalten braucht menschliche Nachprüfung bei Grenzfällen (Satire, Kunst, politische Meinung). Überaggressive automatische Moderation kann Plattform-Haftung auslösen und das Vertrauen untergraben. Eine ausgewogene Moderation kombiniert automatische Vorfilterung mit menschlicher Endentscheidung in sensiblen Fällen.

Plattform-Haftung: Art. 6 DSA (Haftungsfreistellung bei „neutraler" Übermittlung/Hosting, Verlust bei aktiver Rolle). Bei KI-Moderation: keine aktive Überwachungspflicht, aber rasche Entfernung nach Kenntnisnahme (Art. 6 Abs. 1 lit. b/c). DSGVO: personenbezogene Inhaltsdaten (Mitteilungsdaten, Profilbilder), Auftragsverarbeitung mit KI-Moderationsdienst. Schnittstellen: Jugendschutz (DSchG/JMStV, DSA Schutz Minderjähriger), Strafrecht (§ 130 StGB Volksverhetzung, § 184), Urheberrecht (DSM-Richtlinie Art. 17 Upload-Filter). Eine konsolidierte Moderations-Governance (DSGVO + DSA + Urheberrecht + Jugendschutz + AI Act) ist für Plattformen Standardfall. Die AI-Act-Komponente (Transparenz, ggf. Art. 50) ist dabei die kleinste — DSA dominiert.