KI zur Überwachung kritischer IT-Systeme (Sicherheit): Risikoklasse und Pflichten im EU-KI-Recht

Anhang III Nr. 2 erfasst KI als Sicherheitskomponente kritischer digitaler Infrastruktur oder zur Überwachung ihres Betriebs. SOC-KI, Anomalie-Erkennung, Intrusion Detection in KRITIS-Netzen (Energie, Wasser, Gesundheit, digitale Dienste, Finanz) sind erfasst. Grund: Ausfall oder Kompromittierung kann gesellschaftliche Kaskadenfolgen haben. Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026), mit Cybersecurity (Art. 15) als zentraler Pflicht.

Art. 8–15 mit Schwerpunkt Art. 15 (Genauigkeit, Robustheit, Cybersecurity). Die SOC-KI selbst ist Angriffsfläche: Adversarial Attacks (gezielte Manipulation der Erkennung), Data Poisoning (Verunreinigung der Trainingsdaten, damit Angriffe unentdeckt bleiben), Model Evasion. Schutzmaßnahmen: Penetrationstests, Red-Teaming, kontinuierliches Monitoring, Fallback auf konventionelle SIEM, klare Eskalationspfade. Überlagert NIS2 (Risikomanagement Art. 21, Meldepflicht Art. 23), BSI-Gesetz (KRITIS-Betreiber-Pflichten), Cyber Resilience Act.

Vorfallsmeldungen sind kumulativ: AI Act Art. 73 (schwere Vorfälle), NIS2 Art. 23 (erhebliche Vorfälle, frühwarnend 24 h), DSGVO Art. 33 (Datenschutzverletzungen, 72 h). Ein Angriff auf SOC-KI in einem Krankenhaus kann alle drei Pflichten auslösen — drei Behörden (Marktüberwachung, Cybersicherheits-Aufsicht/BSI, Datenschutz). Eine konsolidierte Vorfall-Matrix, gemeinsame Risikobewertung und abgestimmte Dokumentation sind für KRITIS-Betreiber unverzichtbar. Cybersecurity und AI-Act-Compliance sind in diesem Bereich keine getrennten Silos, sondern ein integriertes Resilienz-Konzept.