KI in kritischer Infrastruktur: Risikoklasse und Pflichten im EU-KI-Recht
KI-Systeme, die als Sicherheitskomponente kritischer digitaler Infrastruktur oder zur Wartung/Funktionsüberwachung kritischer Infrastruktur (Energie, Wasser, Verkehr, Gesundheit, digitale Dienste) dienen, sind nach Anhang III Nr. 2 AI Act HOCHRISKANT. Sie unterliegen spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026) dem Pflichtenbündel aus Art. 8–15 mit Schwerpunkt auf Genauigkeit/Robustheit/Cybersecurity (Art. 15). Überlagert: NIS2-Richtlinie (Risikomanagement Art. 21, Meldepflichten Art. 23), sektorales Infrastrukturrecht (KRITIS-Gesetz, BSI-Gesetz), Cybersicherheitsrecht. Vorfallsmeldungen sind kumulativ (Art. 73 AI Act ↔ Art. 23 NIS2 ↔ Art. 33 DSGVO bei Personenbezug). Ein Ausfall/Manipulation kritischer Infrastruktur-KI kann weitreichende Kaskadenfolgen haben — daher die strenge Einstufung.
Steve Baka
Hochrisiko nach Anhang III Nr. 2
Anhang III Nr. 2 erfasst KI, die als Sicherheitskomponente kritischer digitaler Infrastruktur oder als digitales System von entscheidender Bedeutung (z. B. Cloud, Rechenzentren) vorgesehen ist, oder zur Wartung der Funktionsfähigkeit kritischer digitaler Infrastruktur oder zur Überwachung ihres Betriebs beiträgt. Beispiele: KI-gestützte Überwachung von Stromnetzen, Wasserwerken, Verkehrsleitsystemen, Krankenhaus-IT, Telekommunikationsnetzen; Anomalie-Erkennung in KRITIS-Netzen. Grund: Ausfall/Manipulation kann gesellschaftliche Kaskadenfolgen haben (Blackout, Versorgungsengpässe). Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026).
Pflichten und NIS2-Überlagerung
Art. 8–15 mit Schwerpunkt Art. 15 (Genauigkeit, Robustheit, Cybersecurity) — für kritische Infrastruktur sind Ausfallsicherheit und Widerstandsfähigkeit gegen Angriffe essenziell. Überlagert zwingend NIS2: Risikomanagement-Maßnahmen (Art. 21), Meldepflichten bei erheblichen Vorfällen (Art. 23, frühwarnend 24 h), Management-Verantwortung. Sektoral: KRITIS-Gesetz/BSI-Gesetz in DE, sektorale Aufsichten (BNetzA für Energie, BAFin für Finanzen). Cybersecurity: Cyber Resilience Act ergänzt für Produkte mit digitalen Elementen. Vorfallsmeldungen sind kumulativ — eine konsolidierte Vorfall-Matrix (AI Act + NIS2 + DSGVO) ist für KRITIS-Betreiber unverzichtbar.
Praxis: Robustheit und Kaskadenrisiko
KI in kritischer Infrastruktur ist besonders fehler- und angriffsanfällig: Adversarial Attacks (gezielte Manipulation der Eingaben), Data Poisoning (Verunreinigung der Trainingsdaten), Model Stealing, Model Inversion. Art. 15 verlangt angemessene Cybersecurity-Schutzstufen. Praktisch erforderlich: Penetrationstests, Red-Teaming, kontinuierliches Monitoring, Fallback-Mechanismen (menschliche/konventionelle Übersteuerung), klare Eskalationspfade, Wiederherstellungspläne. Bei Kaskadenrisiko (Stromnetz → Wasser → Gesundheit) ist eine systemübergreifende Resilienz-Planung nötig. Aufsichtlich prüfen BSI, sektorale Regulatoren und die Marktüberwachung zusammen. Für KRITIS-Betreiber ist KI-Cybersecurity keine Compliance-Formalität, sondern Kern der Versorgungssicherheit.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Ist KI im Stromnetz hochriskant?
Ja. Anhang III Nr. 2 erfasst KI als Sicherheitskomponente kritischer Infrastruktur (Energie, Wasser, Verkehr, Gesundheit, digitale Dienste). Volles Pflichtenbündel aus Art. 8–15 ab 2. Aug. 2026.
Was überlagert den AI Act bei KRITIS?
NIS2 (Risikomanagement Art. 21, Meldepflichten Art. 23), sektorales Recht (KRITIS-Gesetz, BSI-Gesetz, BNetzA), Cyber Resilience Act. Vorfallsmeldungen sind kumulativ.
Welche Cybersecurity-Risiken sind typisch?
Adversarial Attacks, Data Poisoning, Model Stealing. Art. 15 verlangt Schutzstufen; praktisch Penetrationstests, Red-Teaming, Fallback-Mechanismen, Wiederherstellungspläne.
Rechtskonforme Umsetzung für KI in kritischer Infrastruktur?
Wenn du KI in kritischer Infrastruktur rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.