Genauigkeit, Robustheit und Cybersecurity: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 15 verpflichtet Anbieter hochriskanter KI zu drei Dimensionen: (1) Genauigkeit — angemessene Leistungsmetriken, Vorhersagbarkeit und Reproduzierbarkeit der Outputs, dokumentiert in der technischen Dokumentation. (2) Robustheit — Resilienz gegen Fehler, Störungen, unvorhergesehene Eingaben (Out-of-Distribution), Datenqualitätsschwankungen, Umweltänderungen. (3) Cybersecurity — Schutz gegen böswillige Angriffe: Adversarial Attacks (gezielte Eingaben zur Fehlausgabe), Data Poisoning (Verunreinigung der Trainingsdaten), Model Inversion/Stealing, Missbrauch.

Die Pflicht wird über harmonisierte Normen (CEN/CENELEC JTC 21) und den Stand der Technik konkretisiert. Die technische Dokumentation muss Leistungsmetriken, Robustheits-/Cybersecurity-Tests dokumentieren. Updates müssen die Konformität erhalten (Art. 12 Aufzeichnungspflicht). Bei kritischen Anwendungen (Medizin, Verkehr, kritische Infrastruktur) ist die Pflicht besonders streng — der Ausfall oder die Kompromittierung kann Menschenleben, Versorgung und Gesellschaft gefährden.

In der Praxis bedeutet Art. 15: Red-Teaming (gezielte Suche nach Schwachstellen), Penetrationstests, kontinuierliches Monitoring, Fallback-Mechanismen. Bei KI als Sicherheitskomponente kritischer Infrastruktur (Anhang III Nr. 2) ist die Cybersecurity existentiell — vernetzte Systeme sind ein Hauptziel für staatliche und kriminelle Akteure (Ransomware, Model Poisoning). Eine konservative Cybersecurity-Architektur mit Defense-in-Depth, Schwachstellen-Management und Vorfallsreaktion ist unverzichtbar.