GPAI-Modell mit systemischem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 3 Nr. 64 definiert ein GPAI-Modell mit systemischem Risiko anhand seiner „hohen Auswirkungen". Konkretisiert wird dies in Art. 51: Eine widerlegbare Vermutung greift, sobald die kumulierte für das Training verwendete Rechenleistung 10²⁵ FLOPs übersteigt. Diese Schwelle ist ein technischer Anker, kein starrer Maßstab — auch darunter kann ein Modell bei begründeter Meldung (Art. 51 Abs. 3, durch Kommission, EAIB oder Wissenschaftlichen Ausschuss) als systemisch riskant eingestuft werden. Die Kommission kann die Schwelle durch delegierte Rechtsakte anpassen (technischer Fortschritt).

Anbieter von GPAI-Modellen mit systemischem Risiko erfüllen zusätzlich zu den allgemeinen GPAI-Pflichten (Art. 53): (1) Modellbewertung einschließlich Adversarial Testing (Red-Teaming) und dokumentierter Modell-Architekturanalyse, (2) Bewertung und Minderung möglicher systemischer Risiken auf Union-Ebene einschließlich ihrer Quellen, (3) angemessene Cybersecurity-Schutzstufen für das Modell und seine Infrastruktur, (4) angemessene Schutzmaßnahmen für die Gewichtungen (weights) des Modells vor unbefugtem Zugriff/Freisetzung. Die Pflichten werden ab dem 2. August 2025 angewendet (Art. 113).

Der Anbieter hat die Einstufung der Kommission mitzuteilen, sobald er die 10²⁵-FLOPs-Schwelle überschreitet oder sonstige Indizien für systemisches Risiko bestehen (Art. 52). Die Kommission kann ein Modell auch von Amts wegen oder auf begründete Meldung Dritter als systemisch riskant einstufen. Gegen die Einstufung sind Rechtsbehelfe offen. Die Klassifizierung löst sofort die erweiterten Pflichten aus; eine spätere „Herabstufung" ist möglich, wenn die Voraussetzungen entfallen. Das AI Office führt ein Register der als systemisch riskant eingestuften Modelle.