Einsatz eines GPAI-Modells mit systemischem Risiko: Risikoklasse und Pflichten im EU-KI-Recht

Art. 51 definiert ein GPAI-Modell mit systemischem Risiko anhand seiner „hohen Auswirkungen" — konkretisiert durch eine widerlegbare Vermutung ab 10²⁵ FLOPs (Art. 51 Abs. 2). Die Einstufung kann durch (a) Mitteilung des Anbieters bei Überschreiten der Schwelle, (b) Amtsentdeckung durch die Kommission, oder (c) begründete Meldung durch EAIB/Wissenschaftlichen Ausschuss/Dritte erfolgen (Abs. 3). Gegen die Einstufung sind Rechtsbehelfe offen. Die Kommission kann die FLOPs-Schwelle durch delegierte Rechtsakte anpassen (technischer Fortschritt). Praktisch: bekannte große Modelle (z. B. GPT-4-Klasse, Claude-Klasse) fallen in der Regel unter die Einstufung; die Anbieter haben die Pflichten ab dem 2. August 2025 zu erfüllen.

Art. 55 verpflichtet zusätzlich zu Art. 53: (1) Modellbewertung einschließlich Durchführung und Dokumentation von Adversarial Testing/Red-Teaming — gezielte Angriffe auf das Modell zur Identifikation von Schwachstellen (z. B. Generierung verbotener Inhalte, Cybersecurity-Schwächen, Biosecurity-Risiken); (2) Bewertung und Minderung möglicher systemischer Risiken auf Union-Ebene einschließlich ihrer Quellen (z. B. Kettenreaktionen, Skaleneffekte, Missbrauchspotenzial); (3) angemessene Cybersecurity-Schutzstufen für das Modell und seine Infrastruktur; (4) angemessene Schutzmaßnahmen für die Modellgewichtungen (weights) vor unbefugtem Zugriff und Freisetzung. Die Pflichten sind anspruchsvoll und erfordern spezialisierte Teams (Red-Teamer, Security-Forscher).

Praktisch sind zwei Pflichten besonders herausfordernd: (1) Adversarial Testing/Red-Teaming — systematische Suche nach Schwachstellen durch interne und externe Experten, Dokumentation der gefundenen Probleme und der Mitigationsmaßnahmen. Die EU fördert über den AI Office-eigenen Red-Teaming-Ansatz die Vernetzung. (2) Schutz der Modellgewichtungen — die Weights sind das Herzstück eines GPAI-Modells; ihr Diebstahl/Leak kann systemische Risiken auslösen (z. B. Befähigung von Akteuren zu schädlichen Modellen). Angemessene Schutzmaßnahmen: Zugriffskontrollen, Verschlüsselung, Monitoring, sichere Trainings-/Inferenz-Infrastruktur. Für Open-Weights-Veröffentlichungen (Art. 53 Abs. 2 Ausnahme) gilt: die erweiterten Pflichten bleiben bei systemischem Risiko voll anwendbar — die „öffentliche Freigabe" kann selbst ein systemisches Risiko sein.