Schulen, Hochschulen & Forschung: AI Act, Data Act & DSGVO-Pflichten

Schulen, Hochschulen & Forschung sind hochriskant bei KI, die den Zugang zu/Prüfung in Bildungseinrichtungen bestimmt oder bewertet (Anhang III Nr. 3) — Aufnahme-/Zulassungs-KI (z. B. automatisierte Auswahlverfahren), Prüfungs-Bewertungs-KI (z. B. automatisierte Korrektur/Auswertung von Prüfungsleistungen), Leistungs-/Lernverlaufs-Bewertung mit wesentlicher Wirkung. Pflichten: volles Art. 8–15-Pflichtenbündel spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026). VERBOTEN ist Emotionserkennung am Arbeitsplatz/Bildung (Art. 5 Abs. 1 lit. f — ausgenommen Sicherheits-/Gesundheitszwecke wie Notfall-Erkennung). Andere KI: Unterrichts-/Lern-Unterstützung (z. B. Sprachlern-Apps, adaptive Lernplattformen — meist begrenzt/minimal), Konversationelle Assistenz (ChatGPT für Recherche — begrenzt Art. 50), Bibliotheks-/Verwaltungs-KI (minimal). Forschungsausnahme für Systementwicklung (Erwägungsgrund 28 — Labor-/Test-Phase unter strengen Bedingungen), aber nicht für den Feldeinsatz.

Praktisch: (1) Risikoklassifizierung aller KI-Anwendungen (Prüfung, Bewertung, Lernunterstützung, Verwaltung); (2) bei Hochrisiko: volles Art. 8–15-Pflichtenbündel mit Schwerpunkt Daten-Governance/Bias (Art. 10 — Tests an Minderheiten-/Geschlechter-/sozialen Gruppen), menschliche Aufsicht (Art. 14 — Lehrkraft/Prüferin entscheidet letztlich), Aufzeichnung (Art. 12 — Score-Begründungen); (3) DSGVO — Schülerdaten (personenbezogen, Minderjährige besonders geschützt Art. 8 DSGVO), besondere Datenkategorien bei Lerndefiziten/Behinderungen (Art. 9), DSFA bei hochriskanter Verarbeitung, Eltern-/Schüler-Aufklärung; (4) Schul-/Hochschulrecht (Länder — Schul-/Prüfungsordnung, Studien-/Prüfungsordnung der Hochschule); (5) Schüler-/Studierendenrecht (Rechtsbehelfe bei Prüfungs-/Zulassungsentscheidungen, Überprüfbarkeit). Aufsichtlich: Datenschutz-Aufsichten (DSK — Datenschutz in der Bildung streng überwacht), Kultusministerien/Schulaufsicht (Schul-/Prüfungsrecht), Marktüberwachung (AI Act). Eine konservative Praxis vermeidet Emotionserkennung (verboten), automatisierte Prüfungsentscheidungen (menschliche Letztverantwortung zwingend) und diskriminierende Bewertungsverfahren. Eine ethisch saubere Bildungs-KI fördert Chancengleichheit statt Auslese.

Bildungs-KI hat klare Grenzen. VERBOTEN (Art. 5 Abs. 1 lit. f): Emotionserkennung am Arbeitsplatz/Bildung — eine Technologie, die Schülerinnen/Schüler lern-/leistungs-bezogen „ausliest", ist verboten. Plus Forschungsausnahme (Erwägungsgrund 28): Systementwicklung in Labor-/Test-Phase unter strengen Bedingungen ist erlaubt — der Feldeinsatz mit Auswirkungen auf Schülerinnen/Schüler unterliegt vollen Pflichten. Vollautomatisierte Prüfungsentscheidungen ohne menschliche Überprüfung sind unzulässig (Art. 14, Schul-/Prüfungsrecht); die Lehrkraft/Prüferin entscheidet letztlich, dokumentiert und begründet. Chancengleichheit statt Auslese: die Bildungs-KI darf nicht zur sozialen/ethnischen Segmentation beitragen — Bias-Tests an Untergruppen (Art. 10), Transparenz gegenüber Schüler-/Eltern-Schaft, Beteiligung der Schul-/Studierendenschaft an Einführung und Bewertung. Eine pädagogisch und rechtsstaatlich saubere Bildungs-KI fördert Lernen statt Risiko, und respektiert die Bildungsautonomie.