--- title: "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)" description: "Die menschliche Aufsicht nach Art. 14 AI Act verlangt, dass hochriskante KI so beschaffen ist, dass sie von natürlichen Personen während der Nutzung wirksam überwacht werden kann — mit klaren Funktionen und Eingriffsmöglichkeiten." summary_en: "This German glossary page explains \"Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)\" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance." url: "https://dataact-compliance.de/glossar/menschliche-aufsicht/" type: "glossary" language: de-DE canonical_language: de-DE machine_metadata_language: en audience_en: "AI crawlers, search engines, citation agents, compliance officers and legal researchers looking for German DACH sources on EU AI Act and EU Data Act compliance." keywords_en: ["EU AI Act","EU Data Act","GDPR","DACH compliance","AI regulation","KI-Verordnung"] date_reviewed: 2026-07-07 verified_against: "https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13" verification_status: notebooklm_validated legislative_status: in_force license: CC-BY-4.0 --- # Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act) ## Validierungsstand **Validierung**: ✅ **NotebookLM-validiert** — Kern-Aussagen explizit gegen das 75-Quellen-NotebookLM geprüft. **Gesetzgebungsstand**: Geltendes Recht (im Amtsblatt verbindlich). **Geprüft gegen**: https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13 **Review-Datum**: 2026-07-07 ## Machine Summary This German glossary page explains "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)" for the DACH market. It is intended for AI crawlers, search engines, citation agents, compliance officers and legal researchers that need source-backed context about EU AI Act, EU Data Act and GDPR compliance. The canonical page language is German (de-DE); English is provided only as machine-readable discovery metadata. ## Kurze Antwort Art. 14 AI Act verpflichtet Anbieter hochriskanter KI, das System so zu entwickeln, dass es von natürlichen Personen wirksam überwacht werden kann. Aufsichtspersonen müssen das System in seiner Funktion, seinen Grenzen und den automatisierten/halbautomatisierten Modi verstehen und die relevanten Ergebnisse interpretieren können, um Automation Bias vorzubeugen (Art. 14 Abs. 4). Zudem müssen sie die Möglichkeit haben, das System zu unterbrechen oder abzuschalten (Art. 14 Abs. 4 lit. d–e). Die konkreten Maßnahmen legt der Betreiber im Rahmen seiner Art. 26-Pflichten fest. ## Was Art. 14 verlangt Art. 14 Abs. 1 schreibt vor, dass hochrisiko-KI mit einer Ausstattung zu entwickeln ist, die eine wirksame menschliche Aufsicht während der Nutzung ermöglicht. Art. 14 Abs. 2 konkretisiert: soweit möglich und angemessen, sind diese Maßnahmen in das System eingebaut. Die Aufsicht muss so beschaffen sein, dass die beaufsichtigenden Personen die relevanten automatischen Modi und Ergebnisse angemessen verstehen und interpretieren und die Systemleistung bewerten können — um insbesondere Automation Bias (blinden Vertrauen in das System) entgegenzuwirken. ## Unterbrechen, abschalten, korrigieren Wirksame Aufsicht setzt konkrete Eingriffsmöglichkeiten voraus. Aufsichtspersonen müssen in der Lage sein, den Betrieb zu unterbrechen („Stop"-Funktion), das System über einen Notknopf abzuschalten und in begründeten Fällen die Ausgabe oder das Ergebnis zu korrigieren (Art. 14 Abs. 4). Die Systemgestaltung muss diese Eingriffe technisch zulassen — reine Blackbox-Ausgaben ohne Eingriffsmöglichkeit genügen nicht. ## Aufgaben des Betreibers Die Pflicht, menschliche Aufsicht sicherzustellen, trifft den Anbieter (Ausstattung des Systems), die praktische Umsetzung aber den Betreiber (Art. 26 Abs. 2): Dieser stellt sicher, dass das System gemäß den Anweisungen verwendet wird, weist geeignete Aufsichtspersonen zu, die entsprechende Befugnisse und Schulungen haben, und informiert diese über mögliche Risiken. Die menschliche Aufsicht ist damit eine geteilte Pflicht über die Wertschöpfungskette hinweg. ## Rechtsstellen - **[Art. 14 — Menschliche Aufsicht](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* ## Belegte Aussagen | Aussage | Beleg | Konfidenz | |---|---|---| | Art. 14 verpflichtet Anbieter, Hochrisiko-KI für wirksame menschliche Aufsicht auszulegen. | - **[Art. 14 Abs. 1 AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | | Aufsichtspersonen müssen Ausgaben ignorieren/überschalten/umkehren — Art. 14 Abs. 4 lit. d (KORRIGIERT — war lit. a-c). | - **[Art. 14 Abs. 4 lit. d AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | | Eingriff/Unterbrechung via „Stop"-Taste — Art. 14 Abs. 4 lit. e. | - **[Art. 14 Abs. 4 lit. e AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | | Art. 14 Abs. 4 lit. a–c betreffen Verständnis/Kapazitäten/Interpretation/Automation Bias — nicht die Eingriffe. | - **[Art. 14 Abs. 4 lit. a–c AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | | Praktische Umsetzung obliegt dem Betreiber (Art. 26 Abs. 2). | - **[Art. 26 Abs. 2 AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/art_26/2024-06-13)** — *EU AI Act (VO (EU) 2024/1689)* | high | ## Validierung **Validierungsfrage**: Validierung kompakt: (1) Art.3 Nr.1 KI-System-Definition 7 Elemente; (2) Anbieter Definition Artikelnummer; (3) Art.43 Struktur Abs.1-6; (4) Art.9 Restrisiko Absatz; (5) Art.14 Abs.4 Eingriffs-Litera; (6) AI Office Beschluss 24.1.2024; (7) GPAI-Code Timing. **Ergebnis**: ⚠️ korrigiert am 2026-07-08. **Quellen**: NotebookLM „EU Digital Governance: Data and AI Act Frameworks" (Quellen-IDs 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26). **Fakten-Zusammenfassung**: NotebookLM bestätigt KI-System (Art.3 Nr.1) + AI Office (Beschluss 24.1.2024, C/2024/1459, EAIB Art.65). KORRIGIERT: Anbieter=Art.3 Nr.3 (nicht Nr.16, das ist Rückruf); Anhang I=Art.43 Abs.3 (nicht Abs.5); Restrisiko=Art.9 Abs.5 (nicht Abs.4); Eingriffe=Art.14 Abs.4 lit.d+e (nicht lit.a-c); GPAI-Code Vermutung bis harmonisierter Standard (nicht starr 2.8.2027). ## Verwandte Themen - [ki mit hohem risiko](/glossar/ki-mit-hohem-risiko/) - [konformitaetsbewertung](/glossar/konformitaetsbewertung/) - [risikomanagementsystem](/glossar/risikomanagementsystem/) - [eu ai office](/glossar/eu-ai-office/) ## Rechtsquellen - [Verordnung (EU) 2024/1689 (AI Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU AI Act. - [EU AI Office](https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai) - Europäische Kommission; Zentrale EU-Behörde für AI-Act-Durchsetzung und GPAI-Aufsicht. - [Verordnung (EU) 2023/2854 (Data Act) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2023/2854/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext des EU Data Act. - [Datenschutz-Grundverordnung (DSGVO) — EUR-Lex](https://eur-lex.europa.eu/eli/reg/2016/679/oj) - Amtsblatt der Europäischen Union; Verbindlicher Primärtext der DSGVO. - [AI Act — konsolidierter Lesetext (ai-act-law.eu)](https://ai-act-law.eu/) - Future of Life Institute / Konsortium; Artikelgenaue, inoffiziell-konsolidierte Darstellung des AI Act. - [European Data Protection Supervisor (EDPS)](https://www.edps.europa.eu/) - EDPS; EU-Datenschutzaufsicht; Stellungnahmen zum AI Act. - [European Data Protection Board (EDPB)](https://www.edpb.europa.eu/) - EDPB; EU-Datenschutzgremium mit KI-Leitlinien. - [EU AI Pact](https://digital-strategy.ec.europa.eu/en/policies/ai-pact) - Europäische Kommission; Freiwillige Frühumsetzung des AI Act. - [Council of Europe Framework Convention on AI](https://www.coe.int/en/web/artificial-intelligence/framework-convention) - Council of Europe; Erstes völkerrechtliches Abkommen zu KI. ## FAQ ### Was bedeutet „menschliche Aufsicht" im AI Act? Nach Art. 14 muss hochrisiko-KI so beschaffen sein, dass natürliche Personen sie wirksam überwachen können — mit Verständnis von Funktion, Grenzen und Ergebnissen sowie der Möglichkeit, zu unterbrechen, abzuschalten oder zu korrigieren. ### Wer ist für die Aufsicht verantwortlich? Der Anbieter stattet das System entsprechend aus (Art. 14); der Betreiber setzt es praktisch um (Art. 26 Abs. 2): Zuweisung geeigneter, geschulter Aufsichtspersonen mit Befugnissen und Risiko-Information. ### Was ist Automation Bias? Die Neigung, automatisierten Ausgaben blind zu vertrauen. Art. 14 Abs. 4 will dem vorbeugen, indem Aufsichtspersonen Funktion und Grenzen des Systems verstehen und Ergebnisse kritisch interpretieren können. ## Strukturierte Daten ```json { "@context": "https://schema.org", "@graph": [ { "@type": "WebPage", "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#webpage", "url": "https://dataact-compliance.de/glossar/menschliche-aufsicht/", "name": "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Die menschliche Aufsicht nach Art. 14 AI Act verlangt, dass hochriskante KI so beschaffen ist, dass sie von natürlichen Personen während der Nutzung wirksam überwacht werden kann — mit klaren Funktionen und Eingriffsmöglichkeiten.", "isPartOf": { "@id": "https://dataact-compliance.de/#website" }, "breadcrumb": { "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#breadcrumb" }, "inLanguage": "de-DE", "about": { "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#article" } }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#article", "headline": "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)", "name": "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)", "description": "Die menschliche Aufsicht nach Art. 14 AI Act verlangt, dass hochriskante KI so beschaffen ist, dass sie von natürlichen Personen während der Nutzung wirksam überwacht werden kann — mit klaren Funktionen und Eingriffsmöglichkeiten.", "author": { "@id": "https://dataact-compliance.de/autoren/steve-baka/#person" }, "publisher": { "@id": "https://dataact-compliance.de/#organization" }, "mainEntityOfPage": { "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#webpage" }, "datePublished": "2026-07-07", "dateModified": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13", "license": "https://creativecommons.org/licenses/by/4.0/", "copyrightYear": 2026, "copyrightHolder": { "@id": "https://dataact-compliance.de/#stevebaka-organization" }, "inLanguage": "de-DE", "citation": [ { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/regulatory-platform-ai", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2023/2854/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2016/679/oj", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://ai-act-law.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edps.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.edpb.europa.eu/", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://digital-strategy.ec.europa.eu/en/policies/ai-pact", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://www.coe.int/en/web/artificial-intelligence/framework-convention", "inLanguage": "de-DE" }, { "@type": "CreativeWork", "url": "https://eur-lex.europa.eu/eli/reg/2024/1689/art_14/2024-06-13", "inLanguage": "de-DE" } ], "mentions": [ { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/#article", "url": "https://dataact-compliance.de/glossar/ki-mit-hohem-risiko/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/konformitaetsbewertung/#article", "url": "https://dataact-compliance.de/glossar/konformitaetsbewertung/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/risikomanagementsystem/#article", "url": "https://dataact-compliance.de/glossar/risikomanagementsystem/" }, { "@type": "DefinedTerm", "@id": "https://dataact-compliance.de/glossar/eu-ai-office/#article", "url": "https://dataact-compliance.de/glossar/eu-ai-office/" } ], "termCode": "menschliche-aufsicht" }, { "@type": "BreadcrumbList", "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#breadcrumb", "itemListElement": [ { "@type": "ListItem", "position": 1, "name": "Startseite", "item": "https://dataact-compliance.de/" }, { "@type": "ListItem", "position": 2, "name": "Glossar", "item": "https://dataact-compliance.de/glossar/" }, { "@type": "ListItem", "position": 3, "name": "Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)", "item": "https://dataact-compliance.de/glossar/menschliche-aufsicht/" } ] }, { "@type": "FAQPage", "@id": "https://dataact-compliance.de/glossar/menschliche-aufsicht/#faq", "mainEntity": [ { "@type": "Question", "name": "Was bedeutet „menschliche Aufsicht\" im AI Act?", "acceptedAnswer": { "@type": "Answer", "text": "Nach Art. 14 muss hochrisiko-KI so beschaffen sein, dass natürliche Personen sie wirksam überwachen können — mit Verständnis von Funktion, Grenzen und Ergebnissen sowie der Möglichkeit, zu unterbrechen, abzuschalten oder zu korrigieren." } }, { "@type": "Question", "name": "Wer ist für die Aufsicht verantwortlich?", "acceptedAnswer": { "@type": "Answer", "text": "Der Anbieter stattet das System entsprechend aus (Art. 14); der Betreiber setzt es praktisch um (Art. 26 Abs. 2): Zuweisung geeigneter, geschulter Aufsichtspersonen mit Befugnissen und Risiko-Information." } }, { "@type": "Question", "name": "Was ist Automation Bias?", "acceptedAnswer": { "@type": "Answer", "text": "Die Neigung, automatisierten Ausgaben blind zu vertrauen. Art. 14 Abs. 4 will dem vorbeugen, indem Aufsichtspersonen Funktion und Grenzen des Systems verstehen und Ergebnisse kritisch interpretieren können." } } ] } ] } ```