"Welche menschliche Aufsicht existiert über Ihren AI-Ausgängen?" - die Aufsichtsfrage

Zuletzt aktualisiert: 28. Juli 2026 · Vom Deal Rescue-Team · Keine Rechtsberatung – ein Entwurfsleitfaden für die Frage, wie er in Anbieterfragebögen erscheint.

Jeder AI-Abschnitt fragt dies, und die verlockende Antwort ist reine Adjektive: "Human-in-the-Loop", "Humans always review outputs". Käufer kaufen keine Adjektive. Sie wollen den Mechanismus - und sie wollen, dass Sie nicht überfordern, was dieser Mechanismus legal tut. Hier schlägt eine wahre Beschreibung einer bescheidenen Kontrolle jedes Mal einen großen Anspruch, weil Aufsichtsansprüche die einfachsten sind, die ein Käufer in einer Demo testen kann.

Warum Käufer das fragen

Das Risikoteam des Käufers möchte wissen, ob Ihre AI-Ausgaben lautlos Schaden anrichten können: ob etwas automatisch ausgeführt wird, wer Fehler auffängt und wie eine schlechte Ausgabe korrigiert wird. Die Instrumente, die Käufer jetzt verwenden - die AI-CAIQ, die SIG 2026 AI-Domäne, die EU-Modellvertragsklauseln für AI - alle Sondenanbieter kontrollieren die AI-Ausgabe, und Ihre Antwort liefert die eigene Risikobewertung des Käufers. Es ist auch ein Kompetenztest: Anbieter, die das EU AI Act verstehen, beschreiben die Aufsicht genau; Anbieter, die es nicht als Nachweis der Einhaltung herumwinken. Diese Unterscheidung ist es, worum es in diesem Leitfaden geht.

Was Aufsicht tut - und nicht tut - unter dem AI Act

Eine Sache, um direkt vor dem Entwurf zu bekommen. Unter Regulation (EU) 2024/1689 gelten zwingende Anforderungen an die menschliche Aufsicht (Article 14) für hohes Risiko Systeme — d. h. jedes System, das von entweder Route von Article 6: die Annex I regulierte Produktroute von Article 6(1), deren Verpflichtungen von 2. August 2028 und die Annex III Anwendungsfälle von Article 6(2) von 2. Dezember 2027 gelten. Die meisten B2B SaaS sind begrenzt oder minimales Risiko, und die Verpflichtungen eines Systems mit begrenztem Risiko sind die Article 50 Transparenzpflichten (aus 2. August 2026), Stop. Zwei Konsequenzen:

• Menschliche Aufsicht nicht Machen Sie ein System begrenztes Risiko. Die Klassifizierung folgt dem Anwendungsfall, nicht Ihren Kontrollen.
• Menschliche Aufsicht nicht befreien Sie von Article 50. Wenn Ihr Feature eine Transparenzpflicht auslöst, wird es von einem Rezensenten in der Schleife nicht entfernt. (Der einzige enge Ort, an dem menschliche Überprüfung eine Article 50-Pflicht ändert, ist die Textausgliederung auf der Deployment-Seite in 50(4) - für veröffentlichten Text, der einer menschlichen Überprüfung mit redaktioneller Verantwortung unterzogen wurde - was der Kontext Ihres Kunden ist, kein allgemeiner Anbieterschild.)

Die ehrliche Antwortstruktur

Beschreiben Sie den wirklichen Mechanismus in drei Teilen - wo eine Überprüfung stattfindet, was eine Eskalation auslöst und wie sich ein Mensch überschreibt - und positionieren Sie ihn dann richtig relativ zum Akt.

Dieser Schlusssatz macht das schwere Heben: Es zeigt dem Käufer genau, wo Sie im Gesetz sitzen, beansprucht die Aufsicht als echte Kontrolle und schreibt der Verordnung nichts zu, was sie nicht von Ihnen verlangt.

Der Fehler, der Deals kostet

Mit Aufsicht als Talisman. Die fehlgeschlagene Antwort lautet: "Alle Ausgaben werden vom Menschen überprüft, so dass das System risikoarm ist und die Anforderungen des AI Act erfüllt werden." Drei Mängel, jeder auffindbar. Erstens bewegt sich die Klassifizierung nicht: Ein Rezensent verwandelt ein Hochrisikosystem - auf beiden Wegen von Article 6 - nicht in ein Risiko mit begrenztem Risiko, noch verzichtet er auf Article 50-Pflichten. Zweitens, wenn Sie schreiben, dass Ihre Maßnahmen die Aufsichtsanforderungen des Gesetzes "einhalten" oder "ausrichten", bedeutet dies, dass Ihr System ein hohes Risiko darstellt - die eine Klassifizierung, die Sie vermeiden wollten - und lädt einen Rechtsüberprüfer ein, diese Implikationen zu testen. Drittens bricht die übertriebene Mechanik ("obligatorische Überprüfung", die eigentlich eine optionale Schaltfläche ist) in dem Moment zusammen, in dem der Käufer eine Testversion durchführt. Beschreiben Sie, was existiert; wenn es dünner ist, als Sie möchten, geben Sie die Lücke mit einem Plan an - die Formel ist in Verfahrensführung, Schritt 4.

Mini-FAQ

Macht die menschliche Aufsicht unser System zu einem begrenzten Risiko unter dem EU AI Act?

Nein. Die Klassifizierung hängt davon ab, was das System ist und wofür es verwendet wird - Article 6 hat zwei hochriskante Routen, Annex I regulierte Produkte (6(1)) und die Annex III Anwendungsfälle (6(2)) - nicht auf den Kontrollen um es herum. Aufsicht stuft weder ein Hochrisikosystem herab noch entfernt Article 50 Aufgaben von einem Risiko mit begrenztem Risiko. Überprüfen Sie die Use Case Route in Der Annex III Guide, und schließen Sie die Annex I Route separat aus.

Sollten wir Article 14 in unserer Aufsichtsantwort zitieren?

Nur wenn Sie tatsächlich ein hohes Risiko haben. Für ein System mit begrenztem Risiko impliziert das Aufrufen von Article 14 eine Klassifizierung, die Sie nicht möchten. Rahmen Sie Ihre Maßnahmen als freiwillige gute Praxis und lassen Sie Article 50 Ihre eigentlichen Verpflichtungen übernehmen.

Was ist, wenn unsere Aufsicht dünner ist, als der Käufer erwartet?

Sagen Sie dies mit der Lückenformel: aktueller Zustand + kompensierende Kontrolle + in Arbeit + ein Zieldatum, das Ihre Führung tatsächlich genehmigt hat. Beschreiben Sie die optionale Überprüfung niemals als obligatorisch.

Related: Überprüfen Sie, welche Article 50-Aufgaben Ihre Funktion tatsächlich auslöst kostenloser Article 50 CheckerSiehe die vollständige Rollenkarte in Wer schuldet was unter Article 50Wenn der Fragebogen gerade gelandet ist, beginnen Sie mit Das erste 24-Stunden-SpielbuchVorige Frage in der Reihe: Die Frage des Anbieters.