AI-Act-Aufsicht

Art. 26: Was Betreiber von Hochrisiko-KI wirklich schulden

Art. 26 AI Act verpflichtet Betreiber unter anderem zu bestimmungsgemässer Nutzung, menschlicher Aufsicht durch kompetente Personen und Mitwirkung an der Aufzeichnung. Für agentische Systeme heisst das: Die Befugnis-Grenzen des Agenten sind Teil der bestimmungsgemässen Nutzung — und müssen belegbar sein.

Art. 12/19: Aufzeichnung, die der Prüfung standhält

Hochrisiko-Systeme müssen Ereignisse automatisch aufzeichnen (Art. 12); Betreiber müssen Logs aufbewahren (Art. 19). Die offene Frage ist nie das Ob, sondern die Qualität: Sind die Aufzeichnungen vollständig, unverändert und zuordenbar?

Sind Einkaufs- und Verwaltungs-Agenten Hochrisiko-KI?

Die ehrliche Antwort: Es kommt auf den Einsatz an — die Anhang-III-Bereiche (Beschäftigung, essenzielle Dienste, Strafverfolgung u. a.) entscheiden, nicht die Technik. Doch die kluge Strategie hängt nicht an der Einstufung: Wer Aufsichts-Mechanik hat, ist in jedem Szenario richtig aufgestellt.

AI-Act-Readiness für KMU: der pragmatische Pfad

KMU brauchen keine Compliance-Abteilung, um agentenfähig und verordnungsfest zu sein — sie brauchen drei Entscheidungen: Welche Aktionen dürfen Agenten (Taxonomie wählen), ab wann entscheidet ein Mensch (Schwellen setzen), und wo liegt der Beweis (Export-Routine etablieren).

Aufsicht ist nicht Überwachung: die Governance-Trennung

Zwei Begriffe, zwei Systeme: Überwachung beobachtet, was Agenten tun (Discovery, Telemetrie, Anomalien — die Okta/AgentryGov-Welt); Aufsicht bestimmt, was sie dürfen, und greift ein (Mandate, Eskalation, Widerruf). Verwechslung kostet entweder Kontrolle oder Freiheit.