Zwei Kontrollmodelle, zwei Verantwortungsebenen
Der EU AI Act verlangt bei Hochrisikoanwendungen eine nachweisbare menschliche Aufsicht. Dahinter stehen zwei unterschiedliche Prinzipien, die oft synonym verwendet werden, aber verschiedene Aufgaben erfüllen.
Human in the Loop beschreibt die operative Ebene. Ein Mensch validiert kontinuierlich Daten und Ausgaben eines KI-Systems, bevor sie weiterverwendet werden. Diese Rolle liegt meist bei Fachabteilungen oder Redaktionsteams, die einzelne KI-Ergebnisse prüfen.
Human in Command geht weiter. Dieses Prinzip sichert dem Menschen die strategische Autorität und ein Vetorecht über jede automatisierte Aktion zu, unabhängig von der operativen Prüfung im Einzelfall. Es beantwortet die Frage, wer im Unternehmen letztlich entscheidet, ob ein KI-System überhaupt eingesetzt wird und wann es gestoppt werden muss.
Für Unternehmen mit Hochrisiko-Anwendungen ist relevant: Die umfassenden Detailpflichten für Hochrisiko-KI-Systeme greifen gestaffelt bis 2027. Die allgemeine Transparenzpflicht nach Artikel 50 gilt jedoch bereits seit August 2026. Wer die Kontrollebenen zwischen operativer Prüfung und strategischer Verantwortung frühzeitig sauber definiert, schafft die nötigen Prozesse, um sowohl die aktuellen Transparenz- als auch die kommenden Hochrisiko-Auflagen rechtssicher nachzuweisen.
Kennzeichnungspflicht: Wann sie entfällt, wann nicht
Für die Unternehmenspraxis besonders relevant ist ein Detail mit direkter operativer Wirkung: Die gesetzliche Offenlegungspflicht für KI-generierte Texte (Artikel 50 Abs. 4), die zur Information der Öffentlichkeit bestimmt sind, entfällt, wenn eine natürliche Person den Text redaktionell prüft und die juristische Verantwortung übernimmt. Wer beispielsweise redaktionelle Beiträge oder Presseberichte durch eine Fachkraft prüfen und freigeben lässt, muss diesen Text nicht zwingend als KI-Inhalt kennzeichnen.
Bei Bild-, Audio- und Videoinhalten (z. B. Deepfakes oder synthetischen Medien) greift diese redaktionelle Ausnahme hingegen nicht: Synthetische Erklärvideos oder KI-Werbebilder müssen grundsätzlich als KI-generiert erkennbar sein oder technisch Wasserzeichen tragen (Art. 50 Abs. 2/4), selbst wenn ein Mitarbeiter das Ergebnis freigegeben hat.
Diese Unterscheidung wird in der Praxis häufig übersehen. Marketing- und Kommunikationsabteilungen gehen oft davon aus, dass ein interner Freigabeprozess für alle Formate gleichermaßen von der Kennzeichnungspflicht befreit. Genau hier entstehen Dokumentationslücken, die die Bundesnetzagentur seit August 2026 aktiv prüfen kann.
Was Unternehmen jetzt konkret tun sollten
Drei Schritte helfen, die beiden Prinzipien greifbar zu machen. Erstens: Klar benennen, wer im Unternehmen Human in Command ist, also wer über den Einsatz eines KI-Systems strategisch entscheidet und ihn im Zweifel stoppen kann. Diese Rolle gehört auf Führungsebene, nicht in die Fachabteilung.
Zweitens: Für jede operative Anwendung dokumentieren, wer als Human in the Loop einzelne Ausgaben prüft, und diesen Prozess nachvollziehbar festhalten.
Drittens: Die Kennzeichnungsregeln nach Content-Art differenzieren. Text-, Bild-, Audio- und Videoinhalte brauchen jeweils eigene Freigabe- und Kennzeichnungsprozesse, weil die gesetzlichen Ausnahmen unterschiedlich greifen.
Fazit
Human in the Loop und Human in Command sind keine austauschbaren Schlagworte, sondern zwei Ebenen, die den EU AI Act in der Praxis handhabbar machen. Wer sie sauber trennt und dokumentiert, ist auf Kontrollen der Bundesnetzagentur vorbereitet und vermeidet unnötige Kennzeichnungsfehler. Lecturio unterstützt Unternehmen dabei, diese Governance-Anforderungen durch praxisnahe Schulungen zu Verantwortungsstrukturen und EU-AI-Act-Compliance im Team zu verankern. Mehr Infos finden Sie hier.
