Was bedeutet Human-in-the-Loop?
Ein Mensch ist an einem definierten Kontrollpunkt Teil des KI-Workflows. Er bestätigt, korrigiert oder verwirft ein Ergebnis, beantwortet eine Rückfrage oder gibt eine risikoreiche Aktion frei. Der Kontrollpunkt ist technisch und organisatorisch festgelegt – nicht nur als unverbindlicher Hinweis.
Vier Formen menschlicher Kontrolle
Freigabe
Ein Ergebnis wird erst nach Bestätigung weitergegeben oder ausgeführt.
Korrektur
Der Mensch ändert einzelne Felder, bevor der Workflow fortgesetzt wird.
Rückfrage
Der Agent erkennt fehlende Angaben und fordert gezielt eine Entscheidung an.
Eskalation
Risiko, Unsicherheit oder technischer Fehler führt zu einem klaren manuellen Bearbeitungsweg.
Wann muss ein Mensch prüfen?
Die Entscheidung hängt nicht allein von einer Modellbewertung ab. Wichtige Kriterien sind finanzielle Wirkung, rechtliche Bindung, Datenschutz, Rücknehmbarkeit, Sicherheitsrelevanz und die Möglichkeit, das Ergebnis objektiv zu prüfen. Eine externe Zusage oder Bestellung benötigt in der Regel mehr Kontrolle als eine interne Zusammenfassung.
| Risikoklasse | Beispiel | Geeignete Kontrolle |
|---|---|---|
| Niedrig | Interne Verschlagwortung eines Dokuments. | Stichproben und Rücknahme möglich. |
| Mittel | Zuordnung einer Rechnung zu einem Vorgang. | Regelprüfung, Unsicherheitsschwelle und manuelle Ausnahmebearbeitung. |
| Hoch | Verbindliche Bestellung oder externe Preiszusage. | Explizite Freigabe durch eine verantwortliche Person. |
| Unzulässig/ungeklärt | Datenverarbeitung ohne Rechtsgrundlage oder erforderliche Berechtigung. | Keine Ausführung; Prozess zuerst klären. |
Risikobasierte Prüfung statt Prüfpflicht für alles
Wenn jeder Standardfall vollständig manuell geprüft wird, bleibt wenig Automatisierungsnutzen. Ein reifer Workflow filtert deshalb nach klaren Kriterien: fehlende Pflichtfelder, geringe Texterkennung, widersprüchliche Werte, ungewöhnliche Beträge, unbekannte Absender oder technische Abweichungen. Nur relevante Fälle werden vorgelegt.
Was muss protokolliert werden?
- Welcher Vorgang und welche Version wurden bearbeitet?
- Welche Eingabedaten und Regeln waren maßgeblich?
- Welches Modell oder welcher Dienst wurde eingesetzt?
- Welche Validierungen wurden bestanden oder verletzt?
- Wer hat freigegeben, korrigiert oder abgebrochen?
- Welche Aktion wurde danach tatsächlich ausgeführt?
Grenzen des Ansatzes
Human-in-the-Loop kann schlechte Prozessdefinitionen nicht heilen. Wenn Menschen ständig unverständliche KI-Ausgaben korrigieren, ist der Workflow falsch gestaltet. Kontrollpunkte müssen verständlich, schnell bedienbar und auf echte Risiken ausgerichtet sein. Außerdem braucht es Vertretungsregeln und einen manuellen Fallback, falls das System ausfällt.
Beispiele aus den Projekten
PictureFix verwendet Qualitätskontrollen und lässt die endgültige Bewertung nicht ausschließlich durch den letzten automatischen Prüfschritt treffen. Der Prozess-Scanner auf pauderer.de gibt eine unverbindliche Ersteinschätzung statt einer automatischen Geschäftsentscheidung. Die AITI Lern-App verbindet KI-Aufbereitung mit menschlicher Validierung der Lerninhalte.
Ist Human-in-the-Loop immer manuell?
Der Kontrollpunkt wird von einem Menschen entschieden, kann aber durch Regeln vorbereitet werden. Beispielsweise werden nur Fälle mit Abweichung angezeigt.
Kann die Prüfung später reduziert werden?
Ja, wenn ausreichend Messdaten zeigen, dass klar definierte Standardfälle zuverlässig erkannt werden. Änderungen müssen erneut getestet werden.
Wer trägt die Verantwortung?
Die fachliche und organisatorische Verantwortung bleibt beim Betreiber des Prozesses. Ein KI-Modell ist kein verantwortlicher Entscheidungsträger.