Kurze Antwort
Human-in-the-Loop heißt: Der KI-Agent erledigt die Arbeit, eine benannte Person gibt festgelegte Schritte frei, bevor sie wirksam werden. Wir legen fest, wer was freigibt, bauen Prüf-Queues und Eskalationswege und betreiben sie so, dass menschliche Aufsicht schnell und nachweisbar bleibt.
Inhalt
Das Problem mit "da schaut noch jemand drüber"
In fast jedem KI-Projekt steht irgendwo der Satz, ein Mensch prüfe die Ergebnisse. Selten steht dabei, welche Ergebnisse, nach welchen Kriterien, bis wann und wer vertritt, wenn die zuständige Person im Urlaub ist. Im Alltag führt das zu zwei Extremen: Entweder landet jede Aktion des Agenten in einem Sammelpostfach und die erhoffte Entlastung bleibt aus, oder die Prüfenden klicken irgendwann nur noch auf "Freigeben". Beides ist für Ihr Unternehmen riskant, und beides fällt im Pilot meist nicht auf.
Wir verstehen Human-in-the-Loop deshalb als Betriebsmodell. Es regelt pro Workflow, was der Agent allein entscheidet, wo ein Mensch zustimmen muss und was passiert, wenn ein Fall unklar ist.
Die Freigabematrix: vier Stufen statt Bauchgefühl
Für jeden KI-Agenten erstellen wir mit Ihren Prozessverantwortlichen eine Freigabematrix. Jede mögliche Aktion wird einer Stufe zugeordnet:
| Stufe | Bedeutung | Typische Beispiele |
|---|---|---|
| Selbstständig | Agent handelt und protokolliert | Ticket klassifizieren, Antwortentwurf, Daten anreichern |
| Information | Agent handelt, Verantwortliche sehen eine Zusammenfassung und können zurücknehmen | Terminbestätigung, Statusmeldung |
| Freigabe vorab | Agent bereitet vor, eine Rolle bestätigt | Gutschrift über Schwellenwert, Vertragsänderung, Stammdatenänderung |
| Nur Mensch | Agent sammelt Informationen, entscheidet nie | Entscheidungen mit Rechtswirkung für Personen |
Die Matrix benennt Rollen mit Vertretung, keine Einzelpersonen. Sie enthält Prüfkriterien und Schwellenwerte, und diese stehen in der Konfiguration des Agenten, nicht in einer Präsentation. So wird aus dem Vier-Augen-Prinzip eine technisch durchgesetzte Regel.
Prüf-Queues, die tatsächlich abgearbeitet werden
Eine Prüfansicht muss die Entscheidung leicht machen. Der Agent zeigt seinen Vorschlag, die genutzten Quellen, seine Einschätzung der eigenen Sicherheit und den konkreten Grund, warum ein Mensch entscheiden soll. Prüfende können freigeben, ändern, mit Begründung ablehnen oder den Fall mit einer Anweisung zurückgeben. Jede dieser Entscheidungen landet im Audit-Log, zusammen mit dem ursprünglichen Vorschlag.
Die Queues liegen dort, wo Ihre Teams ohnehin arbeiten: als Karte in Microsoft Teams, als Ticket in ServiceNow oder Jira, als Aufgabe im CRM oder in einer eigenen Prüfansicht der Plattform. Jede Queue hat eine Bearbeitungsfrist, nach deren Ablauf der Agent erinnert und dann eskaliert.
Personenbezogene Daten, die für die Prüfung nicht nötig sind, blenden wir aus. Textwash Pro anonymisiert Texte lokal, sodass etwa bei der Prüfung von Tonalität oder Vollständigkeit keine vollständigen Kundendaten sichtbar sind. Das unterstützt Datenminimierung im Sinne der DSGVO und kann zugleich Daten schützen, bevor sie ein externes Sprachmodell erreichen.
Eskalation ohne Sackgassen
Ein verantwortungsvoller Agent weiß, wann er aufhört. Wir definieren Auslöser: geringe Sicherheit, widersprüchliche Quellen, Anfragen außerhalb des Mandats, auffällige Kundenkommunikation oder eine greifende Richtlinie. Dann übergibt der Agent den Fall mit einer kurzen Zusammenfassung. Eine zweite Eskalationsstufe greift, wenn die erste nicht rechtzeitig reagiert, und für jeden Workflow gibt es eine letztverantwortliche Rolle.
Mitbestimmung und Nachweis
In Deutschland betrifft eine Freigabelogik oft auch den Betriebsrat, etwa wenn Prüfzeiten oder Entscheidungen einzelnen Beschäftigten zugeordnet werden. Wir dokumentieren deshalb transparent, welche Daten über Prüfende erfasst werden und wofür. Bei regulierten Prozessen ordnet unsere Arbeit zu KI-Governance und Compliance die Matrix Ihrem internen Kontrollsystem zu und beschreibt die menschliche Aufsicht so, dass Revision und Prüfer sie nachvollziehen können.
Umsetzung und laufender Betrieb
- Workshop: Wir gehen den Zielprozess mit den Fachverantwortlichen durch und ordnen jede Aktion einer Stufe zu.
- Umsetzung: AI Code Engineers bauen Stufen, Schwellenwerte, Queues und Eskalationen und testen sie mit echten historischen Fällen.
- Befähigung: Prüfende lernen, worauf sie achten und wie sie Feedback geben, das den Agenten verbessert. Für breitere Schulungen bietet neooutput praxisnahe Trainings rund um KI-Agenten und agentische Werkzeuge.
- Betrieb: Im Betrieb von KI-Agenten überwachen wir Freigabequoten, Änderungsraten, Ablehnungsgründe und Liegezeiten. Wird eine Fallgruppe lange unverändert freigegeben, schlagen wir eine niedrigere Stufe vor; die Fachverantwortlichen entscheiden. Jede Änderung läuft über ein Change-Verfahren.
Grundlage ist die KI-Plattform für Unternehmen mit Rollen, SSO, Berechtigungen und Audit-Trail, damit jede Freigabe einer echten Identität zugeordnet ist.
Was sich für Ihre Teams ändert
Fachkräfte prüfen die Fälle, die echtes Urteilsvermögen brauchen, statt Routine abzunicken. Verantwortung wird sichtbar: Für jede Aktion lässt sich zeigen, wer sie auf welcher Grundlage freigegeben hat. Eskalationen erreichen jemanden, der handeln kann. Und weil die Regeln explizit sind, können Sie die Eigenständigkeit des Agenten schrittweise und belegbar erweitern.
Passend dazu: Audit-Trail für KI-Agenten und KI-Agenten in der Versicherung.
FAQ
Was bedeutet Human-in-the-Loop bei KI-Agenten?
Der KI-Agent übernimmt vorbereitende und wiederkehrende Arbeit, benannte Personen geben festgelegte Schritte frei, bevor sie wirksam werden. Welche Schritte das sind, wer zuständig ist und in welcher Frist entschieden wird, ist dokumentiert und technisch durchgesetzt.
Bremst die menschliche Prüfung den Prozess nicht aus?
Nur wenn alles geprüft wird. Mit einer gestuften Freigabematrix bleiben Routineaktionen automatisch, und nur riskante oder unklare Fälle gehen an Menschen, mit Fristen und Erinnerungen.
Muss der Betriebsrat beteiligt werden?
Häufig ja, sobald Prüfaktivitäten einzelnen Beschäftigten zugeordnet und ausgewertet werden können. Wir liefern eine transparente Beschreibung der erfassten Daten als Grundlage für die Abstimmung.
Wer haftet, wenn der Agent einen Fehler macht?
Die Verantwortung bleibt bei Ihrem Unternehmen und den benannten Rollen. Das Audit-Log zeigt, was der Agent vorgeschlagen und was ein Mensch entschieden hat, sodass Zuständigkeiten nachvollziehbar sind.