Human-in-the-Loop

Human-in-the-Loop, abgekürzt HITL, bedeutet, dass ein Mensch im Ablauf selbst mitwirkt: Er entscheidet mit oder gibt Aktionen frei, und ohne ihn läuft das System nicht weiter. Eine Übersichtsarbeit fasst es so, dass die menschliche Beteiligung für das Funktionieren notwendig ist, etwa durch aktive Mitwirkung an Entscheidungen oder durch das Autorisieren von Aktionen. Lazaros et al.

Die Freigabe sitzt im Weg, nicht daneben

Bei Agenten ist die typische Form die Bestätigung vor einem Werkzeugaufruf. Ein offener Standard für Werkzeuge empfiehlt ausdrücklich, dass ein Mensch Aufrufe ablehnen können soll, dass Anwendungen sichtbar machen, welche Werkzeuge bereitstehen, und dass sie vor heiklen Vorgängen nachfragen. Model Context Protocol: Tools

Der Begriff wird außerdem für das Training verwendet, wenn Menschen Daten kennzeichnen oder Ausgaben bewerten und das System daraus lernt. Gemeint ist in beiden Fällen dasselbe Grundmuster: Der Mensch ist Teil des Kreislaufs, nicht Zuschauer.

So kannst du dir das vorstellen

Das Muster entspricht der zweiten Unterschrift auf einer Überweisung. Ohne sie passiert nichts, auch wenn alles andere vorbereitet ist. Der Preis ist Wartezeit, der Gewinn ist, dass ein Fehler vor der Ausführung auffällt. Das Bild erklärt die Stellung im Ablauf, es sagt nichts darüber, wie genau hingesehen wird.

Was es in der Praxis bedeutet

Freigaben wirken nur, solange sie selten und verständlich sind. Wer bei jedem Schritt bestätigen muss, klickt nach einer Stunde blind weiter, und die Kontrolle ist nur noch auf dem Papier vorhanden. Deshalb: Freigaben dort setzen, wo etwas Unumkehrbares passiert, also beim Schreiben, Löschen, Versenden und Bezahlen, und nicht beim Lesen.

Genauso wichtig ist, was in der Freigabe steht. Eine Rückfrage, die nur den Werkzeugnamen zeigt, ist wertlos. Sichtbar sein müssen die Argumente, also welche Datei, welcher Empfänger, welcher Betrag.

Wo es verwechselt wird

Beim Human-on-the-Loop schaut ein Mensch zu und greift bei Bedarf ein, ohne jede Aktion freizugeben. Und Freigabe ist nicht dasselbe wie Verantwortung: Wer schnell bestätigt, bleibt zuständig.

Verwandte Begriffe

Human-on-the-Loop, Autonomous Agent, Action Space, Agent Loop, Guardrails, RLHF.