Human-in-the-Loop bei KI-Agenten: was das heißt

Human-in-the-Loop

Human-in-the-Loop (HITL) in der KI ist eine Arbeitsweise mit KI-Agenten, bei der der Agent eine Aufgabe selbstständig ausführt und an den Punkten, die für das Ergebnis wichtig sind, ein Mensch entscheidet: Er nimmt zum Beispiel die Arbeit ab oder lehnt sie ab, legt fest, was der Agent darf, und beantwortet seine Fragen.

Was Human-in-the-Loop bei KI-Agenten bedeutet

Ein Coding-Agent kann viele Schritte einer Aufgabe selbst ausführen: Er liest Dateien, ändert sie und führt Befehle aus. Human-in-the-Loop heißt nicht, dass ein Mensch jeden seiner Schritte bestätigt. Es heißt, dass von vornherein feststeht, an welchen Stellen die Entscheidung bei einem Menschen liegt, zum Beispiel:

Abnahme: Ein Mensch prüft das Ergebnis und nimmt es ab oder schickt es zur Nacharbeit zurück.
Umfang: Ein Mensch legt fest, was der Agent selbst tun darf und wofür er erst fragen muss.
Fragen: Lässt die Aufgabe etwas offen, fragt der Agent, statt zu raten.

Es geht darum, dass über das, was für das Ergebnis wichtig ist, nicht das Modell allein entscheidet. Ein Teil dieser Entscheidungen fällt in der Konsole selbst: In den Einstellungen von Claude Code und Codex legen Sie fest, wann der Agent Sie um Erlaubnis fragen muss, bevor er eine Datei ändert oder einen Befehl ausführt.

Human-in-the-Loop in featureloom

In featureloom übernimmt der Agent einen Plan vom Board selbst, liefert ihn und meldet ihn. Eine Person entscheidet über die Abnahme, über die Rechte und über die Antworten auf die Fragen des Agenten.

Die Abnahme liegt bei einer Person. Einen gelieferten Plan nehmen Sie in der App ab, im Abschnitt „Abnahme“: Sie klicken auf „Abnehmen“ oder „Nicht abnehmen“ und können eine Begründung eintragen. Eine Entscheidung aus einer Konsole oder von einer Automation lehnt der Server ab. Die App hält fest, wer wann entschieden hat, und auch die Begründung, wenn Sie eine eintragen. Die Entscheidung steht außerdem im Plandokument. Nach einer Ablehnung liest der Agent die Entscheidung, nimmt die Arbeit am Plan wieder auf und meldet die Nacharbeit.

Rechte legen fest, was eine Konsole darf. Eine Konsole, also ein mit featureloom verbundener Agent, arbeitet mit den Rechten der Person, die sie verbunden hat: Sie liest immer und liefert, schreibt oder löscht Pläne nur dann, wenn diese Person das Recht dazu hat. Rechte vergibt ein Administrator auf dem Bildschirm „Personen“, und eine Änderung gilt ab der nächsten Anfrage der Konsole. Spalte und Reihenfolge der Pläne legen Personen fest.

Der Agent fragt, wenn ihm etwas fehlt. Der Prompt Umsetzer, den jede neue Organisation von Anfang an hat, weist den Agenten an, nicht zu raten: Lässt der Plan etwas offen, stellt der Agent eine Frage im Plan. Auf der Karte des Plans steht dann „Frage“, und Sie antworten auf dem Bildschirm des Plans mit der Schaltfläche „Antworten“. Frage und Antwort bleiben im Plandokument.

Die Rechte in featureloom betreffen das, was eine Konsole mit Plänen und Prompts tun darf. Was der Agent auf Ihrem Computer tun darf, legen Sie in den Einstellungen der Konsole selbst fest, denn featureloom verbindet sich nicht mit Ihrem Code.

Fragen

Kann ein Agent seine eigene Arbeit abnehmen?

Nein. Die Abnahmeentscheidung trifft nur eine Person in der App, und eine Entscheidung aus einer Konsole oder von einer Automation lehnt der Server ab. Der Agent kann die Entscheidung lesen und nach einer Ablehnung nachbessern.

Muss ich jeden Schritt des Agenten bestätigen?

In featureloom nicht. Der Agent übernimmt einen Plan selbst, liefert ihn und meldet ihn, im Rahmen der Rechte seiner Person. Sie nehmen die Arbeit ab und beantworten Fragen. Wann der Agent Sie auf Ihrem Computer um Erlaubnis fragt, legen Sie in den Einstellungen der Konsole selbst fest.

Was passiert, wenn ich eine Frage des Agenten nicht beantworte?

Eine unbeantwortete Frage blockiert nichts: Der Plan bleibt in seiner Spalte, und der Agent kann weiterarbeiten. Die Antwort liest der Agent im Plandokument, wenn er den Plan das nächste Mal abruft.