Nicht jede KI-Entscheidung braucht dieselbe Aufsicht. Zwischen „der Mensch gibt alles frei“ und „die KI läuft selbstständig“ liegt ein Spektrum. Die Kunst ist, für jeden Schritt den richtigen Grad zu wählen.
Wenn KI Teile des Anforderungsprozesses übernimmt, stellt sich die Frage, wie eng der Mensch dabei eingebunden bleibt. Zwei Modelle beschreiben die Enden des Spektrums.
Human-in-the-loop: der Mensch entscheidet mit
Beim Human-in-the-loop-Ansatz ist ein Mensch in jede Entscheidung eingebunden und gibt sie aktiv frei. Die KI schlägt vor, der Mensch bestätigt. Dieser Ansatz kostet mehr Zeit, gibt aber die höchste Sicherheit. Er passt überall dort, wo ein Fehler teuer oder schwer rückgängig zu machen ist.
Human-on-the-loop: der Mensch überwacht
Beim Human-on-the-loop-Ansatz arbeitet die KI selbstständig, und der Mensch überwacht sie. Er greift nur ein, wenn etwas auffällt. Dieser Ansatz ist deutlich effizienter, verlangt aber, dass die Überwachung tatsächlich stattfindet und Auffälligkeiten erkannt werden. Er passt für Aufgaben mit überschaubarem Risiko und hohem Volumen.
Eine einfache Entscheidungshilfe
Welcher Weg passt, entscheidet selten die Technik, sondern das Risiko. Drei Fragen helfen bei der Einordnung, und man kann sie für jeden Schritt im Prozess durchgehen.
Erstens: Wie kritisch ist die Aufgabe? Je größer der Schaden eines Fehlers, desto eher gehört ein Mensch in die Entscheidung. Zweitens: Wie leicht lässt sich ein Fehler korrigieren? Was sich jederzeit rückgängig machen lässt, verträgt mehr Autonomie als das, was einmal freigegeben in die Umsetzung geht. Drittens: Wie selbstständig arbeitet das System ohnehin? Je autonomer die KI, desto mehr Gewicht bekommt die Überwachung.
Als grobe Linie: Hohe Kritikalität, schwer korrigierbar, hohe Autonomie – das spricht für Human-in-the-loop. Geringe Kritikalität, leicht korrigierbar, klar begrenzte Aufgabe – da genügt Human-on-the-loop. Die meisten Prozesse liegen dazwischen und lassen sich Schritt für Schritt einordnen.
Ein Beispiel aus dem Anforderungsprozess
Das Zusammenführen offensichtlich doppelter Anforderungen lässt sich gut on-the-loop überwachen: Die KI arbeitet selbstständig, ein Mensch kontrolliert stichprobenartig und greift bei Auffälligkeiten ein. Der mögliche Schaden ist gering, ein Fehler leicht zu beheben. Die finale Freigabe einer sicherheitskritischen Anforderung gehört dagegen in einen In-the-loop-Ablauf, in dem ein Mensch bewusst zustimmt. Hier wäre ein unbemerkter Fehler teuer und schwer rückgängig zu machen.
Aufwand und Nutzen abwägen
Hinter der Wahl steht immer eine Abwägung. Human-in-the-loop kauft Sicherheit mit Zeit. Human-on-the-loop kauft Geschwindigkeit mit einem Restrisiko, das durch gute Überwachung klein gehalten wird. Ein Team, das jede Kleinigkeit in-the-loop prüft, verschenkt den Effizienzgewinn der KI. Ein Team, das alles on-the-loop laufen lässt, riskiert, dass ein Fehler durchrutscht. Der richtige Punkt liegt selten am Rand, sondern in einer bewussten Mischung.
Die beiden Modelle schließen sich deshalb nicht aus. Sinnvoll ist meist, sie innerhalb desselben Prozesses zu kombinieren – je nach Risiko des einzelnen Schritts. Entscheidend ist, dass diese Wahl bewusst getroffen wird. Wer den Autonomiegrad nicht festlegt, überlässt ihn faktisch dem Werkzeug und damit dem Zufall.
Die Entscheidung festhalten
Der gewählte Kontrollgrad sollte keine stillschweigende Gewohnheit sein, sondern eine bewusste, festgehaltene Entscheidung. Für jeden Schritt, an dem KI eingesetzt wird, lohnt eine kurze Notiz: Welcher Autonomiegrad gilt hier, und warum? Diese Festlegung hat zwei Vorteile. Sie macht die Entscheidung überprüfbar – man kann später fragen, ob sie sich bewährt hat. Und sie schafft Klarheit im Team, weil jeder weiß, wann er eingreifen muss und wann nicht. Ohne diese Klarheit entsteht die gefährlichste Konstellation: Alle nehmen an, jemand anderes prüfe.
Häufige Fehler bei der Wahl
Zwei Fehler treten besonders oft auf. Der erste ist die pauschale Vorsicht: Aus Unsicherheit wird alles in-the-loop geprüft, jede Kleinigkeit einzeln freigegeben. Das ist sicher, verschenkt aber den gesamten Effizienzgewinn und führt oft dazu, dass die Prüfung mit der Zeit zur reinen Formsache verkommt – man klickt „freigeben“, ohne noch hinzusehen. Der zweite Fehler ist das Gegenteil: Aus Bequemlichkeit läuft alles on-the-loop, ohne dass die Überwachung ernsthaft stattfindet. Dann existiert die Kontrolle nur auf dem Papier.
Beide Fehler haben dieselbe Wurzel: einen pauschalen Kontrollgrad statt einer bewussten Wahl pro Schritt. Die Lösung ist unbequem, aber einfach – jeden Schritt einzeln einordnen.
Vertrauen wächst mit der Erfahrung
Die Wahl des Kontrollgrads ist keine einmalige Entscheidung. Ein sinnvoller Weg ist, mit enger Aufsicht zu beginnen und die Autonomie schrittweise zu erhöhen, sobald ein System sich bewährt hat. Zeigt die KI über Wochen zuverlässige Ergebnisse bei einer bestimmten Aufgabe, kann die Prüfung von jeder einzelnen Entscheidung auf Stichproben umgestellt werden. Umgekehrt lässt sich die Kontrolle wieder verschärfen, wenn Fehler auftreten. So wächst der Autonomiegrad mit dem berechtigten Vertrauen – und nicht mit der bloßen Gewöhnung.
Häufige Fragen
Was bedeutet Human-in-the-loop? Ein Mensch ist in jede Entscheidung eingebunden und gibt sie aktiv frei. Die KI schlägt vor, der Mensch bestätigt. Dieser Ansatz kostet mehr Zeit, bietet aber die höchste Sicherheit und passt für kritische oder schwer korrigierbare Entscheidungen.
Was bedeutet Human-on-the-loop? Die KI arbeitet selbstständig, ein Mensch überwacht sie und greift nur bei Auffälligkeiten ein. Der Ansatz ist effizienter, verlangt aber, dass die Überwachung tatsächlich stattfindet. Er passt für Aufgaben mit überschaubarem Risiko und hohem Volumen.
Wann sollte man welchen Ansatz wählen? Nach drei Fragen: Wie kritisch ist die Aufgabe, wie leicht lässt sich ein Fehler korrigieren, und wie autonom arbeitet das System? Hohe Kritikalität spricht für Human-in-the-loop, geringe für Human-on-the-loop. Meist ist eine bewusste Mischung im selben Prozess sinnvoll.
