KI im Anforderungsprozess liefert Geschwindigkeit. Ihr größtes Risiko ist nicht der offensichtliche Fehler, sondern der Fehler, der überzeugend aussieht. Wer die Muster kennt, fällt seltener darauf herein.
Die Chancen von KI im Requirements Engineering sind konkret. Ihre Risiken sind es ebenso – und sie zu kennen ist kein Misstrauen, sondern die Voraussetzung für verantwortungsvollen Einsatz.
Automatisierungsbias: das Ergebnis wirkt zu gut
Das unterschätzteste Risiko ist psychologisch. Automatisierungsbias beschreibt die Neigung, KI-Ergebnisse ungeprüft zu übernehmen, weil sie professionell und schlüssig wirken. Ein sauber formatierter Vorschlag lädt dazu ein, ihm zu vertrauen, auch ohne ihn zu prüfen.
Im Anforderungsprozess hat das konkrete Folgen. Bei einer Ähnlichkeitsanalyse kann die KI zwei Anforderungen fälschlich als redundant markieren, weil sie eine oberflächliche Textähnlichkeit erkennt – den inhaltlichen Unterschied dahinter aber nicht versteht.
Ein Fehler und seine Folgen
Wie teuer das wird, zeigt ein durchgespieltes Beispiel. Zwei Anforderungen beschreiben scheinbar dasselbe: „Der Nutzer erhält eine Bestätigung per E-Mail“ und „Der Nutzer erhält eine Bestätigung in der App“. Die KI erkennt die hohe Textähnlichkeit und schlägt vor, beide zusammenzuführen. Wird der Vorschlag ungeprüft übernommen, fällt eine der beiden Benachrichtigungswege weg. Im Test bemerkt das niemand, weil die verbliebene Bestätigung funktioniert. Erst nach dem Livegang häufen sich Beschwerden von Nutzern, die keine E-Mail bekommen. Die Korrektur bedeutet nun eine neue Anforderung, eine neue Umsetzung und einen neuen Test – ein Vielfaches dessen, was eine kurze Prüfung am Anfang gekostet hätte.
Halluzinationen: plausibel und trotzdem falsch
Besonders heikel ist die generative KI. Sie kann Spezifikationen erzeugen, die fachlich plausibel klingen und trotzdem falsch sind – etwa Anforderungen zu Funktionen, die es gar nicht gibt, oder Verweise auf Standards, die nicht existieren. Solche Halluzinationen sind schwer zu erkennen, gerade weil die Formulierung überzeugt. Wer eine Spezifikation nur überfliegt, übersieht sie leicht.
Prädiktive Modelle auf brüchiger Datenbasis
Ein drittes Risiko betrifft die prädiktive KI. Aufwands- und Risikoschätzungen führen in die Irre, wenn die historischen Referenzdaten fehlen oder veraltet sind. Die Zahl wirkt präzise und wird zur Planungsbasis – obwohl sie auf einer brüchigen Grundlage steht. Gerade weil sie so belastbar aussieht, wird sie selten hinterfragt.
Seine Systeme kennen
Ein bewusster Umgang mit KI setzt voraus, dass ein Team die Eigenschaften seiner Werkzeuge kennt. Vier Fragen helfen dabei: Wie deterministisch arbeitet das Modell, liefert es also bei gleicher Eingabe gleiche Ergebnisse? Wie viel Domänenwissen bringt es mit? Wo drohen systematische Fehler? Und wie sensibel sind die Daten, die es verarbeitet?
Eine kurze Prüfroutine
Aus diesen Risiken lässt sich eine einfache Routine ableiten, die im Alltag trägt. Vor der Übernahme eines KI-Ergebnisses lohnt der Blick auf vier Punkte: Ist der Vorschlag inhaltlich geprüft, nicht nur formal überflogen? Sind genannte Standards, Quellen oder Funktionen real und keine Erfindung? Beruhen Schätzungen auf aktuellen, passenden Daten? Und ist bei kritischen Entscheidungen ein Mensch bewusst eingebunden? Vier Fragen, wenige Minuten – und ein großer Teil der typischen Fehler fällt vorher auf.
Was die Werkzeuge selbst beitragen können
Ein Teil der Absicherung lässt sich in die Werkzeuge verlagern. Manche Systeme geben zu jedem Vorschlag an, wie sicher sie sind, und markieren unsichere Ergebnisse zur genaueren Prüfung. Andere verweisen auf die Quelle, aus der eine Aussage stammt, sodass sie sich überprüfen lässt. Wieder andere lassen sich so einstellen, dass sie bei sensiblen Aufgaben grundsätzlich eine menschliche Freigabe verlangen.
Solche Funktionen ersetzen die Prüfung nicht, aber sie erleichtern sie, weil sie den Blick auf die riskanten Stellen lenken. Bei der Auswahl eines Werkzeugs lohnt es sich deshalb zu fragen, wie transparent es über seine eigene Unsicherheit ist. Ein System, das jede Ausgabe mit derselben Selbstsicherheit präsentiert, macht die Prüfung schwerer als eines, das seine Grenzen zeigt.
Das Team schulen
Die wirksamste Absicherung sitzt vor dem Bildschirm. Ein Team, das die typischen Fehlermuster kennt, erkennt sie schneller. Deshalb gehört zu jedem KI-Einsatz eine Schulung, die nicht nur die Bedienung erklärt, sondern die Schwächen der Werkzeuge sichtbar macht: Wie sieht eine typische Halluzination aus? Woran erkennt man eine fragwürdige Ähnlichkeitsanalyse? Wann ist eine Schätzung nicht belastbar?
Am besten lernt ein Team das an echten Beispielen aus dem eigenen Arbeitsalltag. Ein Fehler, den man einmal selbst aufgedeckt hat, prägt sich tiefer ein als jede allgemeine Warnung. So wird aus dem abstrakten Risiko eine konkrete, teilbare Erfahrung.
Die Antwort liegt im Prozess
All das spricht nicht gegen KI, sondern für klare Abläufe. Es braucht definierte Prozesse für den Umgang mit KI-Ergebnissen und Requirements Engineers, die geschult sind, typische Fehler und Halluzinationen zu erkennen, statt sich auf den ersten überzeugenden Eindruck zu verlassen. Genau diese Strukturen baut STI Consulting gemeinsam mit Ihren Teams auf.
Häufige Fragen
Was ist Automatisierungsbias? Die Neigung, KI-Ergebnisse ungeprüft zu übernehmen, weil sie professionell und schlüssig wirken. Ein sauber formatierter Vorschlag lädt dazu ein, ihm zu vertrauen, ohne ihn zu prüfen – und genau darin liegt die Gefahr.
Was sind Halluzinationen bei generativer KI? Ausgaben, die fachlich plausibel klingen und trotzdem falsch sind – etwa Anforderungen zu Funktionen, die es nicht gibt, oder Verweise auf Standards, die nicht existieren. Sie sind schwer zu erkennen, gerade weil die Formulierung überzeugt.
Wie senkt man KI-Risiken im Anforderungsprozess? Durch klare Prüfprozesse, geschulte Teams und Werkzeuge, die ihre eigene Unsicherheit transparent machen. Eine kurze Prüfroutine vor der Übernahme jedes Ergebnisses fängt einen großen Teil der typischen Fehler ab.
