Das Wichtigste in Kürze
- Human in the Loop heißt: An festgelegten Punkten entscheidet ein Mensch, bevor das System weitermacht.
- Im Finanzwesen entscheidet der Mensch bei Unsicherheit, hohen Beträgen, neuen Lieferanten und allem, was Ermessen braucht.
- Die Entscheidungen der Menschen fließen zurück ins System, das so mit der Zeit weniger Fälle vorlegt.
- Das größte Risiko ist das Durchwinken. Messen Sie, wie oft Menschen Vorschläge ändern, und streuen Sie Testfälle ein.
Human in the Loop beschreibt ein Zusammenspiel, in dem ein KI-System die Arbeit macht und ein Mensch an festgelegten Punkten entscheidet. Der Begriff kommt aus dem maschinellen Lernen. Im Finanzwesen ist er die Antwort auf die Frage, die jede Geschäftsführung stellt: Wer hat das freigegeben?
Human in the Loop, on the Loop und out of the Loop
Je nachdem, wie stark der Mensch beteiligt ist, unterscheidet man drei Formen der menschlichen Aufsicht:
| Form | Wer entscheidet | Beispiel im Finanzwesen |
|---|---|---|
| Human in the Loop | Das System bereitet vor, ein Mensch entscheidet an festgelegten Punkten | Neue Bankverbindung eines Lieferanten wird erst nach Prüfung übernommen |
| Human on the Loop | Das System entscheidet, ein Mensch überwacht und greift bei Bedarf ein | Zahlungszuordnung läuft automatisch, die Buchhaltung sieht täglich die Auffälligkeiten |
| Human out of the Loop | Das System entscheidet allein | Abgleich der Kontoauszüge mit eindeutig zuordenbaren Zahlungen |
In der Praxis mischen sich die Formen. Eine Rechnung mit Bestellbezug läuft ohne Menschen durch, eine Rechnung über 50.000 Euro von einem neuen Lieferanten landet immer bei einer Person. Wie hoch der automatische Anteil ist, misst die Dunkelverarbeitungsquote.
Wann der Mensch entscheidet
- Alle Felder mit hoher Konfidenz gelesen?
- Betrag unter der Freigabegrenze?
- Lieferant und Bankverbindung bekannt?
- Keine Abweichung zu Bestellung oder Vertrag?
Buchung mit Protokoll, Stichprobe im Nachgang.
Mit Begründung, markierter Belegstelle und Vorschlag.
Die wichtigste Stellschraube ist die Konfidenzschwelle. Das System gibt für jedes Ergebnis an, wie sicher es ist. Liegt der Wert unter der Schwelle, entscheidet ein Mensch:
| Ergebnis | Konfidenz | Schwelle | Was passiert |
|---|---|---|---|
| Rechnungsbetrag 4.284,00 € | 0,99 | 0,95 | automatisch übernommen |
| Kontierung auf Konto 4930 | 0,72 | 0,90 | Vorschlag an die Buchhaltung |
| Bankverbindung | 0,98 | immer Mensch | neu für diesen Lieferanten, Prüfung nötig |
Für manche Fälle gilt keine Schwelle. Eine neue Bankverbindung, eine Gutschrift über einer Grenze oder eine Abschlussbuchung legt das System immer vor. Diese Liste legen Sie fest, nicht das System.
Was der Mensch sehen muss
Eine gute Entscheidung braucht die richtigen Informationen auf einen Blick. Die Prüfmaske zeigt:
- 01Warum vorgelegtWelche Prüfung offen ist, in einem Satz.
- 02BelegstelleDie Stelle im Beleg, aus der das System gelesen hat, markiert.
- 03VergleichBestellung, Vertrag, letzte Rechnungen desselben Lieferanten.
- 04VorschlagWas das System tun würde, mit Alternativen.
- 05 · Der Mensch entscheidetEntscheidungÜbernehmen, ändern oder zurückweisen, mit Grund.
Der Grund bei einer Änderung ist wichtig. Aus ihm lernt das System. Fachleute nennen das aktives Lernen: Das System legt gezielt die Fälle vor, bei denen es am unsichersten ist, und wird mit jeder Antwort besser. So sinkt die Zahl der vorgelegten Fälle mit der Zeit.
Das größte Risiko: Durchwinken
Wer jeden Tag hundert Vorschläge sieht, von denen 98 stimmen, klickt irgendwann nur noch auf Übernehmen. Diese Neigung, einem System zu sehr zu vertrauen, heißt Automation Bias. Die Prüfung findet dann nur noch auf dem Papier statt.
AnzeichenMenschen ändern fast nie etwas
GegenmittelQuote monatlich auswerten, bei auffällig niedrigen Werten nachfragen
AnzeichenWenige Sekunden je Fall
GegenmittelFälle mit hohem Betrag oder Risiko mit Pflichtfeldern versehen
AnzeichenFehler fallen erst später auf
GegenmittelGelegentlich bekannte Fehler einstreuen und prüfen, ob sie erkannt werden
AnzeichenZu viele Fälle für zu wenige Leute
GegenmittelSchwellen so setzen, dass nur echte Zweifelsfälle vorgelegt werden
Vorteile und Nachteile
VorteileFehler werden vor der Buchung abgefangen
NachteileMenschen machen selbst Fehler und entscheiden nicht immer gleich
VorteileKlar, wer was freigegeben hat
NachteileJede Entscheidung kostet Arbeitszeit
VorteileDas System wird mit jeder Korrektur besser
NachteileLernt auch aus falschen Korrekturen, wenn niemand sie prüft
VorteilePrüfer und Geschäftsführung sehen eine Kontrolle
NachteileWirkt nur, solange die Prüfung ernst genommen wird
Was Gesetze verlangen
- Nach der KI-Verordnung müssen Hochrisiko-Systeme so gebaut sein, dass Menschen sie wirksam beaufsichtigen können (Art. 14). Im Finanzwesen betrifft das etwa die Kreditwürdigkeitsprüfung von Privatpersonen. Rechnungsprüfung und Kontierung gehören nicht dazu. Einen Überblick gibt der Beitrag EU AI Act im Finanzwesen.
- Die DSGVO gibt Menschen das Recht, keiner allein automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu sein (Art. 22). Das kann bei Entscheidungen über Einzelunternehmer oder Privatkunden greifen.
- Nach den GoBD bleibt das Unternehmen für die Ordnungsmäßigkeit verantwortlich, auch wenn ein System bucht. Wie Sie das nachweisen, steht unter GoBD-konforme KI und im Beitrag Prüfpfad für KI-Entscheidungen.
Human in the Loop einführen: so gehen Sie vor
Pflichtfälle festlegen
Welche Vorgänge sieht immer ein Mensch, unabhängig von der Konfidenz? Etwa neue Bankverbindungen und hohe Beträge.
Schwellen vorsichtig beginnen
Am Anfang lieber zu viele Fälle vorlegen und die Schwellen nach einigen Wochen senken.
Prüfmaske gestalten
Begründung, Belegstelle, Vergleich und Vorschlag auf einen Blick. Gründe für Änderungen aus einer festen Liste.
Zuständigkeiten klären
Wer entscheidet welche Fälle, wer vertritt, und wann wird an die nächste Stufe gegeben?
Monatlich auswerten
Vorgelegte Fälle, Änderungsquote, Prüfzeit und Fehler aus der Stichprobe.
Häufige Fragen zu Human in the Loop
Was bedeutet Human in the Loop auf Deutsch?
Wörtlich etwa: der Mensch in der Schleife. Gemeint ist, dass ein Mensch an festgelegten Stellen eines automatisierten Ablaufs entscheidet, bevor das System weitermacht.
Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?
Bei Human in the Loop wartet das System an bestimmten Punkten auf eine Entscheidung. Bei Human on the Loop entscheidet das System selbst, und ein Mensch überwacht die Ergebnisse und greift bei Auffälligkeiten ein.
Macht Human in the Loop die Automatisierung langsamer?
Für die vorgelegten Fälle ja. Wenn die Schwellen gut gesetzt sind, betrifft das aber nur einen kleinen Teil. Der Rest läuft automatisch, und die Menschen kümmern sich um die Fälle, bei denen ihr Urteil zählt.
Muss bei jeder KI-Buchung ein Mensch zustimmen?
Nein. Die GoBD verlangen keine Freigabe jeder einzelnen Buchung. Verlangt sind Kontrollen, die dokumentiert sind und wirken, etwa Freigaben bei bestimmten Fällen und Stichproben im Nachgang.
