Zum Inhalt springen
Erstgespräch vereinbaren

Kontrolle und Compliance

Human in the Loop: wo der Mensch in automatisierten Finanzprozessen entscheidet

Ein KI-System bucht Rechnungen, ordnet Zahlungen zu und schlägt Mahnungen vor. Wann muss trotzdem ein Mensch entscheiden? Was Human in the Loop bedeutet, wie Sie die Entscheidungspunkte festlegen und wie die Prüfung zur Formsache zu werden droht.

5 Minuten Lesezeit6 Schaubilder

Das Wichtigste in Kürze

  • Human in the Loop heißt: An festgelegten Punkten entscheidet ein Mensch, bevor das System weitermacht.
  • Im Finanzwesen entscheidet der Mensch bei Unsicherheit, hohen Beträgen, neuen Lieferanten und allem, was Ermessen braucht.
  • Die Entscheidungen der Menschen fließen zurück ins System, das so mit der Zeit weniger Fälle vorlegt.
  • Das größte Risiko ist das Durchwinken. Messen Sie, wie oft Menschen Vorschläge ändern, und streuen Sie Testfälle ein.

Human in the Loop beschreibt ein Zusammenspiel, in dem ein KI-System die Arbeit macht und ein Mensch an festgelegten Punkten entscheidet. Der Begriff kommt aus dem maschinellen Lernen. Im Finanzwesen ist er die Antwort auf die Frage, die jede Geschäftsführung stellt: Wer hat das freigegeben?

Human in the Loop, on the Loop und out of the Loop

Je nachdem, wie stark der Mensch beteiligt ist, unterscheidet man drei Formen der menschlichen Aufsicht:

FormWer entscheidetBeispiel im Finanzwesen
Human in the LoopDas System bereitet vor, ein Mensch entscheidet an festgelegten PunktenNeue Bankverbindung eines Lieferanten wird erst nach Prüfung übernommen
Human on the LoopDas System entscheidet, ein Mensch überwacht und greift bei Bedarf einZahlungszuordnung läuft automatisch, die Buchhaltung sieht täglich die Auffälligkeiten
Human out of the LoopDas System entscheidet alleinAbgleich der Kontoauszüge mit eindeutig zuordenbaren Zahlungen
Schaubild 1Drei Formen der menschlichen Aufsicht.

In der Praxis mischen sich die Formen. Eine Rechnung mit Bestellbezug läuft ohne Menschen durch, eine Rechnung über 50.000 Euro von einem neuen Lieferanten landet immer bei einer Person. Wie hoch der automatische Anteil ist, misst die Dunkelverarbeitungsquote.

Wann der Mensch entscheidet

Eingangsrechnung, vom System gelesen
Prüfungen
  • Alle Felder mit hoher Konfidenz gelesen?
  • Betrag unter der Freigabegrenze?
  • Lieferant und Bankverbindung bekannt?
  • Keine Abweichung zu Bestellung oder Vertrag?
Alle Prüfungen bestandenLäuft automatisch durch

Buchung mit Protokoll, Stichprobe im Nachgang.

Eine Prüfung offenGeht an einen Menschen

Mit Begründung, markierter Belegstelle und Vorschlag.

Jede Entscheidung protokolliert, ob Mensch oder System
Schaubild 2Entscheidungspunkte für Human in the Loop im Rechnungseingang.

Die wichtigste Stellschraube ist die Konfidenzschwelle. Das System gibt für jedes Ergebnis an, wie sicher es ist. Liegt der Wert unter der Schwelle, entscheidet ein Mensch:

ErgebnisKonfidenzSchwelleWas passiert
Rechnungsbetrag 4.284,00 €0,990,95automatisch übernommen
Kontierung auf Konto 49300,720,90Vorschlag an die Buchhaltung
Bankverbindung0,98immer Menschneu für diesen Lieferanten, Prüfung nötig
Schaubild 3Konfidenzschwellen je Ergebnis. Beispielwerte.

Für manche Fälle gilt keine Schwelle. Eine neue Bankverbindung, eine Gutschrift über einer Grenze oder eine Abschlussbuchung legt das System immer vor. Diese Liste legen Sie fest, nicht das System.

Was der Mensch sehen muss

Eine gute Entscheidung braucht die richtigen Informationen auf einen Blick. Die Prüfmaske zeigt:

  1. 01Warum vorgelegtWelche Prüfung offen ist, in einem Satz.
  2. 02BelegstelleDie Stelle im Beleg, aus der das System gelesen hat, markiert.
  3. 03VergleichBestellung, Vertrag, letzte Rechnungen desselben Lieferanten.
  4. 04VorschlagWas das System tun würde, mit Alternativen.
  5. 05 · Der Mensch entscheidetEntscheidungÜbernehmen, ändern oder zurückweisen, mit Grund.
Schaubild 4Aufbau einer Prüfmaske für Human in the Loop.

Der Grund bei einer Änderung ist wichtig. Aus ihm lernt das System. Fachleute nennen das aktives Lernen: Das System legt gezielt die Fälle vor, bei denen es am unsichersten ist, und wird mit jeder Antwort besser. So sinkt die Zahl der vorgelegten Fälle mit der Zeit.

Das größte Risiko: Durchwinken

Wer jeden Tag hundert Vorschläge sieht, von denen 98 stimmen, klickt irgendwann nur noch auf Übernehmen. Diese Neigung, einem System zu sehr zu vertrauen, heißt Automation Bias. Die Prüfung findet dann nur noch auf dem Papier statt.

Änderungsquote

AnzeichenMenschen ändern fast nie etwas

GegenmittelQuote monatlich auswerten, bei auffällig niedrigen Werten nachfragen

Prüfzeit

AnzeichenWenige Sekunden je Fall

GegenmittelFälle mit hohem Betrag oder Risiko mit Pflichtfeldern versehen

Testfälle

AnzeichenFehler fallen erst später auf

GegenmittelGelegentlich bekannte Fehler einstreuen und prüfen, ob sie erkannt werden

Menge

AnzeichenZu viele Fälle für zu wenige Leute

GegenmittelSchwellen so setzen, dass nur echte Zweifelsfälle vorgelegt werden

Schaubild 5Automation Bias erkennen und vermeiden.

Vorteile und Nachteile

Qualität

VorteileFehler werden vor der Buchung abgefangen

NachteileMenschen machen selbst Fehler und entscheiden nicht immer gleich

Verantwortung

VorteileKlar, wer was freigegeben hat

NachteileJede Entscheidung kostet Arbeitszeit

Lernen

VorteileDas System wird mit jeder Korrektur besser

NachteileLernt auch aus falschen Korrekturen, wenn niemand sie prüft

Vertrauen

VorteilePrüfer und Geschäftsführung sehen eine Kontrolle

NachteileWirkt nur, solange die Prüfung ernst genommen wird

Schaubild 6Human in the Loop im Finanzwesen: Vor- und Nachteile.

Was Gesetze verlangen

  • Nach der KI-Verordnung müssen Hochrisiko-Systeme so gebaut sein, dass Menschen sie wirksam beaufsichtigen können (Art. 14). Im Finanzwesen betrifft das etwa die Kreditwürdigkeitsprüfung von Privatpersonen. Rechnungsprüfung und Kontierung gehören nicht dazu. Einen Überblick gibt der Beitrag EU AI Act im Finanzwesen.
  • Die DSGVO gibt Menschen das Recht, keiner allein automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu sein (Art. 22). Das kann bei Entscheidungen über Einzelunternehmer oder Privatkunden greifen.
  • Nach den GoBD bleibt das Unternehmen für die Ordnungsmäßigkeit verantwortlich, auch wenn ein System bucht. Wie Sie das nachweisen, steht unter GoBD-konforme KI und im Beitrag Prüfpfad für KI-Entscheidungen.

Human in the Loop einführen: so gehen Sie vor

  1. Pflichtfälle festlegen

    Welche Vorgänge sieht immer ein Mensch, unabhängig von der Konfidenz? Etwa neue Bankverbindungen und hohe Beträge.

  2. Schwellen vorsichtig beginnen

    Am Anfang lieber zu viele Fälle vorlegen und die Schwellen nach einigen Wochen senken.

  3. Prüfmaske gestalten

    Begründung, Belegstelle, Vergleich und Vorschlag auf einen Blick. Gründe für Änderungen aus einer festen Liste.

  4. Zuständigkeiten klären

    Wer entscheidet welche Fälle, wer vertritt, und wann wird an die nächste Stufe gegeben?

  5. Monatlich auswerten

    Vorgelegte Fälle, Änderungsquote, Prüfzeit und Fehler aus der Stichprobe.

Häufige Fragen zu Human in the Loop

Was bedeutet Human in the Loop auf Deutsch?

Wörtlich etwa: der Mensch in der Schleife. Gemeint ist, dass ein Mensch an festgelegten Stellen eines automatisierten Ablaufs entscheidet, bevor das System weitermacht.

Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?

Bei Human in the Loop wartet das System an bestimmten Punkten auf eine Entscheidung. Bei Human on the Loop entscheidet das System selbst, und ein Mensch überwacht die Ergebnisse und greift bei Auffälligkeiten ein.

Macht Human in the Loop die Automatisierung langsamer?

Für die vorgelegten Fälle ja. Wenn die Schwellen gut gesetzt sind, betrifft das aber nur einen kleinen Teil. Der Rest läuft automatisch, und die Menschen kümmern sich um die Fälle, bei denen ihr Urteil zählt.

Muss bei jeder KI-Buchung ein Mensch zustimmen?

Nein. Die GoBD verlangen keine Freigabe jeder einzelnen Buchung. Verlangt sind Kontrollen, die dokumentiert sind und wirken, etwa Freigaben bei bestimmten Fällen und Stichproben im Nachgang.

Finance-Automatisierungs-Check

Wie viel Routine steckt in Ihrer Finanzabteilung?

  • Dauert 3 Minuten
  • Kein Registrierungszwang
  • Ergebnis sofort
Potenzialanalyse starten74 × teilgenommen
Jacob Musser, AI Solution Architect
Ihr AnsprechpartnerJacob MusserAI Solution Architect

Jetzt kostenloses Erstgespräch für Ihre Finanzabteilung buchen

Jacob anrufen
+49 15678 330133
Erstgespräch vereinbaren