Das Wichtigste in Kürze
- Die KI-Verordnung (EU AI Act) teilt KI-Anwendungen nach Risiko ein. Die meisten Anwendungen in der Finanzabteilung haben ein geringes Risiko.
- Hochrisiko sind im Finanzwesen vor allem die Kreditwürdigkeitsprüfung von Privatpersonen und KI im Personalbereich. Diese Pflichten gelten nach dem KI-Omnibus ab dem 2. Dezember 2027.
- Seit Februar 2025 gelten die Verbote und die Pflicht, die KI-Kompetenz der Beschäftigten zu fördern.
- In Deutschland überwacht seit Juli 2026 die Bundesnetzagentur, für Banken und Versicherer die BaFin.
Der EU AI Act im Finanzwesen betrifft nicht nur Banken und Versicherer. Auch die Finanzabteilung eines Unternehmens, die KI für Rechnungen, Zahlungen oder Planung nutzt, ist Anwenderin im Sinne der Verordnung. Für die meisten dieser Anwendungen sind die Pflichten überschaubar. Wichtig ist, die wenigen Fälle mit hohem Risiko zu erkennen.
Was die KI-Verordnung regelt
Die KI-Verordnung (Verordnung (EU) 2024/1689) gilt in allen EU-Staaten unmittelbar. Sie regelt KI nach dem Risiko ihrer Anwendung: Je größer der mögliche Schaden für Menschen, desto strenger die Pflichten. Im Juli 2026 wurde sie durch den sogenannten KI-Omnibus (Verordnung (EU) 2026/1744) geändert. Die Pflichten für Hochrisiko-Anwendungen gelten dadurch später, und Art. 4 zur KI-Kompetenz wurde neu gefasst.
Der Zeitplan
- 1. August 2024In KraftDie KI-Verordnung tritt in Kraft.
- 2. Februar 2025Verbote und KI-KompetenzVerbotene Anwendungen sind untersagt, Unternehmen fördern die KI-Kompetenz.
- 2. August 2025Allzweck-KIPflichten für Anbieter großer Sprachmodelle.
- 27. Juli 2026KI-OmnibusÄnderungen in Kraft, Hochrisiko-Fristen verschoben.
- 2. August 2026Allgemeine GeltungTransparenzpflichten und die meisten übrigen Regeln gelten.
- 2. Dezember 2027HochrisikoPflichten für Hochrisiko-Anwendungen nach Anhang III.
Risikoklassen mit Beispielen aus dem Finanzwesen
| Risikoklasse | Was gilt | Beispiele im Finanzwesen |
|---|---|---|
| Verboten | Darf nicht eingesetzt werden | Bewertung von Menschen nach ihrem sozialen Verhalten, Emotionserkennung am Arbeitsplatz |
| Hochrisiko | Strenge Pflichten ab 2. Dezember 2027 | Kreditwürdigkeitsprüfung von Privatpersonen, Risikobewertung in Lebens- und Krankenversicherung, Auswahl und Bewertung von Beschäftigten |
| Transparenz | Kennzeichnung | Chatbot im Kundenservice, KI-erzeugte Texte und Bilder |
| Geringes Risiko | Keine besonderen Pflichten außer KI-Kompetenz | Rechnungsprüfung, Kontierung, Zahlungszuordnung, Forecast, Betrugserkennung |
Die Betrugserkennung ist ausdrücklich von der Hochrisiko-Einstufung der Kreditwürdigkeitsprüfung ausgenommen. Achtung bei Bonitätsprüfungen: Prüft Ihre Finanzabteilung mit KI die Zahlungsfähigkeit von Privatkunden, etwa für Ratenkauf, kann das unter Hochrisiko fallen. Bei Firmenkunden in der Rechtsform einer Gesellschaft gilt das nach dem Wortlaut nicht, Einzelunternehmer sind dagegen natürliche Personen im Sinne der Verordnung. Wie ein System Zahlungsausfälle von Geschäftskunden erkennt, beschreibt der Beitrag Zahlungsausfälle vorhersagen mit KI.
Anbieter oder Betreiber
AnbieterEntwickelt ein KI-System und bringt es auf den Markt
BetreiberSetzt ein KI-System in eigener Verantwortung ein
AnbieterSoftwarehersteller
BetreiberUnternehmen, das die Software in der Finanzabteilung nutzt
AnbieterRisikomanagement, technische Dokumentation, Konformitätsbewertung
BetreiberEinsatz nach Anleitung, menschliche Aufsicht, Protokolle aufbewahren, Beschäftigte informieren
AnbieterWer ein System wesentlich verändert, wird selbst zum Anbieter
BetreiberWer ein System unter eigenem Namen anbietet, ebenfalls
Als Betreiber einer Hochrisiko-Anwendung müssen Sie unter anderem für menschliche Aufsicht durch kompetente Personen sorgen, die Eingabedaten im Blick behalten, den Betrieb überwachen und die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren (Art. 26). Bei der Kreditwürdigkeitsprüfung kommt eine Folgenabschätzung für Grundrechte hinzu (Art. 27). Wie menschliche Aufsicht praktisch aussieht, steht im Beitrag Human in the Loop, wie Protokolle aufgebaut sind, im Beitrag Prüfpfad für KI-Entscheidungen.
KI-Kompetenz für alle
Die Pflicht zur KI-Kompetenz gilt für jedes Unternehmen, das KI einsetzt, unabhängig vom Risiko. Seit der Neufassung durch den KI-Omnibus verlangt Art. 4, dass Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern. Ein bestimmtes Niveau müssen sie nicht mehr sicherstellen. Ein Zertifikat ist nicht vorgeschrieben. Sinnvoll sind eine Schulung, die zur Aufgabe passt, eine schriftliche Richtlinie und ein Nachweis, wer wann geschult wurde.
Aufsicht und Bußgelder
In Deutschland regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) seit dem 29. Juli 2026 die Aufsicht. Zuständig ist im Regelfall die Bundesnetzagentur. Für KI im Finanzsektor, also bei Banken, Versicherern und anderen beaufsichtigten Unternehmen, ist die BaFin zuständig. Die Bußgelder der Verordnung reichen bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Anwendungen und bis 15 Millionen Euro oder 3 Prozent bei Verstößen gegen andere Pflichten.
KI-Verordnung, DSGVO und GoBD
Die KI-Verordnung kommt hinzu, sie ersetzt nichts. Personenbezogene Daten in KI-Systemen fallen weiter unter die DSGVO, siehe KI-Datenschutz. Für die Buchführung gelten weiter die GoBD, siehe GoBD-konforme KI. Wer Finanzdaten nicht an Anbieter außerhalb des eigenen Hauses geben will, findet unter KI On-Premise die Alternative.
Checkliste für die Finanzabteilung
- Liste aller KI-Anwendungen im Finanzwesen, auch Funktionen in bestehender Software und Chatbots, die Beschäftigte nutzen
- Für jede Anwendung: Risikoklasse, Rolle als Anbieter oder Betreiber, verantwortliche Person
- Bonitätsprüfungen von Privatkunden und KI im Personalbereich gesondert prüfen
- Schulungen zur KI-Kompetenz mit Nachweis
- Richtlinie zur Nutzung von KI, auch für frei verfügbare Werkzeuge
- Verträge mit Anbietern: Dokumentation, Protokolle, Ort der Datenverarbeitung
EU AI Act im Finanzwesen umsetzen: so gehen Sie vor
Bestandsaufnahme
Alle KI-Anwendungen erfassen, auch die, die Beschäftigte auf eigene Faust nutzen.
Einordnen
Risikoklasse und Rolle je Anwendung festlegen, bei Zweifeln rechtlich prüfen lassen.
KI-Kompetenz fördern
Schulung je nach Aufgabe, mit Nachweis. Für die Finanzabteilung: Grenzen, Datenschutz, Prüfung der Ergebnisse.
Hochrisiko vorbereiten
Falls vorhanden: menschliche Aufsicht, Protokolle und Information der Beschäftigten bis Dezember 2027 einrichten.
Regelmäßig prüfen
Neue Anwendungen vor dem Einsatz einordnen, die Liste mindestens einmal im Jahr durchgehen.
Häufige Fragen zum EU AI Act im Finanzwesen
Gilt der EU AI Act auch für KI in der Buchhaltung?
Ja, aber meist nur mit wenigen Pflichten. Rechnungsprüfung, Kontierung und Zahlungszuordnung haben ein geringes Risiko. Es gilt die Pflicht, die KI-Kompetenz der Beschäftigten zu fördern, dazu DSGVO und GoBD wie bisher.
Ab wann gelten die Pflichten für Hochrisiko-KI?
Nach dem KI-Omnibus gelten die Pflichten für Hochrisiko-Anwendungen nach Anhang III, etwa die Kreditwürdigkeitsprüfung von Privatpersonen, ab dem 2. Dezember 2027. Für KI in regulierten Produkten gilt der 2. August 2028.
Wer überwacht die KI-Verordnung in Deutschland?
Seit dem Inkrafttreten des KI-MIG am 29. Juli 2026 im Regelfall die Bundesnetzagentur. Für KI bei Banken, Versicherern und anderen Unternehmen des Finanzsektors ist die BaFin zuständig.
Muss ich meine Beschäftigten schulen?
Unternehmen müssen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern. Eine bestimmte Schulung oder ein Zertifikat ist nicht vorgeschrieben. Ein Nachweis, wer wie geschult wurde, ist dennoch sinnvoll.
