Hochrisiko-KI im Banking: Was der EU AI Act für Kreditinstitute wirklich bedeutet

Wenn KI zur Aufsichtsfrage wird

Kaum eine Branche arbeitet so datengetrieben wie der Finanzsektor. Genau deshalb trifft der EU AI Act (Verordnung (EU) 2024/1689) das Banking besonders: Viele der typischen Bank-Anwendungsfälle fallen in die strengste nicht verbotene Risikoklasse der Verordnung, die Hochrisiko-KI.

Was der EU AI Act unter einem „KI-System“ versteht

Bevor es um Risikoklassen geht, lohnt der Blick auf die Grundfrage: Was zählt überhaupt als KI-System im Sinne des Gesetzes? Gemeint ist jedes System, das aus Eingabedaten selbstständig Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableitet und damit reale Auswirkungen erzeugt, die sogenannte Ableitungsfähigkeit. Ein klassisches Scoring-Modell, das aus Kundendaten eine Kreditentscheidung ableitet, fällt ebenso darunter wie ein selbstlernender Algorithmus. Eine einfache Lohnabrechnungssoftware dagegen nicht, ihr fehlt diese Ableitungsfähigkeit. Für Banken heißt das: Deutlich mehr Systeme fallen unter die Verordnung, als der Name „Künstliche Intelligenz“ zunächst vermuten lässt.

Für die meisten Institute ist dabei eine Rolle entscheidend: die des Betreibers. Der EU AI Act definiert diese Rolle als

„eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet.“

Die Rolle lässt sich mit einem Kartenterminal am Schalter vergleichen: Das Gerät stammt von einem Hersteller, die Bank sorgt aber für den korrekten Einsatz im Kundenkontakt und haftet, wenn dabei etwas schiefgeht. Genau dieses Prinzip überträgt der EU AI Act auf KI-Systeme: Wer sie nutzt, haftet für den richtigen Umgang damit, unabhängig davon, wer sie gebaut hat.

Was macht ein KI-System im Banking zu „Hochrisiko-KI“?

Der EU AI Act unterscheidet vier Risikoklassen: verbotene Praktiken, Hochrisiko, begrenztes Risiko (insbesondere Transparenzpflichten, etwa bei Chatbots) und minimales Risiko. Hochrisiko ist ein System, wenn es Sicherheitskomponente eines bereits regulierten Produkts ist oder in einen der acht sensiblen Anwendungsbereiche aus Anhang III fällt.¹

Für Banken zentral ist Anhang III Nr. 5 lit. b: KI-Systeme zur Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen gelten explizit als Hochrisiko-KI, und zwar unabhängig davon, ob am Ende noch ein Mensch die formale Entscheidung trifft.² Auch HR-Screening bei der internen Personalauswahl von Banken fällt darunter.¹

Nicht alle verwandten Anwendungsfälle sind dabei rechtlich gleich eindeutig: Reine Betrugserkennung ist ausdrücklich ausgenommen², die vollautomatisierte Kreditvergabe bleibt, anders als oft dargestellt, hochrisikorelevant³, und bei der Geldwäscheprävention fehlt bislang eine klare gesetzliche Grundlage für eine pauschale Einordnung.⁴

Pflichten als Betreiber

Setzen Institute ein Hochrisiko-KI-System ein, ohne es selbst in Verkehr zu bringen, sind sie Betreiber im Sinne der Verordnung. Für Sie gelten insbesondere folgende sechs Kernpflichten:

1. Bestimmungsgemäße Verwendung. Das System darf nur so eingesetzt werden, wie es der Anbieter vorgesehen hat. Ein Scoring-Modell für Konsumentenkredite lässt sich also nicht einfach auf Firmenkredite übertragen.⁵

2. Qualifizierte menschliche Aufsicht. Eine rein maschinelle Entscheidung ohne Möglichkeit der Überprüfung ist untersagt. Im Kreditgeschäft heißt das: Ein Sachbearbeiter muss die KI-Empfehlung nachvollziehen und im Zweifel korrigieren können, nicht nur formal abzeichnen.⁶

3. Sektorspezifische Aufbewahrungsfristen. Die Mindestfrist des EU AI Acts liegt bei sechs Monaten. Im Finanzsektor wird sie jedoch an vielen Stellen deutlich verlängert:

• Sechs bis zehn Jahre für handels- und steuerrechtlich relevante Unterlagen (HGB, AO)⁷
• Fünf bis sieben Jahre für Aufzeichnungen im Kreditwesen- und Wertpapierhandel (WpHG, WpDVerOV, MiFID II)^8,9
• Fünf Jahre in der automatisierten Geldwäscheerkennung (GwG)¹⁰

4. Meldung schwerwiegender Vorfälle. Bei Problemen, etwa einem Scoring-Modell, das systematisch fehlerhafte Ablehnungen produziert, muss unverzüglich sowohl der Anbieter als auch die zuständige Behörde informiert werden.¹¹

5. Grundrechte-Folgenabschätzung (FRIA). Vor dem Einsatz muss dokumentiert werden, welche Auswirkungen das System auf die Rechte der Betroffenen haben kann, nicht erst danach. Für Banken und Versicherungen ist das bei Kreditwürdigkeitsprüfung und Risikobewertung von Lebens- und Krankenversicherungen ausdrücklich vorgeschrieben.¹²

6. Recht auf Erläuterung. Wird ein Kreditantrag auf Basis eines KI-Scorings abgelehnt, muss die Ablehnung so begründet werden können, dass die betroffene Person nachvollzieht, welche Faktoren dazu geführt haben. Reine Black-Box-Modelle ohne Transparenz sind damit ein direktes Compliance-Risiko.¹³

Wenn Institute selbst entwickeln: die Anbieter-Pflichten

Entwickeln Institute ein KI-System selbst oder lassen es unter eigenem Namen entwickeln, treffen sie nach Art.9-15 die umfassenderen Anbieter-Pflichten. Statt nur den korrekten Einsatz zu überwachen, müssen sie das System in diesem Fall über seinen gesamten Lebenszyklus hinweg selbst absichern, von der Datenqualität bis zur Cybersicherheit. Im Einzelnen umfasst das kontinuierliches Risikomanagement, Daten-Governance mit aktiver Bias-Erkennung, technische Dokumentation, Aufzeichnungspflichten, Transparenz gegenüber Betreibern, menschliche Aufsicht als Konstruktionsprinzip sowie Robustheit und Genauigkeit.¹⁴

Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.¹⁵

Der Zeitplan hat sich verschoben: der Digital Omnibus on AI

Ursprünglich sollten die Pflichten für Hochrisiko-KI-Systeme wie Kreditscoring bereits ab dem 2. August 2026 gelten. Mit dem Digital Omnibus verschiebt sich dieser Stichtag auf den 2. Dezember 2027, ein relevanter Zeitgewinn von 16 Monaten.^16,17 Unverändert bleiben dagegen die seit Februar 2025 geltenden Verbote sowie die allgemeinen Transparenzpflichten ab August 2026.²⁰

Rechtlich verbindlich ist diese Verschiebung allerdings erst mit der Veröffentlichung im Amtsblatt, die nach aktuellem Stand noch aussteht aber spätestens bis zum 30. Juli 2026 erfolgen muss, damit die neue Frist rechtzeitig vor dem 2. August 2026 greift.¹⁹

Was Banken jetzt tun sollten

Die verschobene Frist ist kein Freibrief zum Abwarten, sondern ein wichtiges Zeitfenster für eine zielgerichtete Umsetzung. Drei Handlungsfelder sind entscheidend:

1. Inventar aufbauen: Ein vollständiges Verzeichnis aller eingesetzten KI-Systeme inklusive zugekaufter Tools und Schatten-KI mit Risikoklassifizierung ist die Voraussetzung für jede weitere Planung.
2. Governance-Synergien nutzen: Ein Teil der Dokumentations- und Risikomanagementpflichten überschneidet sich mit bereits bestehenden Anforderungen aus DORA und DSGVO, hier lässt sich Doppelarbeit vermeiden.
3. Zeitfenster aktiv nutzen, statt abzuwarten: Wer die zusätzlichen Monate jetzt für Pilotprojekte und Testläufe nutzt, verschafft sich einen strukturellen Vorsprung und geht mit belastbaren, bereits erprobten Prozessen in die verbindliche Phase, statt mit Last-Minute-Compliance unter Zeitdruck.

Fazit: Zeitgewinn nutzen, nicht verwalten

Der EU AI Act macht Kreditscoring und verwandte Anwendungen zu einem der prominentesten Hochrisiko-Anwendungsfälle der gesamten Verordnung. Mit dem Digital Omnibus verschiebt sich der verbindliche Starttermin voraussichtlich auf Dezember 2027, vorbehaltlich der noch ausstehenden Veröffentlichung im Amtsblatt.

Wer diese Zeit jetzt für Inventar, Governance und Pilotprojekte nutzt, verwandelt eine regulatorische Pflicht in einen strukturellen Vorteil.