banKIng³ – Folge 33: Kosten, Modellwahl und Governance: Wie Banken ihre KI-Infrastruktur wählen

banKIng³ – Drei Generationen, eine Vision

Die Finanzbranche steht vor einem Generationenwechsel – nicht nur in der Führung, sondern auch in der Technologie. banKIng³ zeigt, wie künstliche Intelligenz das Banking neu definiert und welche Rolle verschiedene Generationen in dieser Transformation spielen. Experten diskutieren über innovative KI-Anwendungen, regulatorische Herausforderungen und den Balanceakt zwischen Erfahrung und technologischer Disruption.

Unabhängig davon, ob Sie Teil der jungen Generation im Banking sind oder auf bewährtes Wissen setzen – banKIng³ liefert Ihnen die Insights, mit denen Sie die Zukunft aktiv mitgestalten können.

KI-Kosten, Modellwahl und die Rolle der Governance

Wer sich aktuell mit Banken über ihre KI-Infrastruktur unterhält, trifft auf zwei ganz unterschiedliche Lager. Die einen setzen konsequent auf einen einzigen Hyperscaler und nutzen dessen komplette Palette an Modellen und Services. Die anderen entscheiden sich bewusst für einen sogenannten Superscaler, ein deutsches Rechenzentrum mit Open-Source-Modellen und maximaler Souveränität. Beide Wege sind regulatorisch möglich, denn weder der EU AI Act noch DORA verbieten den Betrieb einer KI-Anwendung bei einem globalen Anbieter.

Die eigentliche Entscheidung ist deshalb gar keine technologische, sondern eine der Governance. Banken schauen genau hin, wo Abhängigkeiten entstehen, wo Nachweispflichten besonders streng sind und wo sie im Zweifel lieber etwas näher an sich selbst bleiben. Das ist am Ende dieselbe Logik, die auch bei jedem anderen IT-System gilt, ob Kernbankensystem oder E-Mail-Programm.

Der Mittelweg als Realität

In der Praxis zeigt sich meist ein hybrides Bild. Mitarbeitende nutzen für einfache Aufgaben einen einfachen, kostenlosen Chat, während sensible Dokumente automatisch in geschützte Umgebungen wechseln, ohne dass der Nutzer davon überhaupt etwas merkt. Je höher die Vertraulichkeitsstufe, desto eher landen die Daten dann komplett On-Premise im eigenen Rechenzentrum.

Kompliziert wird es bei agentischen Anwendungen. Viele dieser Services benötigen heute noch das aktuellste Modell eines Hyperscalers, um wirklich zuverlässig zu funktionieren. Das kann durchaus zu einer echten Go-or-no-go-Entscheidung für die gewählte Infrastruktur werden, auch wenn sich dieser Vorsprung mit jedem neuen Open-Source-Modell wieder etwas verkleinert.

Fable 5 zwischen Genie und Filter

Ein großes Thema der Folge ist die praktische Erfahrung mit dem neuen Modell Fable 5, das seit Anfang Juli 2026 wieder verfügbar ist. Beim Bau von Visualisierungs-Apps, mit denen komplexe Sachverhalte anschaulich aufbereitet werden, zeigt sich eine bemerkenswerte neue Qualität im Detail. Gleichzeitig sorgen die eingebauten Sicherheitsfilter für Überraschungen, sobald harmlose Fachbegriffe versehentlich wie ein sensibles Thema klingen.

Die Erwartungslücke wächst

Je mehr Menschen privat mit KI experimentieren, desto höher wird auch der Anspruch an die eigene Bank. Wer sich zu Hause in wenigen Minuten ein Tool zusammenklickt, erwartet vom Bankberater mindestens dasselbe Niveau, wenn nicht mehr. Auch wenn eine intensive KI-Nutzung, noch längst nicht der Normalfall in der Bevölkerung ist, sickert das Thema über Umwege in die Erwartungshaltung fast aller Kunden. Auch wer selbst keine KI nutzt, kennt meist jemanden im Umfeld, der beeindruckende Ergebnisse damit erzielt, sei es das eigene Kind oder ein Kollege.

Diese Berührungspunkte reichen oft schon aus, um die Messlatte für den nächsten Bankbesuch spürbar höher zu legen.

Kosten, Effizienz und der Blick nach vorn

Parallel zu den steigenden Erwartungen wächst auch die Diskussion um die Kosten der besten Modelle. State-of-the-Art-Systeme werden mit jeder neuen Generation größer und damit teurer, gleichzeitig halbieren sich die Tokenkosten für vergleichbare Leistung etwa alle zwei Monate. Wer dauerhaft vorne mitspielen möchte, kommt an steigenden Kosten für die Spitzenmodelle kaum vorbei, kann sie aber durch geschicktes Routing zwischen großen und kleineren Modellen spürbar abfedern.

Genau hier entsteht für Banken eine neue Kernkompetenz: die richtige Aufgabe dem richtigen Modell zuzuordnen und dabei Qualität und Kosten in Balance zu halten.

Das gilt für die Technologie ebenso wie für die Mitarbeitenden selbst, denn in jeder Organisation gibt es sowohl Kolleginnen und Kollegen, die gerade erst den ersten Chat ausprobieren, als auch jene, die längst mit den neuesten Modellen experimentieren. Beide Gruppen auf dem gleichen Weg mitzunehmen, wird für Banken zur eigentlichen Herausforderung der kommenden Monate.

Am Ende zeigt sich einmal mehr, wie eng technologische Möglichkeiten, regulatorische Rahmenbedingungen und ganz praktische Alltagserfahrungen im Banking zusammenhängen. Die Fragen nach Infrastruktur, Kosten und Kundennähe werden sich nicht von heute auf morgen klären lassen. Umso wichtiger ist es, die Entwicklung aufmerksam zu begleiten und die eigene Organisation Schritt für Schritt darauf vorzubereiten.

Haben Sie schon alle Folgen unseres Podcasts gehört?