banKIng³ - Folge 34: Zwischen Private Mode und Aufsicht: KI-Vertrauen im Banking

banKIng³ – Drei Generationen, eine Vision

Die Finanzbranche steht vor einem Generationenwechsel – nicht nur in der Führung, sondern auch in der Technologie. banKIng³ zeigt, wie künstliche Intelligenz das Banking neu definiert und welche Rolle verschiedene Generationen in dieser Transformation spielen. Experten diskutieren über innovative KI-Anwendungen, regulatorische Herausforderungen und den Balanceakt zwischen Erfahrung und technologischer Disruption.

Unabhängig davon, ob Sie Teil der jungen Generation im Banking sind oder auf bewährtes Wissen setzen – banKIng³ liefert Ihnen die Insights, mit denen Sie die Zukunft aktiv mitgestalten können.

Zwischen Private Mode und Aufsicht: KI-Vertrauen im Banking

In dieser Folge geht es um vier Themen, die auf den ersten Blick wenig gemeinsam haben und am Ende doch alle um dieselbe Frage kreisen: Wie viel können und wollen wir der KI eigentlich zutrauen. Es startet ganz praktisch mit einem Erlebnisbericht aus dem Browser, führt über die Vertrauensfrage bei verschlüsselter KI-Verarbeitung direkt in den neuen BaFin-Kommentar zur KI-Kompetenz und landet schließlich bei der Frage, wie Banken auf souveräner Infrastruktur trotzdem ein State-of-the-Art-Erlebnis bauen können.

Eine Folge über Klicks, Kompetenzen und die vielen kleinen Vertrauensvorschüsse, die KI im Banking heute schon braucht.

Wenn KI sich selbst durchklickt

Manchmal beginnt eine große Entwicklung mit einer ganz kleinen Aufgabe. Ein neues Browser-Plugin, ein LinkedIn-Post, der ohnehin geschrieben werden musste, und plötzlich zeigt sich, wie viel sich verändert hat.

KI-Agenten übernehmen zunehmend nicht nur das Denken, sondern auch das Klicken, Formulare ausfüllen, Inhalte hochladen, Dialoge navigieren. Kurz, all das, was bislang zwingend einen Menschen vor dem Bildschirm machen musste.

Für Banken ist das mehr als eine Randnotiz. Viele Kernsysteme sind über Jahrzehnte gewachsen und verfügen schlicht über keine Programmierschnittstelle. Bislang blieb dann oft nur der Weg über starr codierte Automatisierung, die bei jeder kleinen Änderung der Oberfläche wieder zusammengebrochen ist.

Ein Agent, der die Oberfläche selbst versteht und sich dynamisch darauf einstellt, verändert dieses Bild grundlegend und macht ganze Prozessstrecken plötzlich automatisierbar, ohne dass jemand vorher jeden einzelnen Klick programmieren muss.

Vertrauen bis zum letzten Bit

Je mehr Aufgaben an die KI wandern, desto drängender wird die Frage, was mit den Daten auf dem Weg passiert. Ende-zu-Ende-Verschlüsselung kennt jeder aus dem Messenger-Alltag, doch bei einem Sprachmodell wird es komplizierter. Irgendwo muss der Klartext ja ankommen, damit das Modell überhaupt antworten kann. Genau an dieser Stelle entscheidet sich, wie viel Vertrauen man dem Infrastrukturanbieter tatsächlich schenkt.

Auf souveräner Infrastruktur lässt sich dieses Vertrauen technisch greifbar machen, wenn Modell und Schlüssel eng beieinander liegen und der Rest der Umgebung nur verschlüsselte Daten sieht.

Bei global gehosteten Frontier-Modellen wird die Sache diffuser. Am Ende bleibt die Frage, welche Information man einem Sprachmodell überhaupt anvertrauen möchte, unabhängig davon, wie gut die Übertragung verschlüsselt ist.

Vorstand in der Pflicht

Passend zur Vertrauensfrage kommt der neue BaFin-Kommentar zur KI-Kompetenz genau zur richtigen Zeit. Nach Artikel 4 des EU AI Act mussten Banken bis Ende Juli 2026 ihre Mitarbeitenden entsprechend schulen. Anfang August 2026 folgte nun die Einordnung der Aufsicht dazu. Bemerkenswert ist vor allem, wo der Schwerpunkt liegt. Statt eine eigene KI-Aufsicht oder strenge IT-Vorgaben zu formulieren, rückt die BaFin die Geschäftsführung selbst in die Verantwortung.

Diese drei Themen stehen im Fokus der BaFin und können mit Bußgeldern bis zu 35 Millionen Euro belegt werden. Für Themen wie automatisierte Bewerbervorauswahl gibt die BaFin den Banken noch etwas Zeit, hier greift die Überwachung erst ab Dezember 2027.

Ein wichtiger Hinweis für die Praxis: Die BaFin überwacht ausschließlich bankspezifische KI-Anwendungen, für generalistische Themen wie HR ist die Bundesnetzagentur zuständig. Das gibt Banken durchaus die Möglichkeit, sich hier stärker am breiteren Marktstandard zu orientieren.

Vom Chatbot zum Mitdenker

Zum Schluss geht es um eine Frage, die viele Banken gerade beschäftigt: Wie holt man aus einem Corporate GPT auf souveräner, Open-Source-basierter Infrastruktur noch mehr heraus?

Die Antwort liegt in einer agentischen Mittelschicht, die zwischen Anfrage und Sprachmodell eine zusätzliche Denkstufe einzieht. Statt einer einfachen Frage-Antwort-Logik überlegt der Agent zunächst selbst, welche Informationen er eigentlich braucht.

Praktisch heißt das, zwei datenschutzkonforme Werkzeuge im Hintergrund arbeiten zu lassen, eines für die Suche über Metadaten, etwa nach einer bestimmten Arbeitsanweisung, und eines für die gezielte Ansteuerung interner Wissensbasen wie der schriftlich fixierten Ordnung. Ein vorgeschaltetes Open-Source-Modell erkennt die Absicht hinter der Anfrage und leitet sie an das passende Werkzeug weiter. So entsteht auch auf begrenzter, souveräner Infrastruktur ein Sprachmodell, das nicht nur triviale Fragen beantwortet, sondern tief in die fachlichen Prozesse einer Bank eingreifen kann.

Ein Ausblick mit klarer Richtung

Ob im Browser, in der Verschlüsselung, in der Aufsicht oder in der Architektur des eigenen Chatbots: Vertrauen ist das Thema, das sich durch diese Folge zieht. Es entscheidet, welche Aufgaben Banken einem Agenten übergeben, welche Daten sie einem Modell anvertrauen und wie sie gegenüber der eigenen Aufsicht Rechenschaft ablegen. Wer diese Fragen aktiv beantwortet, statt auf Klarheit von außen zu warten, verschafft sich einen deutlichen Vorsprung in der nächsten Phase der KI-Transformation.

Haben Sie schon alle Folgen unseres Podcasts gehört?