banKIng3 – Drei Generationen, eine Vision
Die Finanzbranche steht vor einem Generationenwechsel – nicht nur in der Führung, sondern auch in der Technologie. banKIng³ zeigt, wie künstliche Intelligenz das Banking neu definiert und welche Rolle verschiedene Generationen in dieser Transformation spielen. Experten diskutieren über innovative KI-Anwendungen, regulatorische Herausforderungen und den Balanceakt zwischen Erfahrung und technologischer Disruption.
Unabhängig davon, ob Sie Teil der jungen Generation im Banking sind oder auf bewährtes Wissen setzen – banKIng³ liefert Ihnen die Insights, mit denen Sie die Zukunft aktiv mitgestalten können.
KI-Agenten außer Kontrolle? Warum Banken jetzt einen AI-Officer brauchen
Ausgangspunkt dieser Folge ist eine Beobachtung, die viele Banker kennen dürften: In kaum einer anderen Branche laufen aktuell so viele KI-Piloten parallel wie im Banking. Die eigentliche Frage lautet allerdings nicht, wie viele Piloten eine Bank verträgt, sondern wie aus ihnen tatsächlich produktive Anwendungen werden.
Von dort aus spannt sich der Bogen weit. Es geht um die Frage, wer in der Bank die KI-Transformation überhaupt verantworten sollte, warum aus zu vielen kleinen Agenten schnell ein neues IT-Chaos entstehen kann und welche Sicherheitsrisiken Banken beim Einsatz autonomer Agenten im Blick behalten müssen. Zum Schluss der Folge wird es noch einmal regulatorisch, wenn es um die Kennzeichnungspflicht für KI-generierte Inhalte geht.
Die Pilotenfalle und der Weg zum echten Business Case
Viele Organisationen stecken in denselben Grundlagenproblemen fest, egal wie unterschiedlich ihre Piloten aussehen. Häufig fehlt schlicht die Datenverfügbarkeit im großen Maßstab, dazu kommen unklare Governance-Rahmenbedingungen, die eine Ausweitung des Piloten in den produktiven Betrieb erschweren. Wenn dann zusätzlich zehn, zwanzig oder dreißig Piloten gleichzeitig auf unterschiedlichen Software-Stacks entstehen, wird das für viele Organisationen kaum noch verdaubar.
Die Empfehlung aus der Praxis ist deshalb, Piloten bewusst als Lernwerkzeug zu behandeln und nicht als Selbstzweck. Wer früh einen Business Case mit klaren KPIs aufstellt und Vorhaben in einer Impact-Effort-Matrix einordnet, erkennt schneller, welcher Hebel tatsächlich für die gesamte Bank zählt und welcher nur eine einzelne Person entlastet.
Genauso wichtig ist der Mut, Piloten auch scheitern zu lassen, statt sie krampfhaft schönzurechnen. Nur so entsteht am Ende eine Prozessautomatisierung, die sich wirklich skalieren lässt.
Wer verantwortet eigentlich die KI-Transformation?
Sobald die Grundsatzfrage nach Infrastruktur und Verantwortung auf den Tisch kommt, wird es in vielen Häusern unübersichtlich. Die IT kennt die fachlichen Anwendungsfälle oft nicht im Detail, die Fachbereiche wiederum haben selten den Überblick über die notwendige Infrastruktur. Am Ende landet die Diskussion schnell auf C-Level, wo unterschiedliche Sichtweisen zusammengeführt werden müssen.
Genau deshalb setzen immer mehr Banken auf eine explizite AI-Officer-Rolle, die diese Fäden zusammenführt. Diese Entwicklung ist längst im Markt angekommen, wie aktuelle Gespräche mit einer VC-finanzierten Digitalbank zeigen, die dank eines eigenen AI-Officers ihre KYC-Prozesse innerhalb weniger Monate digitalisiert hat.
Von der Idee in denproduktiven Betrieb
Wenn aus Agenten ein neuer Wildwuchs wird
Kaum ist die Pilotenphase überstanden, droht das nächste Problem: zu viele Agenten. Was einst als Effizienzhebel gedacht war, kann schnell zu einem unübersichtlichen Geflecht kleiner Helfer werden, ganz ähnlich den unzähligen Excel-Makros, die in vielen Banken bis heute niemand vollständig überblickt. Genau diesen Fehler gilt es mit KI-Agenten zu vermeiden.
Statt Fachbereiche einfach dezentral Agenten bauen zu lassen, braucht es zentrale Prozesse, die festlegen, welche Aufgaben ein Agent übernimmt, welche beim Menschen bleiben und wo eine hybride Zusammenarbeit sinnvoller ist. Dazu gehört auch eine Art permanente Inventur: Welche Agenten gibt es, wie oft werden sie genutzt und welche lassen sich guten Gewissens wieder abschalten.
Ohne diese Struktur drohen schnell tausende bis zehntausende Agenten, die niemand mehr im Griff hat.
Sicherheit zuerst, auch bei der eigenen Verteidigung
Mit wachsender Agenten-Landschaft rückt auch die Sicherheit stärker in den Fokus. Besonders kritisch wird es, wenn ein Agent autonom handeln kann, Zugriff auf sensible Daten hat und gleichzeitig extern kommuniziert, etwa über das Internet. Genau diese Kombination öffnet Tür und Tor für Prompt Injections, bei denen ein Agent über manipulierte Inhalte dazu gebracht wird, seine eigentlichen Anweisungen zu ignorieren.
Zwischen dem Entdecken einer Sicherheitslücke und dem ersten Exploit vergehen inzwischen oft nur noch wenige Tage.
Fabian FortmannManager | Artificial Intellicence | msg for banking
Gleichzeitig kann künstliche Intelligenz aber auch aktiv zur Verteidigung beitragen. KI kann hier helfen, neue Schwachstellen zu identifizieren, ihr Risiko für die eigene Systemlandschaft schnell zu bewerten und den Prozess bis zum Patch zu beschleunigen, immer mit einem Menschen als letzter Kontrollinstanz.
Wichtig bleibt dabei, Test- und Produktivumgebungen strikt zu trennen und Agenten niemals dieselben Zugangsdaten zu geben.
Kennzeichnungspflicht: Was der EU AI Act wirklich verlangt
Zum Abschluss geht es um ein Thema, das seit dem Inkrafttreten des Transparenzteils im EU AI Act für Verwirrung sorgt. Anders als vielfach berichtet, gibt es keine generelle Kennzeichnungspflicht für alle KI-Inhalte. Anbieter müssen synthetische Inhalte zwar technisch maschinenlesbar markieren, für Nutzer wird eine Kennzeichnungspflicht aber erst in speziellen Fällen relevant, etwa bei Deepfakes oder vollautomatisch veröffentlichten Texten zu Themen von öffentlichem Interesse.
Wer einen KI-generierten Text redaktionell prüft und dann selbst veröffentlicht, muss ihn nach aktueller Regelung nicht kennzeichnen, weil ein Mensch die Verantwortung übernimmt. Diese Ausnahme wirkt auf den ersten Blick überraschend großzügig, macht die Regelung in der Praxis aber deutlich handhabbarer für alle, die KI als Unterstützung im Alltag nutzen.
Von der Pilotenfalle über den Agenten-Wildwuchs bis zur Frage der Kennzeichnungspflicht zeigt diese Folge, wie viele Baustellen Banken auf dem Weg zur echten KI-Reife gleichzeitig bearbeiten müssen.
Klar wird dabei vor allem eines: Wer Geschwindigkeit gewinnen will, kommt an klaren Strukturen, klarer Verantwortung und klarer Sicherheit nicht vorbei.
