Mit Data Analytics und künstlicher Intelligenz in die Banking Cloud

Besondere Anforderungen an Entwicklung und Betrieb einer Banking Cloud

Bereits für IT-Anwendungen in der Cloud bestehen für Banken allgemeine regulatorische Anforderungen, etwa die MaRisk AT 7.2 (Technisch-organisatorische Ausstattung) oder AT 9 (Auslagerungen) sowie deren Konkretisierung in den Bankaufsichtlichen Anforderungen an die IT (BAIT):

• Integrität: korrekte Daten, nachvollziehbare Modifikationen
• Verfügbarkeit: zeitliche Verfügbarkeit, Verhinderung von Systemausfällen
• Authentizität: Echtheit, Überprüfbarkeit, Vertrauenswürdigkeit der Daten
• Vertraulichkeit: Autorisierung, Resilienz gegen Schädigungen oder Störungen, DSGVO-Konformität
• Rechtemanagement: Need-to-know-Prinzip, Vier-Augen-Prinzip, Logging
• Datensicherung: separates Speichermedium, in angemessener Zeit wieder herstellbar
• Test- und Produktionsumgebung: Trennung Test und Produktion, Testen bei wesentlichen Änderungen
• Notfallkonzept: Prozeduren zur Geschäftsfortführung, Wiederanlaufplan

Möchte man jedoch KI-Anwendungen in der Banking Cloud entwickeln und betreiben, ergeben sich noch weitere spezifische Anforderungen an Datenschutz, Datensicherheit, IT-Governance und Revisionssicherheit.

Grad der Auslagerung von Services

Gemessen am Grad der Auslagerung von Services liegt bei den Modellen Infrastructure und Platform as a Service (IaaS/PaaS) das Management von Anwendungen und Daten weiterhin beim jeweiligen Institut. Und auch beim Modell Software as a Service (SaaS) bleibt die letztliche Verantwortung bei der Geschäftsleitung, zum Beispiel dem Chief Information Security Officer (CISO), etwa in Form einer Risikobewertung, der Anpassung des internen Kontrollsystems (IKS) und der IT-Governance. Regelmäßig ist dabei von einer wesentlichen Auslagerung auszugehen.

Wenn KI-Leistungen von einem Institut als Service Dritter in Anspruch genommen werden (AIaaS), werden Daten in eine Cloud-Anwendung des Service-Providers gesendet, dort mit KI verarbeitet und Ergebnisse zurückgeliefert. Ein Beispiel ist das Real-time Transaction Monitoring, das Zahlungsverkehrstransaktionen vor Verbuchung auf Geldwäsche überprüft.

Grad der Auslagerung des Betriebs

Während also in der Private Cloud die vollständige Kontrolle noch bei der Bank liegt, kommt bei den Modellen Hybrid und Public Cloud noch der Aspekt hinzu, dass die Daten physisch bei einem Drittanbieter liegen (Datenhaltung in Deutschland/EU-Raum). Außerdem muss geregelt werden, welche Dienste weiterhin nur intern und welche extern zur Verfügung stehen.

Ein intern betriebener KI-Anwendungsfall lässt sich einfacher BAIT-konform aufsetzen (zum Beispiel Datenqualitätsanalysen, Anomalieerkennung oder Berechnung von Next-Best-Offer und Produktaffinitäts-Scores).

Sobald jedoch ein Austausch von Daten mit Dritten in Spiel kommt, etwa durch eine Upload-/Downloadmöglichkeit oder ein Application Programming Interface (API), gelten hier erhöhte Anforderungen, wie zum Beispiel bei ChatBots oder KI-gestützten Online-Anfragen zu Bonität und maximalem Kredit. Die Vernetzung mit Dritten wird dabei zukünftig zunehmen (PSD2-Schnittstelle, Open Banking, Banking-Leistungen auf virtuellen Marktplätzen).

KI-Life-Cycle

Der KI-Life-Cycle kann vereinfachend in drei Bereiche untergliedert werden, die für sich gesehen auch in der Cloud abgebildet werden können, woraus sich dann spezifische Anforderungen ergeben.

1. Sammlung, Bereinigung, Aufbereitung und Analyse großer Datenmengen
2. Modellentwicklung, Training und Testen, Modellvalidierung
3. Deployment, Regelbetrieb und Betriebsüberwachung

Hierfür sind oft große Speicher- und Rechenkapazitäten notwendig, die in der Cloud bereitgestellt werden. Darüber hinaus werden häufig für die Entwicklung von KI-Anwendungsfällen Machine-Learning-Libraries und -Frameworks der großen Anbieter Microsoft Azure, Amazon Web Services oder Google Cloud Platform genutzt, was auch hier den Austausch von Daten erforderlich macht.

AIC4

Das Bundesamt für Sicherheit in der Informationstechnik lieferte jüngst mit dem KI-Cloud-Service Compliance Criteria Catalogue (AIC4) wertvolle Anhaltspunkte für KI auch in der Banking Cloud:

• Sicherheit und Robustheit: Kontinuierliche Beurteilung von Risiken während der Trainings-, Test- und Betriebsphase, Schutz vor Kontaminierung und Manipulation von Daten, Test der Robustheit von KI-Modellen gegen Angriffe
• Performanz und Funktionalität: Modellvalidierung, Tests, Abnahme, wirksame Prozeduren
• Verlässlichkeit: In der Produktion bei hohem Datenaufkommen, Zuweisung von Ressourcen, Logging, Prozeduren bei Fehlern und Ausfällen, Datensicherung und Disaster Recovery
• Datenqualität: Daten aus vertrauenswürdigen Quellen, korrekte Datenbereinigung und -aufbereitung, nachvollziehbar verarbeitet
• Datenmanagement: Richtlinien zur Datenverarbeitung, Datenqualität, CRUD-Berechtigungen
• Erklärbarkeit: Messverfahren zur Nachvollziehbarkeit von Entscheidungen durch KI-Modelle
• Bias: Evaluierung, Messung und Eingrenzung systematischer Abweichungen/Diskriminierungen bei Trainings- und Testdaten sowie den Modellergebnissen

Mögliche Angriffe auf KI-Systeme

Besonderes Augenmerk gilt den technisch möglichen Angriffen auf KI-Systeme (Adversarial Attacks), die Modelle durch zum Teil geringfügige Datenmanipulation oder Kontaminierung zu abweichenden Ergebnissen verleiten. Zwischenzeitlich existieren Robustheitsanalysen, wie cleverhans oder IBM Clever Robustness Score und Abwehrmaßnahmen, wie Training des Modells mit antizipierten „adversarial examples“ oder komplexere Modellbildung mit Ensembles. Allerdings steht diese Entwicklung erst am Anfang. Es ist also davon auszugehen, dass insbesonere in der Banking Cloud KI-Sicherheit ein wichtiges Zukunftsthema werden wird.