Big Data und künstliche Intelligenz (BDAI)

Im Rahmen der verschiedenen Digitalisierungsinitiativen im Finanzdienstleistungssektor werden immer mehr Technologien und Algorithmen in der Praxis verwendet, die – basierend auf Big Data und künstlicher (artificial) Intelligenz (BDAI) – zur Automatisierung und Optimierung von Entscheidungsprozessen beitragen. Daraus ergeben sich viele Chancen für Unternehmen (Verbesserung von Prognosen, Reduktion von Kosten) und Verbraucherinnen und Verbraucher (schnellere Entscheidungen, passgenauere Preise). Doch es ergeben sich auch neue Risiken, die es zu beherrschen gilt und die zwangsläufig einen noch zu entwickelnden Regulierungsrahmen erfordern (siehe hierzu beispielsweise auch die Publikationen BaFin-Perspektiven, Ausgabe 1/2018 sowie Ausgabe 1/2019).

Prinzipienpapier der BaFin für den Einsatz von Algorithmen in Entscheidungsprozessen

Die BaFin hat Mitte Juni 2021 hierzu ein Prinzipienpapier veröffentlicht, das als erste Orientierungshilfe dienen soll (1), und auf dessen Grundlage der Startschuss für weitere Impulse sowie Diskussionen gegeben wird. Die Europäische Kommission möchte nämlich bis 2024 gemeinsam mit den Europäischen Aufsichtsbehörden (European Supervisory Authorities – ESAs) Erwartungen an die Verwendung von BDAI-Technologie formulieren.

Grundsätzlich lassen sich BDAI-Verfahren schwer von der klassischen Statistik unterscheiden, es gibt jedoch drei entscheidende Merkmale:

1. Höhere Komplexität erschwert die Nachvollziehbarkeit
2. Lerneigenschaft und höhere Datenverfügbarkeit verkürzt Rekalibrierungszyklen und verringert Aussagekraft der klassischen Validierung
3. Automatisierung steigt bei verminderten Eingriffsmöglichkeiten

Um diese Risiken zu begrenzen, beinhaltet das Prinzipienpapier einige aufsichtsrechtliche Mindestanforderungen, die im ersten Schritt noch relativ offen formuliert sind und an vielen Stellen vor allem „menschlich induzierte“ Kontrollmaßnahmen fordern, um mögliche Gefahren, wie zum Beispiel unerlaubte Diskriminierung bei der Entscheidungsfindung einzudämmen.

Konzeptionell unterscheidet die BaFin in übergeordnete und spezifische Prinzipien, wobei für letztere vor allem die Differenzierung in Entwicklungs- und Anwendungsphase entscheidend ist und klar gemacht wird, dass eine generelle Erlaubnis für den Einsatz derzeit nicht vorgesehen wird, allerdings im Einzelfall nach Prüfung für viele Anwendungsgebiete denkbar ist.

Die Ergänzung um vier dargestellte konkrete Use Cases zeigt, dass seitens der Regulierung durchaus die Verwendung von BDAI-Verfahren akzeptiert und erwünscht ist, insbesondere dann, wenn dadurch andere Risiken für Institute begrenzt werden können. Folgende Anwendungsfälle werden dabei beschrieben:

1. Anwendung von Telematik-Tarifen in der KFZ-Versicherung
2. Ergänzende Informationsauswertung für das Kreditrating
3. Sanktionsscreening in der Geldwäscheerkennung
4. Verwaltung von Fonds

Fazit

Insgesamt stellt das Prinzipienpapier unseres Erachtens einen weiteren Schritt in die richtige Richtung dar. Neben dem regulatorischen Rahmen wird aktuell auch in der Forschung einiges zu „Explainable AI“, also zur Verbesserung der Nachvollziehbarkeit von Algorithmen entwickelt und gemeinsam mit Unternehmen wie der msgGillardon AG in der Praxis verprobt. Zielsetzung wird mittelfristig sein, dass man Algorithmen und deren Anwendung analog zu anderen Prozessen zertifiziert, um standardisierte Qualitätssiegel zu erhalten.

Sprechen Sie uns hierzu gerne an, wir begleiten Sie gerne in Ihrem Vorhaben – basierend auf dem aktuellen Stand aus Forschung, Praxis und Regulatorik aufgrund unserer vielfältigen und langjährigen Erfahrungen in diesem Thema.

Kennen Sie schon unseren Newsletter „Aufsichtsrecht & Meldewesen“?