02.08.2021: BaFin veröffentlicht Prinzipienpapier für den Einsatz von Algorithmen in Entscheidungsprozessen von Finanzunternehmen.

Binäre Zahlen

Am 15. Juni 2021 veröffentlichte die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) ihr Prinzipienpapier für den Einsatz von Algorithmen in Entscheidungsprozessen von Finanzunternehmen. Damit hofft die BaFin einen verantwortungsvollen Umgang mit Big Data und künstlicher Intelligenz (BDAI) zu bewirken und damit verbundene Risiken kontrollieren zu können.

Durch die zunehmende Digitalisierung werden zunehmend mehr Technologien basierend auf BDAI zur Automatisierung und Optimierung von Entscheidungsprozessen verwendet. Damit entstehen jedoch nicht nur Chancen für Vereinfachung und Optimierung, sondern auch Risiken. Das Prinzipienpapier soll den Finanzunternehmen als Orientierungshilfe dienen.

Laut BaFin gibt es schwierige Abgrenzungsfragen zwischen dem BDAI-Verfahren und denen der klassischen Statistik. Es gibt jedoch drei Merkmale, die bei BDAI aus Risikosicht von Bedeutung sind:

  • Die verwendeten Algorithmen sind in der Regel sehr komplex, was wiederum die Nachvollziehbarkeit erschwert.
  • Die Grenzen zwischen Kalibrierung und Validierung verschwimmen zunehmend aufgrund immer kürzerer Rekalibrierungszyklen im Zusammenhang mit stetig lernenden Algorithmen und beinahe täglich neuen Daten.
  • Der zunehmende Grad an Automatisierung durch den steigenden Einsatz von BDAI-Methoden. Durch leichter hochskalierbare Prozesse nimmt die Auswirkung einzelner Algorithmen im Hinblick auf das letztendliche Ergebnis überproportional zu.

Das Prinzipienpapier ist in 5 Abschnitte geteilt und deckt folgende Themen ab:

  1. Konzeptioneller Rahmen
  2. Übergeordnete Prinzipien
  3. Spezifische Prinzipien für die Entwicklungsphase
  4. Spezifische Prinzipien für die Anwendung
  5. Einbettung der Prinzipien in internationale Regulierungsvorhaben

Zu 1.) Im Abschnitt zum konzeptionellen Rahmen erklärt die BaFin, dass sich der aufsichtsrechtliche Fokus auf den gesamten Entscheidungsprozess richtet. Das ergibt sich daraus, dass die Ergebnisse von Algorithmen mit den Daten und deren Qualität zusammenhängen. Zum Entscheidungsprozess zählt die BaFin die Datenquelle, die Datenübertragung und die Einbindung in den Geschäftsprozess. Für den Entscheidungsprozess soll auch weiterhin der Grundsatz „gleiches Geschäft, gleiches Risiko, gleiche Regeln“ gelten.

Zu 2.) Zu den übergeordneten Prinzipien gehören die klare Verantwortung der Geschäftsleitung von Banken und Finanzdienstleistern. Das heißt sie ist beispielsweise verantwortlich für die Strategien und Richtlinien zum Einsatz von auf Algorithmen basierenden Entscheidungsprozessen. Des Weiteren ist die Geschäftsleitung für ein angemessenes Risiko- und Auslagerungsmanagement verantwortlich. Zudem ist es wichtig bei Algorithmen basierten Entscheidungsprozessen eine systemische Verzerrung von Ergebnissen zu vermeiden, um unternehmerische Entscheidungen treffen zu können und Reputationsrisiken durch die Benachteiligung einzelner Kundengruppen zu vermeiden.

Zu 3. und 4.) Die BaFin erklärt, dass sie die Entscheidungsprozesse zu Algorithmen in eine Entwicklungsphase und eine Anwendungsphase unterteilen wird, um die Prinzipien so genau wie möglich formulieren zu können.

Zur Entwicklungsphase gehören:

  • Die Art und Weise wie Algorithmen ausgewählt und kalibriert werden,
  • Prinzipien der Datenstrategie sowie
  • Prinzipien zur Dokumentation der unternehmensinternen und externen Nachvollziehbarkeit.

Bei der Datenstrategie und Data Governance ist es wichtig, dass die Daten in ausreichender Qualität und Quantität vorhanden sind. Daher ist ein überprüfbares Verfahren von

hoher Bedeutung. Des Weiteren müssen auf Algorithmen basierende Endscheidungsprozesse datenschutzkonform sein. Ebenso muss eine Dokumentation für interne und externe Nachvollziehbarkeit der Algorithmen geschaffen werden.

Zur Anwendungsphase gehören:

  • Interpretation der Ergebnisse des Algorithmus,
  • Einbindung in Geschäftsprozesse.

Zur Erreichung dieser beiden Punkte sollte ein verlässlicher Mechanismus geschaffen werden, der die ausreichende Kontrolle, Feedbackloops und Anpassungsregelungen für die Entwicklungsphase beinhaltet. Abgesehen davon sind zudem Notfallmaßnahmen zu etablieren, mit denen der Geschäftsbetrieb aufrecht erhalten werden kann für den Fall, dass es zu Problemen kommt.

Zudem muss eine funktionierende Geschäftsordnung eingeführt sein, die ausreichende Kontrollmechanismen mit entsprechenden Feedbackloops zur Entwicklungsphase umfasst. Des Weiteren sind eine klare Verantwortungsstruktur und ein angemessenes Risiko- und Auslagerungsmanagement unabdingbar.

Zu 5.) Zur Einbettung der Prinzipien in internationale Regulierungsvorhaben merkt die BaFin an, dass diese eine vorläufige Überlegung zu aufsichtsrechtlichen Mindestanforderungen für den Einsatz von künstlicher Intelligenz darstellen. Zudem möchte die Europäische Kommission gemeinsam mit den Europäischen Aufsichtsbehörden bis 2024 die Erwartungen an die Nutzung von BDAI-Technologie darlegen.

Wir begrüßen das Prinzipienpapier und denken, dass es einen wichtigen Schritt für die aufsichtsrechtliche Entwicklung im Bereich BDAI darstellt, um einen funktionierenden Ablauf bei automatisierten Entscheidungsprozessen sicherzustellen.

Quelle: BaFin

Weiterführende Informationen

PfeilPrinzipienpapier BDAI

PDF IconBlog-Beitrag Banking Vision


 

Ansprechpartner

Andreas Mach

Anndreas Mach
Geschäftsführer

Kontakt


 

Ansprechpartner

Davor Jurak

Davor Jurak
Geschäftsführer

Kontakt

Zurück