Der AI Act für Finanzdienstleister: regulatorische Anforderungen und technischer Nachweis

Die Nutzung von KI-Systemen im Finanzsektor nimmt rasant zu. Mit dem schrittweisen Inkrafttreten des AI Act stehen Finanzinstitute vor der Herausforderung, bestehende Governance-, Compliance- und Risikomanagementstrukturen um neue regulatorische Anforderungen zu erweitern. Im Mittelpunkt stehen dabei insbesondere die Einordnung von KI-Systemen in eine der Risikoklassen des AI Acts, die Bestimmung der eigenen Rolle entlang der Wertschöpfungskette sowie die Umsetzung der hieraus resultierenden Pflichten und deren Nachweis. Zugleich müssen die Vorgaben des AI Acts mit bereits bestehenden Anforderungen aus MaRisk, DORA, DSGVO und sonstigem bestehenden Recht verzahnt werden.

Welche Fragestellungen sich hieraus in der Praxis ergeben und welche Lösungsansätze es bereits heute gibt, haben Dr. Benedikt Flöter, Dr. Carola Rathke, Dr. Lea Ossmann-Magiera und Dr. Aiko Yamashita (Calvin Risk) in ihrem Webinar anhand eines typischen Anwendungsfalls veranschaulicht: Eine fiktive Bank setzt einen KI-gestützten Chatbot ein, der Kundenangaben erhebt, diese analysiert und für eine Kreditwürdigkeitsprüfung verarbeitet. Die finale Kreditentscheidung wird anschließend von einem Mitarbeitenden der Bank getroffen. Aus Sicht des AI Act stellen sich hierbei insbesondere Fragen in folgenden Bereichen:

Bestimmung der regulatorischen Rolle nach dem AI Act

Am Anfang der Compliance-Prüfung steht die Frage, welche Rolle das Finanzinstitut einnimmt, denn die Rolle, z.B. als Anbieter oder Betreiber eines KI-Systems, bestimmt den Umfang der einzuhaltenden Compliance-Pflichten. Wer ein von einem Dritten entwickeltes KI-System in eigener Verantwortung verwendet, ist in der Regel Betreiber (Art. 3 Nr. 4 AI Act). Viele Institute gehen jedoch weiter: Wer Komponenten zu einem eigenen System zusammenführt und unter eigenem Namen einsetzt, ein Hochrisiko-System wesentlich verändert, etwa durch eigenes Nachtraining des Scoring-Modells, oder die Zweckbestimmung eines Systems ändert, wird selbst zum Anbieter eines KI-Systems (Art. 3 Nr. 3, Art. 25 Abs. 1 AI Act) und unterliegt deutlich umfangreicheren Pflichten.

Die Rollenbestimmung sollte dementsprechend für jedes KI-System dokumentiert und regelmäßig überprüft werden. Änderungen an Architektur, Integrationsgrad oder Zweckbestimmung können eine Neubewertung erforderlich machen und den Umfang der einschlägigen Pflichten erheblich verändern. Zudem ist es nicht ungewöhnlich, dass ein Institut hinsichtlich verschiedener KI-Systeme oder einzelner Systembestandteile unterschiedliche Rollen im Sinne des AI Act einnimmt.

Risikoklassifizierung nach dem AI Act

Finanzinstitute sollten als nächstes prüfen, ob die von ihnen eingesetzten KI-Systeme als Hochrisiko-KI-Systeme im Sinne des Art. 6 AI Act einzustufen sind. Hierzu zählen insbesondere KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen verwendet werden sollen (Anhang III Nr. 5 lit. b AI Act) sowie KI-Systeme zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung (Anhang III Nr. 5 lit. c AI Act). Nicht erfasst sind hingegen KI-Systeme, die ausschließlich dem Zweck dienen, Finanzbetrug aufzudecken und zu verhindern.

Im dargestellten Praxisfall spricht vieles für eine Einstufung als Hochrisiko-KI-System nach Art. 6 Abs. 2 i.V.m. Anhang III Nr. 5 lit. b AI Act. Der Chatbot erhebt Kundenangaben und verarbeitet sie im Rahmen einer Bonitätsprüfung. Dass die endgültige Kreditentscheidung durch einen Mitarbeitenden getroffen wird, steht einer Hochrisiko-Einstufung grundsätzlich nicht entgegen. Die Ausnahme nach Art. 6 Abs. 3 AI Act, nach der KI-Systeme etwa dann nicht als hochriskant einzustufen sind, wenn sie das Ergebnis einer menschlichen Entscheidung nicht wesentlich beeinflussen, weil sie diese lediglich vorbereiten, greift bei kreditbezogenen Scoring-Prozessen regelmäßig nicht, da diese typischerweise auf einer Bewertung personenbezogener Informationen natürlicher Personen, also auf sogenanntem „Profiling“, beruhen.

Für Wertpapierinstitute, Kapitalverwaltungsgesellschaften, Zahlungs- und E-Geld-Institute sowie Kryptowerte-Dienstleister folgt aus dem Kerngeschäft dagegen regelmäßig keine Einstufung als Hochrisiko-KI-System, da sie in der Regel keine Kredite an natürliche Personen vergeben. Relevant bleiben aber sektorübergreifende Einsatzszenarien von KI-Systemen, wie etwa im Personalbereich für das Recruiting, bei der Entscheidung über Beförderungen oder Kündigungen (Art. 6 Abs. 2 i.V.m. Anhang III Nr. 4 AI Act). Unabhängig von der Risikoklasse gelten zudem allgemeine Pflichten, die bereits heute anwendbar sind: Institute müssen etwa Maßnahmen zur KI-Kompetenz ihres Personals ergreifen (Art. 4 AI Act), und Chatbots müssen so gestaltet sein, dass Kund:innen erkennen, dass sie mit einer KI interagieren (Art. 50 Abs. 1 AI Act).

Bestehende Governance hilft, ersetzt Compliance-Maßnahmen unter dem AI Act aber nicht

Beim Einsatz von KI-Systemen durch Banken kommen neben dem AI Act bereits die MaRisk, DORA und die DSGVO zur Anwendung. Die Regelwerke gelten dabei grundsätzlich nebeneinander: Der AI Act verdrängt weder das Aufsichtsrecht noch die DSGVO oder DORA.

Für Finanzinstitute ist dabei insbesondere das seit dem 30. Juni 2026 geltende MaRisk-Modul AT 4.3.4 „Verwendung von Modellen“ relevant. Es erfasst alle wesentlichen Modelle eines Instituts, und zwar unabhängig davon, ob sie nach dem AI Act als hochriskant gelten.

Der AI Act sieht für beaufsichtigte Finanzinstitute an mehreren Stellen ausdrücklich die Möglichkeit vor, bestehende aufsichtsrechtliche Governance-Strukturen zu nutzen. So kann das Risikomanagementsystem nach Art. 9 Abs. 10 AI Act in bestehende Verfahren des Risikomanagements integriert werden. Darüber hinaus gelten die Anforderungen an das Qualitätsmanagementsystem (QMS) nach Art. 17 AI Act für Institute, die den einschlägigen sektoralen Governance-Anforderungen, insbesondere nach MaRisk, nachkommen, weitgehend als erfüllt (vgl. Art. 17 Abs. 4 AI Act). Hiervon ausgenommen bleiben insbesondere die Anforderungen an das Risikomanagementsystem, das Post-Market-Monitoring sowie die Pflicht zur Meldung schwerwiegender Vorfälle. Auch die technische Dokumentation kann in bestehende Dokumentationsstrukturen eingebettet werden. Inhaltlich müssen jedoch weiterhin sämtliche Angaben nach Anhang IV AI Act, wie etwa eine Beschreibung der Zweckbestimmung, Funktionsweise und der Systemarchitektur, vorgehalten werden.

Wie groß die verbleibenden Lücken sind, zeigt unser Abgleich der Anbieterpflichten mit der MaRisk im Praxisfall:

• 2 Pflichten sind durch bestehende Prozesse abgedeckt,

• 10 müssen angepasst oder ausgebaut werden,

• 5 sind neu aufzusetzen,

darunter die automatische Protokollierung, die Registrierung in der EU-Datenbank, die Kennzeichnung der KI-Interaktion und die Meldung schwerwiegender KI-Vorfälle. Auch die Override-Regelung im Kreditprozess im Rahmen der MaRisk ist eine gute Basis, deckt die Anforderungen an wirksame menschliche Aufsicht (Art. 14 AI Act) aber nicht vollständig ab. Hinzu kommen etwa die KI-spezifische Befähigung der Aufsichtspersonen, eine Stopp-Funktion, die alle Systemkomponenten erreicht, und Maßnahmen gegen Automation Bias, die nach dem AI Act ergriffen werden müssen.

Der technische Nachweis rückt in den Fokus

Mit dem Näherrücken der Anwendbarkeit der Hochrisiko-Pflichten gewinnt die Frage an Bedeutung, wie sich ihre Einhaltung praktisch und technisch nachweisen lässt. Eine zentrale Rolle spielen dabei harmonisierte Normen: Befolgen Anbieter von Hochrisiko-KI-Systemen eine im Amtsblatt der EU veröffentlichte harmonisierte Norm, wird vermutet, dass sie die davon erfassten Anforderungen erfüllen (Art. 40 AI Act). Am 14. Oktober 2026 hat die Europäische Kommission mit der EN 18286:2026 erstmals eine solche Norm bekannt gemacht. Sie konkretisiert die Anforderungen an das Qualitätsmanagementsystem (QMS) nach Art. 17 AI Act und ergänzt die ISO/IEC 42001.

Für Finanzinstitute gilt die QMS-Pflicht nach Art. 17 Abs. 4 AI Act zwar weitgehend als erfüllt, wenn sie die Governance-Vorgaben des Finanzaufsichtsrechts, in Deutschland insbesondere der MaRisk, einhalten. Die EN 18286:2026 bleibt für sie dennoch relevant: Risikomanagement, Post-Market-Monitoring und Vorfallmeldung sind von dieser Erleichterung ausgenommen, und bei der Frage, ob die bestehende Governance ausreicht, sind harmonisierte Normen ausdrücklich zu berücksichtigen. Für die übrigen Hochrisiko-Anforderungen, insbesondere die der Art. 9 bis 15 AI Act, fehlen harmonisierte Normen bislang. Insoweit müssen Anbieter, auch Finanzinstitute, die Einhaltung mit eigenen Nachweis- und Dokumentationskonzepten belegen.

Praktische Orientierung bietet in diesem Zusammenhang schon heute der „Test Criteria Catalogue for AI Systems in Finance“ des BSI. Der Katalog ist rechtlich nicht verbindlich, konkretisiert jedoch zentrale Anforderungen an vertrauenswürdige KI-Systeme und enthält praxisnahe Prüfkriterien sowie Beispiele für deren Umsetzung und Validierung.

Wie ein solcher Nachweis technisch aussieht, ist im Webinar diskutiert worden: Welche Evidenz sollte vor dem Go live vorliegen? Worin unterscheidet sich eine einmalige Modellvalidierung von kontinuierlicher Assurance im Betrieb? Was können Bias- und Fairness-Tests belegen und was nicht? Und wie lässt sich Monitoring so aufsetzen, dass es die menschliche Aufsicht tatsächlich unterstützt, statt nur ein Dashboard zu füllen?

Fazit: Jetzt die Übergangsphase nutzen

Die Hochrisiko-Pflichten für KI-Systeme nach Anhang III gelten infolge des KI-Omnibus (Verordnung (EU) 2026/1744) ab dem 2. Dezember 2027. Das ist jedoch kein Grund abzuwarten: Die Verbote und die Pflicht zur KI-Kompetenz gelten seit Februar 2025, die neuen MaRisk-Anforderungen an Modelle seit Juni 2026 und die Transparenzpflichten nach Art. 50 AI Act seit August 2026. Zudem benötigen der Aufbau belastbarer KI-Governance-Strukturen, die Implementierung geeigneter Kontrollmechanismen und die Vorbereitung einer belastbaren Nachweisführung erhebliche Vorlaufzeit.

Im Vordergrund stehen jetzt:

• der Aufbau eines KI-Inventars und die Klassifizierung aller KI-Systeme

• die dokumentierte Rollenbestimmung je System, insbesondere die Frage, ob Integration, Nachtraining oder Zweckänderung zur Anbietereigenschaft führen
• die frühzeitige Prüfung von Drittanbietersystemen und die vertragliche Absicherung der Informationen und Protokolle, die für die eigene Nachweisführung nötig sind
• die Identifizierung und Schließung von Umsetzungslücken innerhalb der bestehenden Governance-, Risiko- und Compliance-Strukturen im Hinblick auf die Anforderungen des AI Act
• die Kennzeichnung von KI-Chatbots, die bereits heute verpflichtend ist

Eine belastbare Modell-Governance bildet die Grundlage für eine effiziente Umsetzung der Anforderungen des AI Act und eine nachhaltige Compliance-Strategie.

Hintergrund

Welche Pflichten sich aus dem AI Act ergeben, wie diese mit MaRisk, DSGVO & Co. zusammenwirken, und wie die Kombination aus rechtlicher Einordnung und automatisierter technischer Prüfung) einen belastbaren Konformitätsnachweis liefern kann, haben wir gemeinsam mit Dr. Aiko Yamashita von Calvin Risk betrachtet.