Ihr Standort: movisco // Blog »
kontakt mail icon
kontakt phone icon

Wenn der Algorithmus entscheidet: Wie viel Vertrauen braucht KI im Bankgeschäft?

Künstliche Intelligenz verändert das Bankgeschäft. Sie analysiert Daten, unterstützt Mitarbeitende und kann Entscheidungen vorbereiten oder beeinflussen. Doch je stärker KI in geschäftskritische Prozesse eingebunden wird, desto wichtiger wird eine Frage: Wie viel Vertrauen darf eine Bank in den Algorithmus setzen – und wie schafft sie dieses Vertrauen?

Für Banken geht es dabei längst nicht mehr nur um technische Leistungsfähigkeit. Entscheidend sind nachvollziehbare Prozesse, klare Verantwortlichkeiten, angemessene Kontrollen und ein Umgang mit Risiken, der zum jeweiligen Anwendungsfall passt. Vertrauen in KI entsteht deshalb nicht allein durch gute Modelle, sondern durch einen verlässlichen organisatorischen Rahmen.

Was bedeutet KI im Bankgeschäft?

Künstliche Intelligenz ist im Bankensektor kein Zukunftsthema mehr. Banken nutzen KI unter anderem zur Analyse großer Datenmengen, zur Betrugserkennung, im Kundenservice, bei der Dokumentenverarbeitung, im Risikomanagement und zur Unterstützung interner Prozesse. Auch generative KI eröffnet neue Möglichkeiten, beispielsweise bei der Aufbereitung von Informationen, der Erstellung von Texten oder der Unterstützung von Mitarbeitenden.

Dabei ist es hilfreich, zwischen unterschiedlichen Rollen von KI zu unterscheiden. In vielen Fällen liefert ein System lediglich eine Empfehlung oder Priorisierung. In anderen Prozessen kann das Ergebnis wesentlich stärker auf eine Entscheidung einwirken. Für die Governance ist daher nicht nur relevant, dass KI eingesetzt wird, sondern auch, welche Auswirkungen ihr Einsatz auf Kunden, Mitarbeitende und die Bank selbst haben kann.

Die Europäische Bankenaufsichtsbehörde beschreibt KI bereits als in verschiedenen Bereichen des Bankgeschäfts verbreitet. Dazu zählen unter anderem Marketing und Kundenservice, Betrugserkennung, Risikomanagement und Kreditprozesse.

Wenn Maschinen Entscheidungen unterstützen

Die entscheidende Veränderung durch KI liegt weniger darin, dass Maschinen „selbstständig entscheiden“. Vielmehr verändert sich die Art und Weise, wie Entscheidungen vorbereitet, bewertet und kontrolliert werden. Ein KI-System kann innerhalb kurzer Zeit eine große Zahl von Informationen verarbeiten und daraus Muster oder Empfehlungen ableiten, die für einen Menschen nur schwer erkennbar wären.

Gerade im Bankgeschäft entstehen daraus Chancen. Mitarbeitende können bei wiederkehrenden Aufgaben entlastet werden, Auffälligkeiten lassen sich schneller erkennen und Informationen können gezielter aufbereitet werden. Gleichzeitig darf die Geschwindigkeit einer KI nicht mit ihrer Verlässlichkeit gleichgesetzt werden. Ein plausibel wirkendes Ergebnis ist nicht automatisch ein richtiges Ergebnis.

Damit stellt sich eine zentrale Governance-Frage: Wer trägt die Verantwortung, wenn eine KI eine falsche Empfehlung liefert? Die Antwort sollte nicht erst im Schadensfall gesucht werden. Verantwortlichkeiten müssen bereits vor dem produktiven Einsatz eines Systems festgelegt sein – einschließlich der Frage, wann ein Mensch eingreifen muss und wie eine Entscheidung nachvollzogen werden kann.

Vertrauen braucht Governance

Vertrauen in KI entsteht nicht dadurch, dass ein Modell komplex oder modern ist. Es entsteht durch einen kontrollierten Umgang mit seiner Nutzung. Dafür braucht es klare Regeln: Welche KI-Systeme werden eingesetzt? Für welche Prozesse? Welche Daten werden verwendet? Welche Risiken entstehen? Wer ist verantwortlich? Und wie wird überprüft, ob das System weiterhin so funktioniert, wie es vorgesehen ist?

Eine belastbare KI-Governance sollte verschiedene Perspektiven verbinden. Fachbereiche müssen den konkreten Anwendungsfall kennen, IT und Datenverantwortliche müssen die technische Umsetzung und Datenqualität beurteilen, und Risiko- sowie Compliance-Funktionen müssen die Auswirkungen auf bestehende Kontrollsysteme berücksichtigen. Hinzu kommen Anforderungen an Dokumentation, Überwachung und die Qualifikation der Mitarbeitenden.

Besonders wichtig ist ein risikoorientierter Ansatz. Nicht jede KI-Anwendung benötigt dieselbe Intensität an Kontrolle. Ein internes Werkzeug zur Zusammenfassung von Dokumenten ist anders zu bewerten als ein System, dessen Ergebnis eine wesentliche Auswirkung auf einen Kunden haben kann. Gute Governance schafft deshalb nicht möglichst viele Kontrollen, sondern angemessene Kontrollen.

KI als neues Risiko im Bankgeschäft

Mit dem Einsatz von KI entstehen nicht nur neue Möglichkeiten, sondern auch neue Risikofelder. Dazu gehören beispielsweise fehlerhafte oder verzerrte Ergebnisse, unzureichende Datenqualität, mangelnde Nachvollziehbarkeit sowie Risiken durch Veränderungen eines Systems im laufenden Betrieb. Bei generativer KI kommen unter anderem fehlerhafte Inhalte und die unkontrollierte Verarbeitung vertraulicher Informationen hinzu.

Für Banken ist außerdem entscheidend, wie sich KI in bestehende Risiko- und Kontrollstrukturen einfügt. Ein KI-System sollte nicht als isoliertes IT-Thema betrachtet werden. Je nach Einsatzgebiet können Anforderungen aus Datenschutz, Informationssicherheit, Modellrisikomanagement, Auslagerungsmanagement, Verbraucherschutz oder interner Governance berührt sein.

Auch die betriebliche Widerstandsfähigkeit spielt eine Rolle. Der Digital Operational Resilience Act (DORA) gilt seit dem 17. Januar 2025 und stärkt unter anderem Anforderungen an das Management von IKT-Risiken, die Behandlung von IKT-Vorfällen, Resilienztests und das Management von IKT-Drittdienstleistern. Für KI-Anwendungen ist insbesondere relevant, wie technische Abhängigkeiten, Dienstleister und Ausfallrisiken in die bestehende Resilienzsteuerung eingebunden werden.

Der regulatorische Rahmen: Was verändert der AI Act?

Mit dem europäischen AI Act ist ein zusätzlicher regulatorischer Rahmen für den Einsatz künstlicher Intelligenz entstanden. Die Verordnung ist am 1. August 2024 in Kraft getreten. Seit dem 2. August 2026 gilt sie grundsätzlich vollständig, wobei für bestimmte hochriskante KI-Systeme verlängerte Übergangsfristen bestehen. Die konkreten Pflichten hängen unter anderem von der Rolle der Organisation und vom jeweiligen Anwendungsfall ab.

Für Banken bedeutet das: Die Frage „Nutzen wir KI?“ reicht für die Governance nicht aus. Vielmehr muss betrachtet werden, welche KI-Systeme eingesetzt werden, welchem Risikoniveau sie zugeordnet werden und welche Anforderungen daraus entstehen. Der AI Act folgt einem risikobasierten Ansatz. Ergänzend sind beispielsweise Transparenz, menschliche Aufsicht und die Kompetenz der mit KI arbeitenden Personen relevant.

Für Banken ist der AI Act außerdem nicht isoliert zu betrachten. Bestehende regulatorische und organisatorische Anforderungen bleiben relevant. Entscheidend ist deshalb das Zusammenspiel verschiedener Regelwerke und interner Kontrollsysteme – und die Übersetzung dieser Anforderungen in praktikable Prozesse.

Kundenvertrauen als Erfolgsfaktor

Bei Bankgeschäften hat Vertrauen eine besondere Bedeutung. Kunden geben Instituten sensible Daten an und erwarten nachvollziehbare Entscheidungen, einen verantwortungsvollen Umgang mit ihren Informationen und verlässliche Ansprechpartner. Wenn KI in kundenbezogene Prozesse eingebunden wird, verändert sich deshalb auch die Erwartung an Transparenz.

Dabei muss Transparenz nicht bedeuten, dass Kunden die technische Funktionsweise eines Modells verstehen müssen. Viel wichtiger ist, dass nachvollziehbar bleibt, welche Rolle KI in einem Prozess spielt, welche Verantwortung die Bank übernimmt und an wen sich ein Kunde bei Fragen oder einer abweichenden Einschätzung wenden kann.

Auch intern ist Vertrauen entscheidend. Mitarbeitende müssen verstehen, welche Rolle ein KI-System übernimmt und wo dessen Grenzen liegen. Wenn Ergebnisse ungeprüft übernommen werden, kann aus einer Unterstützung schnell eine scheinbare Autorität werden. Vertrauen bedeutet daher nicht blindes Vertrauen, sondern die Fähigkeit, Ergebnisse angemessen einzuordnen.

Wie Banken Vertrauen in KI schaffen können

Vertrauenswürdige KI beginnt mit einem klar definierten Anwendungsfall. Banken sollten vor dem Einsatz eines Systems festlegen, welches Problem gelöst werden soll, welche Daten benötigt werden und welche Folgen ein fehlerhaftes Ergebnis hätte. Daraus lässt sich ableiten, wie intensiv das System überwacht und kontrolliert werden muss.

Klare Verantwortlichkeiten: Für jedes relevante KI-System sollte eindeutig feststehen, wer fachlich, technisch und organisatorisch verantwortlich ist.

Nachvollziehbare Entscheidungen: Ergebnisse und wesentliche Prozessschritte sollten so dokumentiert werden, dass Entscheidungen im Nachhinein überprüft werden können.

Menschliche Kontrolle: Je höher die möglichen Auswirkungen eines KI-Ergebnisses, desto wichtiger sind geeignete Möglichkeiten zur menschlichen Prüfung und Intervention.

Kontinuierliche Überwachung: KI-Systeme sollten nicht nur vor der Einführung, sondern auch während ihres Betriebs überwacht und regelmäßig überprüft werden.

Kompetenz und Bewusstsein: Mitarbeitende benötigen ein Verständnis dafür, was das eingesetzte System leisten kann, wo seine Grenzen liegen und welche Risiken bestehen.

Transparenz gegenüber Kunden: Wenn KI in relevante kundenbezogene Prozesse eingebunden ist, sollte die Kommunikation verständlich, angemessen und nachvollziehbar gestaltet werden.

Der Ansatz muss dabei nicht für jedes System gleich aussehen. Ein wirkungsvolles KI-Governance-Modell verbindet standardisierte Mindestanforderungen mit einer risikobasierten Bewertung des jeweiligen Anwendungsfalls.

Fazit: Vertrauen entsteht nicht durch den Algorithmus

Die Frage, wie viel Vertrauen eine Bank in einen Algorithmus setzen kann, lässt sich nicht allein technisch beantworten. Entscheidend ist der organisatorische Rahmen, in dem KI eingesetzt wird. Je besser Verantwortlichkeiten, Kontrollen, Transparenz und Überwachung aufeinander abgestimmt sind, desto belastbarer kann der Einsatz von KI gestaltet werden.

Für Banken bedeutet das einen Perspektivwechsel: KI-Governance sollte nicht erst dann beginnen, wenn ein System bereits produktiv eingesetzt wird. Sie sollte bereits bei der Auswahl des Anwendungsfalls ansetzen und den gesamten Lebenszyklus begleiten. So kann KI ihre Stärken ausspielen, ohne dass Verantwortung an einen Algorithmus delegiert wird.

Vertrauen in KI entsteht damit nicht durch die Behauptung, dass ein System fehlerfrei ist. Es entsteht durch die Fähigkeit einer Bank, mit den Möglichkeiten und Grenzen von KI professionell umzugehen.

 

Sie möchten den Einsatz von KI in Ihrem Unternehmen strukturiert bewerten und Governance, Risiko und bestehende Kontrollprozesse sinnvoll miteinander verbinden? Die Movisco AG unterstützt Banken und Finanzdienstleister dabei, komplexe regulatorische und organisatorische Anforderungen in praxisorientierte Strukturen und Prozesse zu überführen. Sprechen Sie uns gerne an.


Ihre Ansprechpartnerin

Susanne Jung

info@movisco.com
elektronische Visitenkarte

Fon +49 40 767 53 777

Schnellkontakt-Formular

Die abgesendeten Daten werden nur zum Zweck der Bearbeitung Ihres Anliegens verarbeitet. Weitere Informationen finden Sie in unserer Datenschutzerklärung.

Sie haben Fragen?

Wir freuen uns über Ihre direkte Kontaktaufnahme!