Consileon AI Consileon AI

CAI-FinAudit

Wir prüfen Ihre KI-Anwendung auf Regulatorik und ethische Normen

„Die Aufsicht wird es nicht akzeptieren, wenn man ihr ein [KI-] Modell als unerklärbare Blackbox präsentiert.“

BDAI-Studie der BaFin, Juni 2018
BDAI-Studie der BaFin, Juni 2018 https://www.bafin.de

Künstliche Intelligenz (KI) bildet heute schon ein Kernelement bei der Automatisierung von Geschäftsprozessen sowie bei der Entwicklung neuer Services oder Geschäftsmodelle. Allerdings sind KI-Systeme in der Entwicklung aufgrund der hohen Komplexität fehleranfälliger als traditionelle Systeme. Fehler bei der Entwicklung äußern sich beispielsweise durch auftretende Diskriminierung, oder durch eine einfache Täuschbarkeit des KI-Systems.

Um derartige Fehler und damit entstehende gesellschaftliche und unternehmensbezogene Risiken zu minimieren, werden KI-Systeme immer häufiger Audits unterzogen. In der USA wurden zudem bereits Gesetzesentwürfe vorgeschlagen, die Unternehmen zur Prüfung ihrer KI-Systeme verpflichten würden. ¹ ²

Auch in Deutschland existiert bereits Regulatorik, wie beispielsweise die BAIT im Finanzsektor, welche auf KI-Systeme angewandt werden kann. Allerdings muss bei der in Deutschland bestehenden Regulatorik Transferarbeit geleistet werden, um die entsprechenden relevanten Anforderungen an KI-Systeme abzuleiten.

Um Unternehmen in diesem Schritt weiterzuhelfen, haben wir bei Consileon einen Audit für KI-Systeme im Finanzsektor entwickelt. Dazu haben wir einen KI-Audit Anforderungskatalog entworfen, welcher KI-Systeme nach bestehender Regulatorik sowie ethischen Richtlinien prüft. In die Entwicklung des KI-Audits ist dabei unsere langjährige Expertise in der Umsetzung von (Finanz-) Regulatorik sowie der Entwicklung von KI-Systemen eingeflossen.

 

¹ The New York City Council - File #: Int 1894-2020 (nyc.gov)
² Algorithmic Accountability Act Targets AI Bias | Jones Day

Unser Audit hilft in zwei Phasen, einen regulatorisch heiklen KI-Einsatz zu vermeiden

Vorgehen

tabs image

1. Gap-Analyse

Zur Diagnose etwaiger rechtlicher oder ethischer Defizite vergleichen wir Ihr KI-System mit unserem laufend aktualisierten KI-Audit Anforderungskatalog. Dieser richtet sich nach Finanzregularien wie der MaRisk und der BAIT, den KI-Richtlinien der EU-Kommission sowie einschlägigen Publikationen der BaFin. Innerhalb der Gap-Analyse führen wir Interviews sowie eine Code Review durch, um den Ist-Zustand aufzunehmen.

2. Gegenmaßnahmen

Anhand der Gap-Analyse empfehlen wir konkrete Schritte zum Schließen der Lücken. Dabei differenzieren wir zwischen schnell erreichbaren Zielen und langfristigen organisatorischen oder technischen Maßnahmen.

Werfen Sie einen Blick in unseren Flyer, um weitere Informationen zum Thema Audit von KI-Systemen zu erhalten oder kontaktieren Sie uns direkt und wir besprechen Ihre Anliegen persönlich mit Ihnen.


Produktmaterial herunterladen
Ihr Ansprechpartner

Dr. Andreas Alin


andreas.alin@consileon.de