Vertrauensvoller Einsatz von künstlicher Intelligenz im Finanzsektor – Das BSI veröffentlicht weltweit ersten Compliance Kriterienkatalog für Künstliche Intelligenz

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 2. Februar 2021 den ersten Kriterienkatalog für den vertrauenswürdigen und sicheren Einsatz von Künstlicher Intelligenz (KI) veröffentlicht.

Die Kriterien im AI Cloud Service Compliance Criteria Catalogue (AIC4) können vielfältig angewendet werden: Als Grundlage für Prüfungen nach ISAE 3000 (Revised) schaffen sie Transparenz für Nutzer von KI-Services. Ebenso bilden sie eine solide Grundlage für die Qualitätssicherung von KI im Entwicklungs- und Betriebsprozess.

Im vergangenen Jahr haben Unternehmen in Deutschland durch Produkte und Dienstleistungen mit direktem KI-Einsatz einen Umsatz[1] in Höhe von knapp 60 Milliarden Euro erwirtschaftet. Der höchste Beitrag wird hierbei durch Finanzdienstleistungen generiert mit circa 17,3 Milliarden Euro.[2] Insgesamt wird für die Gesamtwirtschaft bis 2030 ein BIP-Wachstum aufgrund von KI-basierten Technologien in Höhe von 11,3% erwartet. [3]

Trotz des bereits vermehrten Einsatzes von KI zeigt sich, dass KI-Projekte häufig die erhofften Ziele nicht erreicht haben. Ein Grund für das Scheitern der Projekte ist unter anderen eine fehlende Governance der KI-Prozesse. Beim produktiven Einsatz von KI in Geschäftsprozessen sind zudem Risiken, wie bspw. Compliance Verstöße und Reputationsschäden zu beachten und zu steuern. Grundlegend für den Einsatz von KI-Systemen in Unternehmen ist Sicherheit, Transparenz und Robustheit des Systems, um Vertrauen zu stärken und den Erfolg der KI zu erhöhen.

Künstliche Intelligenz im Finanzsektor

Der Einsatz von KI im Finanzsektor bietet große Potentiale. Grund hierfür ist unter anderem, dass der Finanzsektor ein hohes Digitalisierungspotential bietet, da die Mehrheit der Finanzprodukte datengetrieben sind und zudem meist keine physische Interaktion fordern.

Zum Beispiel wird der Finanzsektor mit neuen Kundenanforderungen konfrontiert, welche einen zeit- und ortsabhängigen Service fordern. So kann dem Kunden bspw. durch den Einsatz von Chatbots und Interactive Voice Response eine 24/7/365 Anlaufstelle geboten werden, welche durch effizientere Prozesse auch eine schnellere Bearbeitung ermöglichen.

Auch kann der Einsatz von KI bei Entscheidungsfindungsprozessen, wie bspw. der Kreditvergabe, einen hohen Mehrwert bieten. Durch die selbstlernenden Systeme können die sonst regelbasierten Prozesse wie bspw. das Rating oder Fraud-Erkennung optimiert und schneller an den Kunden kommuniziert werden. Darüber hinaus kann die KI vorhandene Informationen nutzen, um passende Cross-Selling-Potenziale zu identifizieren.

Verbunden mit den neuen Möglichkeiten sind jedoch auch neue Herausforderungen bzw. Risiken bei dem Einsatz der neuen Technologie. Umso mehr stehen Finanzinstitute in der Pflicht, KI-Systeme sicher, transparent und robust auszugestalten und dadurch Vertrauen in KI für ihre Kunden zu schaffen. Der AI Cloud Service Compliance Criteria Catalogue des BSI wurde entwickelt, um die mit KI verbundenen Herausforderungen zur Qualität, Sicherheit und Compliance zu adressieren: die enthaltenen Kriterien bilden eine solide Grundlage für die Qualitätssicherung von KI über den gesamten Lebenszyklus hinweg.

Was ist der AI Cloud Service Compliance Criteria Catalogue (AIC4)?

Der AI Cloud Service Compliance Criteria Catalogue (AIC4) ist der weltweit erste konkrete Kriterienkatalog mit operationalisierbaren Anforderungen zur Prüfung von KI, der von offizieller Stelle veröffentlicht wurde. Der Kriterienkatalog wurde von dem BSI entwickelt und ist die Antwort auf die Forderungen des Marktes, der Bundesregierung und der EU-Kommission im Hinblick auf transparente und spezifische Kriterien für robuste KI. Damit nimmt Deutschland und jeder nationale sowie internationale Anbieter, der sich an den Kriterien orientieren wird, eine Vorreiterposition im Rennen um vertrauenswürdige, sichere und nachvollziehbare KI-Services ein, woraus sich ein Wettbewerbsvorteil entwickeln kann.

Für den aktuellen oder zukünftigen Einsatz von KI können Organisationen die Kriterien des AIC4 zur Ausgestaltung ganzheitlicher Sicherheitsprozesse und Qualitätsanforderungen im Lifecycle-Management für KI nutzen.

AIC4- Kriterienkatalog mit sieben Themengebieten

Die Kriterien des AIC4s gliedern sich in die folgenden Bereiche:

Sicherheit & Robustheit befasst sich mit dem Schutz der KI-Systeme unter sich ändernden System- und Umweltbedingungen und gegen Manipulationsversuche. Hier stehen insbesondere die Erkennung von böswilligem Input durch geeignete Tests sowie die Implementierung von Maßnahmen gegen gezielte Angriffe im Vordergrund. Die Robustheit des KI-Services soll dadurch gemeinsam mit der Sicherheit der Daten entlang der Trainings-Pipeline des Algorithmus gewährleistet werden.

Performance & Funktionalität stellt sicher, dass der KI-Dienst entsprechend seiner Charakteristika und seines Einsatzzwecks die vorgeschriebenen Leistungsziele erfüllt. Hier sind geeigneten Verfahren für Training, Validierung und Test der KI-Systeme zu etablieren. Die Qualität des trainierten Algorithmus wird durch den Einsatz von Leistungsmetriken wie bspw. die Genauigkeit (engl. Accuracy), die Sensitivität (engl. Sensitivity) oder die Fehlerrate (engl. Miss rate) beurteilt und ermöglicht eine entsprechende Messbarkeit des KI-Dienstes.

Zuverlässigkeit umfasst die Etablierung von Prozessen zum kontinuierlichen Betrieb des KI-Dienstes in produktiven Einsatzumgebungen sowie zur Untersuchung von möglichen Fehlern und Ausfällen. Dazu müssen angemessene Verfahren für Ressourcenmanagement, Logging, Fehlerbehandlung und Backups implementiert sein.

Datenqualität fordert die Einrichtung eines Rahmenwerks an Richtlinien zur geeigneten Datenverarbeitung für Trainings sowie Testdaten der KI und zur Sicherstellung einer angemessen Datenqualität.

Datenmanagement schafft Bedingungen für die strukturierte Datenerfassung und -übernahme aus vertrauenswürdigen Datenquellen für den gesamten Lifecycle des KI-Systems. Dies soll durch die Festlegung von datenbezogenen Rahmenbedingungen erfolgen, die sowohl während der Entwicklung als auch im Betrieb des KI-Dienstes Anwendung finden und Schutz gegen unautorisierte Zugriffe liefern.

Erklärbarkeit beinhaltet Verwendung von geeigneten Techniken und Umsetzung von Maßnahmen, um die Verfahren und resultierenden Entscheidungen der KI-Lösungen nachvollziehbarer für den Nutzer zu gestalten.

Bias zielt darauf ab, dass eine mögliche Voreingenommenheit (engl. Bias) bzw. möglicherweise diskriminierender Output des KI-Dienstes identifiziert und untersucht wird. Dabei sollen mathematische Verfahren zur Bewertung der Vorurteile angewandt werden, um sowohl einen fairen Output als auch eine geeignete Performance des Algorithmus in Einklang zu bringen. Verzerrungen bei der Entscheidungsfindung bspw. aufgrund von unausgeglichen Daten sind kontinuierlich zu prüfen und mit Hilfe von spezifischen Algorithmen zu reduzieren bzw. zu entfernen.

Sicheres Cloud Computing als Grundlage

Der AIC4 Kriterienkatalog adressiert den KI- Lifecycle von der Entwicklung bis zum Betrieb und ist für alle KI-Dienste ausgelegt, die in Cloud-Umgebungen gehosted sind, unabhängig von ihrem Deploymentszenario (public, private, community oder hybrid). Um neben des KI-spezifischen Blickwinkel des AIC4s auch den sicheren Betrieb der zugrundeliegenden Cloud-Infrastruktur abzudecken, ist eine Berücksichtigung des C5 Katalogs (Cloud Computing Compliance Criteria Catalogue)[4]unabdingbar. Die Kriterien des C5 Katalogs legen Mindestanforderungen an sicheres Cloud Computing fest und richtet sich an Cloud Dienstleister, deren Prüfer und Kunden. Die Kriterien des AIC4 Kataloges sind ergänzende dazu und fokussieren den AI Lifecycle. Gemeinsam schaffen sie einen prozess- und kontrollorientierten Rahmen für den Einsatz von KI in einer Cloud-Lösung.

Für KI Dienste, die On-Premise genutzt werden und folglich nicht in Cloud-Umgebungen gehostet werden, können einzelne Kriterien des AIC4 Kataloges adaptiert werden zum Zwecke einer freien Attestierung, die den KI-Dienst beurteilt, mögliche Schwächen aufzeigt und eine Ausgangsbasis für weitere Verbesserungen schafft.

 

Fazit

Der AIC4 schafft erstmals ein standardisiertes Rahmenwerk in Form von KI-spezifischen Kriterien um Sicherheit, Transparenz und Robustheit für KI-Dienste zu etablieren. Seine Anwendung zur Auditierung von KI als auch zur Entwicklung und Ausgestaltung von Qualitätsmaßnahmen- sowie Sicherheitsstandards für KI- Lifecycle Prozessen schafft Vertrauen beim KI-Einsatz für das Unternehmen und die Nutzer. Der AIC4 Katalog legt folglich den Grundstein zur Harmonisierung des deutschen KI-Marktes und schafft eine einheitliche Ausgangslage zum vertrauensvollen Einsatz von KI.

 

Dieser Post wurde in Zusammenarbeit mit Gastblogger Hendrik Reese erstellt.

 

[1] Die Umsatzgröße wurde durch die Bruttozins- und -Provisionserträge und den Bruttobeitragseinnahmen definiert

[2] https://www.bmwi.de/Redaktion/DE/Publikationen/Wirtschaft/einsatz-von-ki-deutsche-wirtschaft.pdf?__blob=publicationFile&v=8 S.17 (zuletzt aufgerufen am 22.11.2020)

[3] https://www.pwc.de/de/digitale-transformation/business-analytics/kuenstliche-intelligenz-sorgt-fuer-wachstumsschub.html (zuletzt aufgerufen am 22.11.2020)

[4] Der C5 wurde 2016 durch das BSI erstmals veröffentlicht und hat sich seitdem als Benchmark für sichere Cloud-Umgebungen etabliert. Im letzten Jahr wurde er im Dialog mit Nutzern, Prüfern, Regulatoren und Cloud-Anbietern grundlegend überarbeitet, um aktuelle technische Entwicklungen abzubilden.

Hinterlassen Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.