How to make your AI of today ready for regulation of tomorrow?
Im Whitepaper werden Maßnahmen zur Abmilderung der KI-Risiken beschrieben, um so den Vorschriften der Regulatorik zu entsprechen.
Die Anwendung von KI-Lösungen auf dem Markt nimmt kontinuierlich zu
KI-Lösungen sind im Unternehmens- und KMU-Banking immer präsenter, wobei sich das Wachstum zwischen 2019 und 2021 vervierfacht hat. Dieses Wachstum hat seine Wurzeln in den explosiv gewachsenen Datenmengen, neuen Technologien und dem erhöhten Wettbewerb durch aufsteigende Disruptoren.
Die KI verändert dabei viele Aspekte des Bank- und Versicherungswesens sowie des Wealth and Asset Managements, indem die Genauigkeit erhöht, die Kosten gesenkt und neue Dienste angeboten werden können, die zuvor nicht verfügbar waren. KI-Algorithmen in Financial Services können darüber hinaus helfen, Betrug festzustellen, Risikofaktoren zu modellieren oder zur Verbesserung des Customer Service beitragen.
Die klassische Betrugserkennung besteht darin, Transaktionen und Zahlungen auf verdächtige Aktivitäten hin zu überwachen. Es ist jedoch eine große Herausforderung, Anomalien in der Datenflut zu erkennen. Hier können KI-Lösungen wie beispielsweise Deep Neural Networks sehr effektiv sein. KI kann auch als wichtiges Instrument zur Risikobewertung in Bereichen wie Darlehen, Zahlungen, Kredite usw. eine Rolle spielen. Jedoch kann KI mehr als nur Risiken bewerten. Personalisiertes Banking und Kundenbindung sind einige der Bereiche, in denen KI die Erträge steigern könnte. Die Personalisierung kann Banken helfen, ihren Kunden frühzeitig maßgeschneiderte und passende Lösungen anzubieten, noch bevor sich diese ihres Bedarfs bewusst werden. Dies gelingt, indem KI-Lösungen Transaktionsmodelle und andere Datenquellen nutzen, um Banken zu helfen, das Kundenverhalten zu verstehen und die Kundenerfahrung zu verbessern.
Neue Technologie, neue Risiken
Fast zwei Drittel der Vorreiter in der Implementierung von KI haben Bedenken bezüglich der mit KI verbundenen Risiken. Mit dem Einsatz von KI-Produkten sind viele Risiken verbunden, was bereits bei den Daten beginnt. Obwohl Daten der Grundbaustein jeder KI-Lösung sind, stellen sie auch eine erhebliche Risikoquelle dar. So kann beispielsweise die Verwendung von uneingeschränkten Daten für die Entwicklung von KI-Lösungen für die Kreditwürdigkeitsprüfung zu falsch ausgerichteten Ergebnissen führen. Die Qualität der Daten ist ebenso wichtig wie ihre Quantität. Systematisch fehlende Werte, Datenredundanz, signifikante Datenkardinalitäten usw. sind einige der Probleme, zu deren Lösung angemessene Einschränkungen vorgenommen werden müssen. Andernfalls wird eine KI-Lösung schnell ein Beispiel für „garbage in, garbage out“.
Darüber hinaus können die Ergebnisse von KI-Lösungen zu einer Diskriminierung aufgrund von Geschlecht, Rasse, Alter, Glauben usw. führen, wenn diese Informationen während des Trainings/der Entwicklung überproportional vorhanden waren beziehungsweise gefehlt haben. Insbesondere bei der Verwendung persönlicher Informationen ist es zudem wichtig, die geltenden Regeln des Datenschutzes einzuhalten.
Technologisch gesehen wird von den KI-Lösungen erwartet, dass sie nicht nur genau genug sind, sondern auch fair gegenüber Bevölkerungsminderheiten. Unfairness ist ein häufiges Risiko, das aus unbedachten Entwicklungsplänen für KI-Lösungen resultiert. Man stelle sich ein unfaires Empfehlungssystem für die Kreditvergabe vor, das speziell für eine Gruppe von Personen entwickelt wurde. Ein solches KI-Produkt würde Kunden, die nicht zu dieser Gruppe gehören, falsche Empfehlungen aussprechen.
Die KI-Lösungen sollen robust gegenüber unvorhergesehenen Situationen sein. KI-basierte Investitionsmanagementsysteme sind beispielsweise anfällig für Fehlfunktionen bei unvorhersehbaren Ereignissen wie einer Pandemie. Viele Entscheidungsträger empfinden die mangelnde Transparenz von KI-Lösungen als Showstopper. Komplizierten mathematischen Algorithmen, die nicht leicht zu verstehen sind, zu vertrauen, ist ebenfalls schwer.
Wie jede andere digitale Technologie kann auch eine KI zum Ziel von Cyberangriffen werden. Gezielte Angriffe und eine absichtliche Datenvergiftung sind daher weitere Sicherheitsrisiken, die berücksichtigt werden müssen.
EU AI Act: Warum ist dieses Gesetz relevant für Sie?
Im April 2021 veröffentlichte die Europäische Kommission einen umfassenden Verordnungsvorschlag (EU AI Act), mit dem ein gemeinsamer regulatorischer und rechtlicher Rahmen für KI eingeführt werden soll. Es wird erwartet, dass der EU AI Act bis Ende 2023 in Kraft treten wird.
Dieses Gesetz soll KI-Innovationen menschenzentriert machen. Betroffen sind alle Dienstleister und Unternehmen, die KI-Lösungen anbieten oder Ergebnisse von KI in Europa nutzen wollen. Gemäß den Leitlinien sollen vertrauenswürdige KI-Systeme
- rechtmäßig sein, unter Einhaltung der geltenden Gesetze und Vorschriften,
- ethisch sein, unter Beachtung ethischer Werte und Grundsätze, und
- robust sein, sowohl aus technischer Sicht als auch unter Berücksichtigung des sozialen Umfeldes.
Dabei teilt die EU KI-Systeme in vier Klassen auf: verbotene KI, Hochrisiko-KI, Risiko-KI und Minimalrisiko-KI. Werden Verstöße gegen die Leitlinien registriert, werden teils hohe Strafzahlungen von der EU verlangt. Betreibt ein Unternehmen verbotene KI in Europa, müssen bis zu 30 Millionen Euro oder bis zu 6 Prozent des weltweiten Umsatzes als Strafe gezahlt werden.
Durch die EU-Regulierung werden KI-Systeme strengeren Regeln unterworfen, die im Vergleich zu den Chancen, die mit KI verbunden werden, die Mühe wert sind, diese Regeln umzusetzen. Bis 2030 soll KI dem Bankensektor eine Kostenreduktion um 22 Prozent im operativen Bereich – umgerechnet circa 1 Trillion US-Dollar – bescheren.
Um gar nicht erst von solchen Strafzahlungen bedroht zu werden und um früh von den Vorteilen der KI zu profitieren, sollten interne Kontrollprozesse bezüglich der KI-Systeme ergänzt und die Governance angepasst werden.
Fazit
Die europäischen Vorschriften werden die Art und Weise, wie KI entwickelt wird, für immer verändern. Das Streben nach einer Trustworthy AI ist ein wesentlicher Baustein zur weiteren Etablierung dieser Technologie. Die Schaffung vertrauenswürdiger KI erfordert eine iterative Zusammenarbeit aller Beteiligten, von den Entwicklern über die staatlichen Stellen bis hin zu den Prüfinstanzen – um so auch das Vertrauen der Öffentlichkeit zu erhalten. Zu diesem Zweck verfügt EY über zahlreiche Instrumente: Leitlinien zur Konformitätsbewertung, technische Best Practices, Technologie-Roadmap und Codes of Conduct. Diese ermöglichen es EY, KI-Systeme zu überwachen, zu validieren und zu benchmarken. Unternehmen, die jetzt handeln, werden die Pioniere des künftigen KI-Marktes sein.
