Korzyści z implementacji sztucznej inteligencji mogą być dla banków duże pod warunkiem, że jej wdrażanie do organizacji oprzemy na kompleksowej strategii.
Jej istotną częścią musi być trafna identyfikacja wszystkich ryzyk związanych ze stosowaniem zaawansowanej analityki danych.Branża usług finansowych inwestuje dzisiaj znaczne środki w aplikacje sztucznej inteligencji (S.I.) i uczenia maszynowego (U.M). Umożliwiają one monetyzowanie zgromadzonych danych, polepszają obsługę klienta, ułatwiają rozwijanie oferty produktów i usług, stymulują rozwój banków. Mogą też być użyteczne w celu zwiększania wydajności operacyjnej. Mamy tak naprawdę do czynienia z istotną transformacją współczesnych strategii biznesowych, które coraz głębiej osadza się w globalnych procesach gospodarczych. Instytucje finansowe, które coraz poważniej myślą o tym jak wykorzystać S.I/U.M do swoich celów, muszą mieć pewność, że ich system kontroli wewnętrznej dotrzyma kroku rosnącym zdolnościom biznesowym i będzie współmierny do identyfikowanych wszystkich ryzyk, będących integralną częścią nowej sytuacji.
Implementacja S.I/U.M. na rynkach finansowych, na przykładzie rynku amerykańskiego
Amerykański sektor bankowy dokonał znacznych inwestycji w ciągu ostatnich 10 lat, aby spełnić podwyższone wymogi regulacyjne, które pojawiły się po kryzysie finansowym. Banki agresywnie koncentrują się na programach rozwoju, które obejmują m.in: transformację biznesu, stawienie czoła zagrożeniom konkurencyjnym, poprawę jakości obsługi klienta i wydajność operacyjną. Jest już jasne, że inteligentne technologie takie jak S.I/U.M., mają zdolność przekształcania modeli biznesowych i mogą stawać się jednym z kluczowych narzędzi decydujących o konkurencyjności organizacji. Sektor bankowy nie tylko zwiększa inwestycje technologiczne, ale rozważa także strategiczne fuzje, przejęcia i partnerstwa w celu skalowania nowych inwestycji do których należą m.in.: chatboty do obsługi, komunikacji z klientem, zarządzanie ryzykiem cyberbezpieczeństwa, analiza zachowań i nastrojów klientów dla celów marketingowych, optymalizacja modeli scoringowych z wykorzystaniem nowych typów danych, rekomendacje usług/produktów, prognozowanie. Banki znalazły się więc w punkcie zwrotnym poprzez rozwój technologii S.I/U.M.. Dzięki szybkim innowacjom i inwestycjom można założyć, że niektóre duże banki w ciągu najbliższych dwóch lat wdrożą produkcyjnie ponad 300 różnych aplikacji S.I/U.M. Będą one coraz częściej osadzane w interfejsach użytkownika, oferowanych produktach i procesach operacyjnych, podnosząc do jeszcze wyższego poziomu „customer experience”.
Adaptacja narzędzi S.I/U.M jest procesem złożonym, wieloetapowym, a na jej powodzenie ma wpływ szereg elementów. Można jednak wydzielić podstawowe obszary działań, których zainicjowanie jest niezbędne, by inteligentne technologie zaczęły faktycznie przynosić korzyści. Przygotowania na nadchodzące zmiany jest konieczne po to, by uniknąć zasadniczego rozczarowania i wykorzystywać te inteligentne technologie w maksymalnie efektywny sposób. Wyróżnijmy więc cztery kluczowe działania, które będą integralnie związane z implementacją S.I/U.M w każdej organizacji:
- Zdefiniowanie czym jest S.I/U.M., które pozwoli na identyfikację wszystkich ryzyk z nimi związanych
- Udoskonalenie istniejących modeli zarządzania ryzykiem, systemu kontroli wewnętrznej, aby zaadresować nowe typy specyficznych ryzyk związanych z S.I/U.M.
- Wdrożenie modelu operacyjnego pozwalającego na odpowiedzialne korzystanie z S.I/U.M
- Budowanie kompetencji poprzez inwestowanie w talenty, które będą wspierać działanie S.I/U.M.
Definicje S.I/U.M.
Nie ma jednej uniwersalnej definicji S.I/U.M dla wszystkich branż. Na potrzeby tego tekstu możemy odwołać się do nazewnictwa proponowanego przez amerykańską Radę Stabilności Finansowej (FSB). Sztuczna Inteligencja określana jest tu jako teoria i rozwój systemów komputerowych zdolnych do wykonywania zadań, które tradycyjnie wymagają inteligencji ludzkiej. Uczenie Maszynowe zaś jest jednym ze sposobów osiągania celów przez S.I.
U.M. oznacza sekwencję kolejnych operacji podejmowanych w celu rozwiązania danego problemu. W istocie, mówimy tu o algorytmach, które - co bardzo ważne - nabywają zdolności do optymalizacji własnego działania wraz z kolejnymi zdobywanymi doświadczeniami (w oparciu o pozyskiwane nowe dane uczące). Należy tutaj wskazać istotnie ograniczony udział czynnika ludzkiego w powyższym procesie bądź jego całkowity brak. Mamy więc do czynienia z samodoskonalącymi się systemami, które wykorzystują do własnego rozwoju zbiory danych organizacji.
Jednym z kluczowych problemów związanych z wykorzystywaniem technik S.I/U.M w biznesie jest trudność oceny wyników ich działania i ryzyk z tym związanych. Algorytmy posługują się skomplikowanymi regułami, a wyniki, które są przez nie osiągane, nie poddają się łatwej interpretacji (w literaturze określane jako rozwiązania typu „black box”). W przeciwieństwie do tradycyjnych technik, w których podstawowe dane wejściowe i logika działania są przejrzyste, zaawansowane algorytmy S.I/U.M. bywają po prostu niezrozumiałe. Jest to jedno z najpoważniejszych ograniczeń, które wpływa na zaufanie biznesu do tych technik i determinuje podejmowanie decyzji o ich zastosowaniu w organizacji.
Ryzyka na kilku poziomach
Skuteczność modeli S.I/U.M może być więc ograniczona. Dzieje się tak również dlatego, że algorytmy sztucznej inteligencji do budowy i uczenia w sposób ciągły wymagają bogatych, dużych zbiorów danych. A to one właśnie mają zasadniczy wpływ na efektywność algorytmicznego działania. Dostępność i jakość danych są kluczowymi czynnikami, które będą miały zawsze wpływ na decyzję o wykorzystaniu S.I/U.M do różnych procesów.
Podstawowe ryzyka związane są też z sama specyfiką algorytmów, które z uwagi na wbudowane obciążenia (tzw. „bias”) w wykorzystywanych danych do budowy, mogą generować ryzyko compliance. Nie należy również zapomnieć o istotnym ryzyku prawnym , oraz szerzej zdefiniowanym zagadnieniem ochrony prywatności danych. Z kolei w przypadku, gdy narzędzia te zostaną zastosowane w interfejsach obsługiwanych przez klientów lub pracowników zajmujących się obsługą klienta, ryzyka mogą dotyczyć decyzji kredytowych i obszaru marketingu.
Aplikacje S.I/U.M. automatyzują ludzkie decyzje i czynności manualne, ich stosowanie może zmniejszyć częstotliwość błędów popełnianych przez człowieka. Jednak ograniczenie bądź wyeliminowanie ryzyk wynikających z procesów ręcznych nie oznacza, że instytucje finansowe są bardziej bezpieczne. Mianowicie, Banki stają w obliczu nowych zagrożeń technologicznych, takich jak: bezpieczeństwo informacji i podatności związane z cyber zagrożeniami z tytułu stosowania algorytmów S.I/U.M oraz nowymi typami danych. Dlatego właśnie właściwe rozumienie ryzyk i umiejętne zarządzanie nimi, staje się priorytetowe dla całego skalowania aplikacji działających w oparciu o S.I/U.M.
Udoskonalenie istniejących modeli zarządzania ryzykiem i systemu kontroli
Właściwe zarządzanie i kontrola mogą pomóc bankom w implementacji rozwiązań S.I./U.M mających poprawnie zdefiniowany cel biznesowy, umożliwiających ciągłą poprawę jakości istniejącego systemu kontroli poprzez uważny monitoring i bieżący nadzór. Banki nie mogą tworzyć całkowicie nowych zasad i wymagań operacyjnych. Powinny w zamian za to ulepszać istniejące modele operacyjne, zarządzania ryzykiem i system kontroli. Należy tu przy okazji wskazać na problem trudności identyfikacji nowych ryzyk przy użyciu starej aparatury pojęciowej. Niektóre aplikacje S.I/U.M. (przykładowo chatboty) najzwyczajniej nie mieszczą się w obrębie istniejących definicji, co może powodować luki w procesach, zarządzaniu urządzeniami, których potencjał jest olbrzymi. Istniejące modele, które oceniają poprawność pojęć, analizę wyników i zarządzanie zmianami, mogą okazać się nieodpowiednie do identyfikacji ryzyk dotyczących S.I/U.M. Może to wynikać także z powodu ograniczanej ilości danych udostępnianych algorytmom i wspomnianego już, braku transparentności ich działania. Trudności pojawią się również wtedy, gdy inteligentne aplikacje będą własnością stron trzecich. W takim przypadku utrudniona będzie ich identyfikacja i inwentaryzacja.
Systemy kontroli
Istniejące procedury kontroli, w tym również te, dotyczące ryzyka zgodności (aplikacje oferowane konsumentom) i ryzyka operacyjnego (trzecie strony, ryzyko technologiczne) mogą wymagać ulepszenia, aby zapobiegać krytycznym sytuacjom związanym z sprawiedliwym traktowaniem (fair lending) i prywatnością danych. Jest to istotne, jeśli weźmiemy pod uwagę fakt, że aplikacje S.I/U.M. automatyzują decyzje podejmowane przez ludzi. Istniejące modele ryzyka i kontroli nad danymi i zgodnością, zarządzanie ryzykiem operacyjnym (bezpieczeństwo informacji, osoby trzecie, ataki hakerskie) mogą nie określać wystarczająco wyraźnie problemów, które generowane są przez aplikacje S.I/U.M. Dlatego systemy kontroli należy rozszerzyć/zaktualizować w trakcie opracowywania, wdrażania, walidacji i stosowania S.I/U.M. Przykładowo, jeśli przejrzystość operacji i procesów jest traktowana jako kluczowe ograniczenie dla S.I/U.M., należy rozważyć kontrole kompensacyjne. Mogą to być analizy porównawcze (benchmarking), analizy statystyczny charakterystyk użytych w algorytmach i ich wpływ na zwracany wynik (feature statistics), inspekcje danych i pozostałe kontrole zapobiegawcze.
Podstawowe zakresy niezbędnych kontroli będą obejmować:
- walidację: ocenę poprawności założeń koncepcji i przydatności algorytmów do określonych zastosowań
- weryfikację: testowanie podczas opracowywania, wdrażania i ciągłego użytkowania w celu potwierdzenia, że algorytmy działają poprawnie
- kontrolę zapobiegawczą: wbudowane mechanizmy kontrolne i mechanizmy bezpieczeństwa (np. kill-switch) w projektowanym algorytmie do weryfikacji danych wsadowych, przetwarzania i wyników
- odporność operacyjną i testy warunków skrajnych: ogólne oceny platform S.I/U.M. na odporność na awarie, ataki hakerskie lub inne zakłócenia
- kontrolę/nadpisywanie przez ludzi: mechanizm przejmowania kontroli nad algorytmem przez ludzi
Przekształcanie modelu operacyjnego
Szybki wzrost i przyjęcie aplikacji S.I/U.M. wymaga długoterminowego spojrzenia na cele biznesowe, aby nadać priorytet inwestycjom w ekosystem wspierający S.I/U.M. W ramach strategii przyjęcia S.I/U.M. banki powinny opracować prognozy na dwa do trzech lat odnośnie produktów, usług i procesów, które będą korzystać z aplikacji S.I/U.M. a także sposobów inwestowania w S.I/U.M. (dane, platforma do wdrożenia modelowania S.I./U.M., talent). Taka zintegrowana infrastruktura umożliwi skalowalne wdrażanie i sprawdzanie poprawności działania aplikacji, ponieważ funkcje danych i modelowania będą lepiej obsługiwane.
Jeśli chodzi o zarządzanie danymi, to banki nadal inwestują w poprawę ogólnej jakości danych. Niektóre z nich wyznaczają autoryzowane repozytoria danych i charakterystyk obsługiwane przez scentralizowany zespół data science. Dzięki temu deweloperzy mogą wyświetlać dostępne dane pochodzące z całej organizacji, a tym samym uzyskiwać wgląd w cenne spostrzeżenia biznesowe dotyczące stosowanych aplikacji na bazie S.I/U.M. Banki powinny wykorzystać i rozszerzyć inwestycje w strategię i architekturę danych nowej generacji (np. repozytoria danych - data lakes, rozwiązania chmurowe - cloud) poprzez udoskonalenie kompleksowych standardów zarządzania danymi w zakresie użytkowania aplikacji S.I/U.M.
Efektywność i zwroty z inwestycji
Pomyślna adaptacja S.I/U.M. wymaga stosowania modelu operacyjnego, który kieruje inwestycje w kierunku aplikacji S.I/U.M. o najwyższym ROI/NPV, szansie na sukces, przy jednoczesnym uwzględnieniu czynników ryzyka i kontroli. W tym celu model operacyjny musi zrównoważyć potrzebę eksperymentów, eksplorację i rozwój proof of concepts (POC), z potrzebą spójnych standardów w procesie generowania nowych idei, klarownymi ocenami ROI/NPV, działania na produkcji (np. określenia procenta populacji do weryfikacji POC) i systemem kontroli wewnętrznej. Biorąc pod uwagę, że techniki S.I/U.M. będą stosowane na wiele sposobów, tworzenie zbiorczych raportów pomoże zarządom skutecznie komunikować się z interesariuszami w sprawie strategii przyjęcia S.I/U.M. Generalnie, zastosowanie właściwego modelu operacyjnego zwiększa szanse na pomyślną implementację technologii S.I/U.M.
Inwestycja w talenty
Sukcesy w adaptacji S.I/U.M. będą w dużej mierze zależeć od postawy pracowników, w tym menedżerów produktu, analityków i inżynierów danych, programistów, menedżerów ryzyka i audytorów wewnętrznych. Niedobór wykwalifikowanych specjalistów znających tematykę S.I/U.M. jest kluczowym wyzwaniem dla różnych branż, w tym usług finansowych. Dysproporcja pomiędzy popytem a podażą, może stać się jeszcze bardziej dotkliwa wraz z umasowieniem tych technologii. Wpłynie to nie tylko na wykorzystanie aplikacji S.I/U.M., ale także na skuteczność ich nadzorowania, kontroli i audytu. Rozwiązaniem stosowanym dzisiaj przez niektóre banki jest współpraca z zewnętrznymi podmiotami odpowiedzialnymi za procesy i architekturę zarządzania danymi nowej generacji.
Ponieważ talenty, kompetencje ludzkie mogą wpływać na wzrost przewagi konkurencyjnej, banki będą musiały opracować podejście do kwestii zarządzania talentami tak, by możliwe było wspieranie S.I/U.M. przez cały cykl funkcjonowania. Istotne staje się więc stworzenie atrakcyjnych programów rekrutacji talentów. Dzięki nim będzie możliwy dalszy rozwój i podnoszenie kwalifikacji, co jest szczególnie ważne w przypadku zarządzania nowymi ryzykami. W miarę udoskonalania podstawowych modeli ryzyka i systemów kontroli, należy zaktualizować programy szkoleniowe w przedsiębiorstwie.
Konieczne pytania i odpowiedzi
W przypadku rozważania implementacji nowoczesnych narzędzi S.I/U.M. dla celów biznesowych warto odpowiedzieć na podstawowe pytania, dotyczące celów biznesowych, które mają być zrealizowane. Oto kilka przykładowych pytań, które warte są uwagi:
- jak ewoluuje krajobraz S.I/U.M. dla sektora bankowości i gdzie chcemy pozycjonować się w tym krajobrazie?
- w jaki sposób S.I/U.M. wzbogaci naszą strategię biznesową i wpłynie na uzyskiwanie przewagi konkurencyjnej?
- gdzie już używane są technologie S.I/U.M. i do jakiego stopnia te aplikacje są skalowalne?
- w jaki sposób możemy przyśpieszyć rozważne adaptacje S.I/U.M. w celu stymulowania transformacji biznesowej i innowacji?
- czy mamy strategię przyjęcia S.I/U.M. na poziomie całej organizacji, określone są priorytety, możliwości i inwestycje?
- w jaki sposób uwzględniamy otoczenie regulacyjne związane z S.I/U.M.?
- w jaki sposób trzeba ulepszyć istniejące systemy kontroli ryzyka, aby zaradzić wszystkim zagrożeniom?
