S obzirom na ove primere ključnih trendova na području veštačke inteligencije, kompanije moraju razmotriti kako uključivanje veštačke inteligencije može uticati na različita područja u njihovoj organizaciji. Sledi nekoliko primera kako se ovi trendovi primenjuju u industriji finansijskih usluga, s posebnim napomenama koje organizacije moraju imati na umu dok proširuju svoje kapacitete veštačke inteligencije.
Poglavlje 1
Široko rasprostranjena i raznolika upotreba mašinskog učenja
U skladu s istraživanjem Univerziteta u Virdžiniji, kompanije koje pružaju finansijske usluge istražuju široku paletu slučajeva upotrebe mašinskog učenja za zadatke predviđanja.
U nastavku navodimo primere zadataka predviđanja na makro i mikro nivou koje finansijske ustanove istražuju:
- Aplikacije za analitiku klijenata (npr. proaktivno angažovanje klijenata, personalizacija iskustva, ciljni marketing)
- Analitika pozivnog centra, kao što su identifikacija i klasifikacija pritužbi kupaca
- Izvlačenje podataka iz nestrukturiranih ili složenih vrsti dokumenata
- Klasifikacija nestrukturiranih dokumenata
- Slučajevi upotrebe na području zakonske usklađenosti kao što su sprečavanje pranja novca (AML), poznavanje klijenata (KYC), automatizacija ispitivanja zakonske usklađenosti
- Sajber bezbednost i obrana od sajber napada
Iako mašinsko učenje omogućava kompanijama koje pružaju finansijske usluge da se nose s izazovima koristeći nove i poboljšane metode i stvara potencijal za veću tačnost i efikasnost, takođe može doneti rizik u proces.
Nakon učenja s dovoljno podataka, modeli mašinskog učenja imaju potencijal procene velike količine podataka i izvršenja predikativne analitike koja može pomoći organizacijama za finansijske usluge da poboljšaju postojeće poslovne procese. Na primer, mnoge banke trenutno imaju velike timove koji ručno obavljaju procese sprečavanja pranja novca (AML) i poznavanja klijenta (KYC), kao što su praćenje i istraživanje potencijalno lažnih ili sumnjivih aktivnosti. Modeli mašinskog učenja mogu potencijalno obraditi puno istih podataka i predvideti ili utvrditi koji podaci mogu spadati u kategoriju sumnjivih aktivnosti. Slično tome, mašinsko učenje može pomoći organizacijama u rešavanju pritužbi kupaca označavanjem informacija iz interakcija s kupcima (poput transkripcije poziva i drugih kontakata s kupcima), što se tradicionalno obavlja ručno. Zahvaljujući takvim klasifikacijama, ljudi mogu odrediti koje korake treba preduzeti ili koristiti dalju automatizaciju za pokretanje aktivnosti.
Kako banke budu primenjivale rešenja koja koriste veštačku inteligenciju za ove vrste zadataka, može doći do većeg pritiska na postojeće okvire upravljanja i kontrole, koji nisu osmišljeni da obuhvate nove tehnike veštačke tehnologije i nove rizike koji ih prate. Kao rezultat toga, organizacije za finansijske usluge mogu:
- Proceniti postojeće okvire upravljanja: Kako uključivanje veštačke inteligencije u vašu organizaciju utiče na već postojeće okvire upravljanja? Kako se postojeći okviri mogu iskoristiti i prilagoditi kako bi išli u korak s novim tehnologijama i njihovom primenom u poslovnim procesima?
- Preispitati ispitivanje i praćenje pod prizmom veštačke inteligencije: Uključuje li primena veštačke inteligencije povratnu spregu ili automatizovano stvaranje i obradu podataka za učenje? Obuhvataju li postojeće prakse praćenja u dovoljnoj meri proveru i potvrđivanje rezultata modela ili bi trebalo prilagoditi modulaciju ili opseg? Šta je definicija uspeha i kako znate radi li model mašinskog učenja pravilno ili prema očekivanjima? Čija je to odgovornost?
- Analizirati rizike: Kako upotreba veštačke inteligencije i mašinskog učenja utiče na postojeća i nova područja rizika, kao što su rizici za organizaciju, model, podatke, treće strane, tehnologiju, zakonsku usklađenost i poslovne procese? Kako se taj rizik može ublažiti i/ili proaktivno rešiti??
Ovo su samo nekoliko ključnih pitanja. U nastavku ćemo istaći druga područja vezano za četiri dodatna trenda iz istraživanja Univerziteta u Virdžiniji, od kojih se neka preklapaju s ključnim pitanjima koja smo spomenuli.
Poglavlje 2
Povećana složenost modela mašinskog učenja
Značajan napredak u tehnikama mašinskog učenja rezultirao je većom složenošću u pogledu funkcionisanja nekih modela mašinskog učenja.
Napredne tehnike mogu dovesti do modela mašinskog učenja koji se ne mogu lako objasniti i rezultata koji se ne mogu lako protumačiti ili pripisati varijablama koje ih pokreću.
Iako mnoge kompanije koje pružaju finansijske finansijske usluge imaju ustaljene prakse modelskog upravljanja rizicima za testiranje na stres i druge modele koje njihove organizacije koriste, postoje dodatna pitanja koja treba imati na umu prilikom usklađivanja i primene postojećih praksi modelskog upravljanja rizicima na modele mašinskog učenja. Transparentnost, razumevanje i tumačenje modela mašinskog učenja koji se koriste u finansijskim uslugama (kao i u drugim industrijama) ključni su za zdravo donošenje odluka, upravljanje rizicima i poštovanje regulatornih zahteva. Bez transparentnosti modela mašinskog učenja, zainteresovane strane neće imati poverenja u predstavljeno rešenje; to stvara izazove za uspešno korišćenje tehnologije za poslovne i svakodnevne procese. Stručnjaci kompanije EY pisali su o važnosti poverenja kada je u pitanju AI.
Šta model mašinskog učenja čini teško razumljivim? Razlozi mogu biti sledeći:
- Model se primenjuje za rešavanje visokodimenzionalnih ili nelinearnih problema, što ljudima otežava vizualizaciju i lako tumačenje
- Proces učenja modela uključuje visokodimenzionalne, obimne ili nestrukturirane podatke
- Vezu između ulaza i izlaza modela je teško utvrditi; na primer, ulazi mogu biti povezani ili mapiranje ulaza i izlaza može uključivati nelinearne transformacije
Jednostavnije rečeno, ako ne razumemo kako je model strukturiran ili kako donosi odluke, ili ako ne razumemo podatke koji se koriste za učenje modela dovoljno dobro, nailazimo na poteškoće u pogledu transparentnosti i objašnjivosti.
Iako postoje opipljivi tehnički pristupi koje ustanove za finansijske usluge mogu primeniti kako bi povećale transparentnost modela mašinskog učenja (kojima se ovaj članak ne bavi), pouzdano upravljanje je takođe srž problema. Slede pitanja na koje bi vaša organizacija trebalo da odgovori kako biste uspešno rešili transparentnost modela:
- Znam li i imam li potpunu sliku svih u mojoj organizaciji koji razvijaju i/ili koriste mašinsko učenje?
- Koje alate koriste moji timovi?
- Imamo li dovoljno internih standarda i praksi za kontrolu rizika i jesmo li ih procenili u kontekstu veštačke inteligencije?
- Koje su potencijalne implikacije složenih i netransparentnih modela mašinskog učenja za naše poslovanje?
Za organizacije koje pružaju finansijske usluge, ključno je imati jasne odgovore na ta pitanja dok istražuju metode za razvoj objašnjivih modela mašinskog učenja koji mogu pomoći kompanijama da bolje razumeju rezultate modela, odluke, faktore koji stoje iza uspeha ili neuspeha modela i situacije u kojima su modeli mašinskog učenja pouzdani.
Poglavlje 3
Rizik pristrasnosti i privatnost podataka
Bilo je mnogo slučajeva neuspeha veštačke inteligencije gde su velike organizacije pokušale stvoriti modele mašinskog učenja koji su rezultirali nenamernim posledicama.
Neki od tih poznatih primera uključuju sporne razgovore s četbotovima, pristrasne alate za zapošljavanje i diskriminatorno oglašavanje.
Iako mnogi od tih primera uključuju poznate tehnološke kompanije, slični rizici postoje i za kompanije koje pružaju finansijske usluge. Objavljeni članci, knjige i studije istraživali su upotrebu veštačke inteligencije u razvoju modela za širenje pristupa kreditima, što nekim grupama potrošača može pogodovati više nego drugima. Kompanija EY takođe je objavila članak u kom je istakla neke rizike. Kako osiguravamo da modeli mašinskog učenja ili druga rešenja veštačke inteligencije sistematski ne stavljaju određene pojedince ili grupe u nepovoljni položaj? Kako sprovodimo zaštitu pri korišćenju ličnih podataka?
Kompanije za finansijske usluge moraju razmotriti kako se pristrasnost može pojaviti u bilo kojoj od faza izvršenja mašinskog učenja: tokom prikupljanja podataka, pripreme podataka, modeliranja, procene i/ili korišćenja. Ta pitanja su usko povezana sa nedavno rastućim problemima u vezi sa privatnošću podataka: ko poseduje lične podatke ljudi i uvide koji iz njih proizlaze, i kako efikasno kontrolišemo i odobravamo njihovu upotrebu?
Primećujemo različite trendove u zemljama širom sveta. Na primer, Kina omogućuje kompanijama i Vladi da zadrže znatno veću kontrolu nad pojedinim ličnim podacima, a ti podaci se koriste na različite načine - uključujući monetizaciju kako bi se podstakao razvoj dodatnih potrošačkih proizvoda. Monetizacija podataka takođe je sve popularniji trend u ostatku sveta. Međutim, mnoge evropske zemlje su propisale da pojedinci lične podatke mogu ili ne moraju dati kompanijama i platformama, a u nekim slučajevima takođe poseduju i uvide dobijene korišćenjem njihovih podataka. Kao rezultat toga, Evropska unija je odgovorila izradom propisa i zakonodavstva za zaštitu od zloupotrebe podataka i generalne smernice o zaštiti podataka i privatnosti kao i izvozu ličnih podataka izvan EU. SAD takođe istražuju ovu temu, ali još nisu donele sveobuhvatno zakonodavstvo, iako su usvojeni pojedinačni zakoni za određene situacije.
S obzirom na različite pristupe širom sveta za zakonsko omogućavanje uvida na osnovu podataka i vlasništva nad podacima, kompanije za finansijske usluge i druge organizacije mogu:
- Definisati svrhu korišćenja podataka : Koja je formulacija problema? Da li je izrađeni problemski okvir pravičan i nepristran? Šta pokušavate da rešite svojim modelom mašinskog učenja? Da li je upotreba podataka u skladu s postojećim regulatornim smernicama? Budite konkretni, a zatim procenite postoji li opasnost da problem koji želite rešiti dovede do pristranih rezultata putem direktnih ili indirektnih veza.
- Prikupljanje podataka i izvori podataka : Kako su prikupljani podaci za potrebe modeliranja? Kakva je struktura i raspodela populacije od koje su podaci prikupljeni i da li je reprezentativna za populaciju za koju se model razvija? Postoje li potencijalne nasleđene pristrasnosti kod ovakve vrste podataka ili odražavaju postojeće pristrasnosti i predrasude?
- Priprema i modeliranje podataka : КKako su podaci standardizovani, normalizovani ili na drugi način modifikovani ili pripremljeni za potrebe modeliranja? Postoje li potencijalni rizici s korišćenim pristupima? Koji su atributi ili karakteristike odabrani i kako se podaci koriste u modelu?
- Vrednovanje i primena: Кako se rezultati modela vrednuju i kako se proverava jesu li pristrasni? Kako se rezultati koriste za uticaj na postupke i odluke i kako se to prati?
Poglavlje 4
Preispitivanje strategije radne snage kao rezultat veštačke inteligencije
Kompanije koje pružaju finansijske usluge razvijaju dokaze koncepta pomoću tehnika veštačke inteligencije za testiranje konkretnih slučajeva korišćenja za unapređenje poslovnih procesa.
Iako je većina organizacija još uvek u ranim fazama istraživanja, korišćenje veštačke inteligencije - posebno u kombinaciji s drugim alatima i tehnikama, kao što su robotska automatizacija procesa i optičko prepoznavanje znakova - ima značajne posledice za finansijske organizacije i njihove zaposlene:
- Prekvalifikacija i usavršavanje radne snage : Uvođenje veštačke inteligencije, u kombinaciji sa drugim sredstvima automatizacije, može umanjiti ili eliminisati mnoge ručne zadatke, menjajući time prirodu posla za zaposlene koji su prethodno obavljali te zadatke. Organizacije moraju razviti i sprovesti strategije za usavršavanje ili prekvalifikaciju zaposlenih na čija radna mesta utiče AI i pomoći im u tome da ručne i ponavljajuće zadatke zamene onima koji uključuju više obazrivosti i sticanja uvida. Kako razvijamo odgovarajuće programe osposobljavanja za ove vrste situacija? Kako podstičemo internu mobilnost u organizaciji kako bismo alocirali i zadržali postojeće zaposlene?
- Privlačenje talenata i provera veština: Budući da primena veštačke inteligencije menja prirodu potrebnih uloga, kompanije za finansijske usluge počinju preispitivati pozicije koje moraju popuniti i za koje moraju pronaći zaposlene. Potrebni su resursi usmereni ka veštačkoj inteligenciji, od programskih inženjera i stručnjaka za podatke do rukovodioca i stručnjaka za veštačku inteligenciju. Istovremeno se povećava i širi pristup mrežnim alatima za učenje, softveru otvorenog koda, brzim kursevima za programske inženjere, sertifikatima i drugim načinima sticanja kvalifikacija u svim srodnim područjima, za razliku od tradicionalnijih programa diplomskog obrazovanja. Kompanije moraju razmotriti kako efikasno proceniti i proveriti da potencijalni kandidati poseduju potrebne veštine za slobodna radna mesta. Uz to, kako se AI tehnologija nastavlja brzo razvijati, kako da organizacija ažurira svoje programe u korak s tim promenama? Kako omogućiti održivi talent u organizaciji i stvoriti zajedničku svest o zdravim i etičkim praksama?
- Promena uloga i odgovornosti: Primena veštačke inteligencije takođe često zahteva povećanu potrebu za bliskom saradnjom različitih timova ili funkcija. Ažurirane uloge i odgovornosti moraju omogućiti fluidnu komunikaciju između različitih timova, poput poslovnih jedinica i tehnoloških timova. Neke odgovornosti se mogu prebaciti s jedne grupe na drugu i te izmene je potrebno efikasno izvršiti. U drugim slučajevima se može činiti da je podela odgovornosti između timova manje jasna. Na primer, kad je reč o modelu mašinskog učenja specifičnom za slučaj korišćenja, ko je vlasnik modela i rezultata modela? Ko je odgovoran za kontinuirano praćenje izvršenja modela i pravovremeno održavanje razvijenih modela? Da li je to tehnološki tim koji ga je razvio ili poslovna jedinica koja je odredila zahteve? Ako pojedine poslovne jedinice počnu okupljati interne timove za AI, kako se ti timovi međusobno povezuju i dele odgovornosti s postojećim tehnološkim timom organizacije? Ovo su pitanja koja se moraju uzeti u obzir kada organizacija preispituje postojeće uloge i odgovornosti i prilagođava ih budućem okruženju koje pokreće AI.
Poglavlje 3
Novi problemi vezani za rizik od dobavljača
Organizacije za finansijske usluge moraju sprovesti upravljanje rizicima treće strane kako bi bile usklađene sa postojećim regulatornim smernicama.
Međutim, sve brže pojavljivanje dobavljača na području veštačke inteligencije nosi sa sobom posledice koje organizacije moraju dodatno razmotriti.
Organizacijama možda nedostaje uvid u proizvode novih dobavljača, što rezultira istim izazovima vezanima za nedostatak transparentnosti modela koji su obrazloženi u ovom tekstu. Osim toga, programerima je na internetu dostupno mnoštvo softvera otvorenog koda, koji se mogu koristiti interno u organizacijama. Softverski alati otvorenog koda se takođe konstantno i brzo menjaju i možda nisu procenjeni prema postojećim postupcima upravljanja rizicima od treće strane.
Dalje, rizik od dobavljača povećava se zbog pitanja pristrasnosti i privatnosti podataka koje smo spomenuli. Organizacije za finansijske usluge moraju proceniti svoje dobavljače kako bi utvrdile poštovanje propisa o zaštiti podataka; ako dobavljač ima niske standarde zaštite podataka ili je na neki način nemaran, bez obzira je li dobavljač toga svestan ili ne, to može predstavljati rizik i potencijalnu odgovornost za organizacije koje koriste usluge dobavljača.
Sve navedeno takođe važi za kompanije za finansijske usluge koje su partneri ili pripajaju kompanije za finansijsku tehnologiju, koje mogu koristiti aplikacije utemeljene na veštačkoj inteligenciji. Osim procene alata otvorenog koda i kombinacije tehnologija koje koriste dobavljači, kompanije bi iz istih razloga takođe morale proceniti i tehnologiju utemeljenu na veštačkoj inteligenciji koju partneri ili pripojene kompanije koriste.
Kao rezultat toga, kompanije moraju preispitati postojeće prakse upravljanja rizicima od trećih strana kako bi potvrdile da rešavaju pitanja u vezi veštačke inteligencije. Ključna pitanja za ublažavanje rizika od treće strane kod dobavljača koji koriste AI i analitiku mogu uključivati:
- Centralizovano odobrenje: uspostavljanje strukture koja zahteva centralizovano odobrenje platformi dobavljača i biblioteka otvorenog koda i izrada baze rešenja unapred proverenih dobavljača i otvorenog koda za podatke, infrastrukturu, kod i ostale potrebe
- Standardi: рrazvijanje ili poboljšanje postojećih standarda koji detaljno navode posebne zahteve za korišćenje javnih biblioteka otvorenog koda i proveravanje da li standardi zadovoljavaju smernice za upravljanje rizikom dobavljača
- Zahtevi dubinske analize: razvijanje zahteva za sprovođenje dubinske analize dobavljača treće strane i potvrđivanje dovoljne transparentnosti, osobito s obzirom na potencijalni rizik od četvrte strane ili dobavljačevo korišćenje alata i softvera otvorenog koda; slično tome, razvijanje zahteva za dubinsku analizu potencijalnih partnerstava, saveza i kompanija koje žele pripojiti
- Usklađenosti sa novim propisimа: · nove regulatorne smernice i zakonodavstvo koji predstavljaju dalje implikacije i složenosti za upravljanje rizicima od treće strane i stoga mogu zahtevati procenu standarda zaštite podataka svakog dobavljača
Za više informacija o dodatnim primenama veštačke inteligencije i trendovima u industriji finansijskih usluga, pročitajte naše druge članke o novim tehnologijama i inovacijama .
Veštačka inteligencija: primeri studija slučaja
Kako bismo vam ilustrovali neka od pitanja koja smo opisali, u nastavku navodimo dve studije slučaja za diskusiju.
U pisanju ovog članka svoj doprinos su dali:
Chandra Devarkonda, Rukovodilac, Savetovanje za finansijske usluge, Ernst & Young LLP
Sameer Gupta, Rukovodilac odeljenja veštačke inteligencije i napredne analitike, Savetovanje za finansijske usluge, Ernst & Young LLP
Tom Reilly, Senior menadžer, Savetovanje za finansijske usluge, Ernst & Young LLP
Rita Kirzhner, Senior konsultant, Savetovanje za finansijske usluge, Ernst & Young LLP
Rezime
Kompanije iz mnogih delatnosti istražuju korišćenje veštačke inteligencije (AI) kako bi poboljšale svoje procese i poslovanje. Pojava i brzi rast opsega mogućnosti veštačke inteligencije rezultirali su brojnim izazovima za mnoge kompanije, uključujući institucije za finansijske usluge - što dovodi do potrebe da organizacije procene uticaj tehnologije na njihove postojeće procese i prilagode se promenljivom okruženju.