Hur kan proaktivitet vad gäller risk skapa insikter om AI?

6 Lästid 16 jan 2020
Relaterade ämnen Trust

Om det bara behövs ett misstag – eller bara misstanken om ett misstag – för att användare ska sluta lita på AI, hur kan du behålla deras förtroende?

Varje affärsutmaning är en möjlighet för AI. Men många företag misstror AI. Därför är de selektiva med hur AI används och avstår från att utnyttja alla möjligheter.

Förtroende är den grund på vilken företag kan bygga tillit hos sina intressenter.Men i tider som dessa när information kan spridas över världen på ett ögonblick, kan misstag vara kostsamma. Det är också svårare att få en andra chans. Företag som vill lyckas i en AI-värld måste implementera riskoptimering i hela AI-systemets livscykel. De gör detta genom att gå från en responsiv riskhantering till en proaktiv och dynamisk riskhantering som gör det möjligt att bygga förtroende.

Att bygga förtroende för AI

Med AI följer nya risker och en påverkan som tidigare har hängt ihop med mänskligt beslutsfattande, inte med teknikutveckling. 

Eftersom risker och påverkan omfattar tekniska, etiska och samhälleliga områden behövs ett nytt ramverk för att identifiera, mäta och hantera riskerna. Ramverket byggs på företagets befintliga struktur för styrning och kontroll, men introducerar även nya mekanismer som hanterar de unika riskerna med AI.

Hantera riskerna

Att hantera AI-risker handlar inte bara om att förhindra risker som rör juridik, lagstiftning och företagets anseende. Det handlar även om att betraktas som pålitligt. Eftersom det offentliga samtalet i stor utsträckning fokuserar på risker kommer det att ta tid och krävas aktiv dialog med intressenter för att bygga förtroende för AI-system. 

Att bygga förtroende för AI kräver en koordinerad insats. EY menar att arbetet vilar på fem stöttepelare:

  1. Främjande – Ser intressenterna fördelarna med AI? Hur kommer AI att förbättra företagets produkter och tjänster? 
  2. Färdighet – Vad tillför AI till företagets varumärke, produkt och service samt intressenternas upplevelser?
  3. Konsekvens – Ligger användningen av AI i linje med företagets syfte?
  4. Öppenhet – Har företaget kommunicerat om AI och potentiella fördelar och risker med sina viktigaste intressenter?
  5. Integritet – Ligger företagets syn på hur AI ska utformas och användas i linje med intressenternas förväntningar?

Den minsta gemensamma nämnaren i de här fem stöttepelarna är ansvar.

Ansvar är den grund som förtroende bygger på och den punkt där ett företag omvandlar intentioner till beteenden. Oavsett nivån på AI-systemets autonomi måste det yttersta ansvaret för en algoritm ligga hos en människa eller ett företag. Genom att bädda in riskhantering i såväl utformning som kontrollmekanismer, kan företag visa att de bär ansvaret för AI-systemets förutsägelser, beslut och beteenden.

Företag som är ledande inom AI bygger in Trust by Design i AI-systemet för att flytta fokus från "vad kan gå fel?" till "vad måste gå rätt?"

Människans förståelse för hur AI fungerar, liksom för när och hur risker kan uppstå, utvecklas fortfarande. Därför är standardinställningen till många AI-system att de är förenade med hög risk och människor närmar sig dem med försiktighet. För att motverka detta finns olika verktyg och plattformar som hjälper företag att kvantifiera AI-system vad gäller påverkan och pålitlighet.

Kvantifiera riskerna med AI

Om företag ska kunna utnyttja AI:s fulla potential behöver de kunna förutspå och utvärdera omständigheter som förstärker risker och undergräver förtroende.

För att förstå vad som driver riskerna måste många bidragande faktorer övervägas, bland annat AI:s tekniska utformning, intressenters påverkan och mognadsgrad på kontroller. Var och en av dessa kan påverka risknivån i ett AI-system. Att utveckla en förståelse för vad som driver risker är en komplicerad uppgift. Det krävs noggranna överväganden av hur potentiella intressenter påverkar AI-systemet under hela dess livscykel.

Tre områden är viktiga för att att utveckla en pålitlig AI-plattform:

  • Tekniska risker — Utvärdera underliggande tekniker, teknisk driftsmiljö och nivån på autonomi.
  • Intressenters påverkan — Beakta AI-agentens syfte och mål, finansiell, emotionell och fysisk påverkan på såväl externa som interna användare, regulatoriska och legala risker samt anseenderisker.
  • Kontrolleffektivitet — Se över kontrollnärvaro och effektivitet för att minska riskerna med AI.

Tillsammans skapar dessa områden en integrerad strategi för att utvärdera, kvantifiera och kontrollera AI:s påverkan och pålitlighet. En pålitlig AI-plattform använder interaktiva, webbaserade verktyg för att bygga en riskprofil och därefter en avancerad analysmodell för att konvertera och utvärdera respons från användare. 

Företag kan använda plattformen för att utveckla en riskkvantifiering och utmana funktioner i början av AI-projektet. Att redan från start bädda in krav på förtroende när AI-systemet utformas kommer att resultera i en effektivare AI-utbildning och att fler känner förtroende för och vill använda AI.

Reagera på riskerna med AI

Att reagera på riskerna med AI kommer att kräva nya och innovativa kontrollmetoder som kan hålla jämna steg med AI:s snabba och adaptiva inlärningssystem. 

När företag utvecklar en strategi för att minska riskerna är det viktigt att ta hänsyn till AI-systemens mål, potentiell påverkan på intressenter (både positiv och negativ), teknisk genomförbarhet, mognad på kontrollmekanismer och AI-operatörens risktolerans.

Det krävs starka kontrollmekanismer för att skapa förtroende, eftersom AI fortsätter att lära och anpassa ramverk för beslut efter att systemet tagits i produktion. Företag måste kontinuerligt utvärdera om ett AI-system fungerar inom acceptabla prestandanivåer och identifiera när en ny risk uppstår.

 

Att bygga och upprätthålla förtroende för AI kräver investeringar i innovativa metoder för riskhantering och insikter om potentiella risker.

Utnyttja förtroendet för AI som en konkurrensfördel

AI har redan förändrat hur vi arbetar och lever. Företag som kommer att lyckas i en AI-värld är de som kan optimera både data och feedback för att locka fler användare och påskynda deras acceptans av AI.

Genom att utveckla ett riskhanteringssystem för AI och involvera användarna i utvecklingen av AI, kan företag nå långt i arbetet med att göra användarnas förtroende till en konkurrensfördel. De kan även omvandla proaktivitet vad gäller företagets risker till insikter om AI.

Summering

Företag måste bygga in förtroende i AI-systemets hjärta och vara proaktiva när det gäller risker. Avancerade AI-verktyg kan hjälpa ett företag under resans gång, dels genom att erbjuda insikter om drivkrafter för risk, dels genom att vägleda arbetet med att utveckla skräddarsydda strategier för riskreducering.

Om artikeln

Relaterade ämnen Trust