Når kunstig intelligens får menneskelige trekk, vil den miste menneskets tillit?

Skrevet av

EYQ

EYQ is EY’s think tank.

By exploring “What’s after what’s next?”, EYQ helps leaders anticipate the forces shaping our future — empowering them to seize the upside of disruption and build a better working world.

Gautam Jaggi

EY Global Markets EYQ Global Insights Director

EYQ analyst exploring what’s after what’s next. Focus areas: disruption, megatrends, behavioral economics, health, future of work, AI. Passionate about photography, travel and music.

9 minutters lesing 25 jan 2019
Relaterte temaer Digitalisering

Dagens virksomheter står overfor en utfordring vi ikke har noe å sammenligne med, nemlig det å skulle ta i bruk automatisering og teknologiske nyvinninger uten å undergrave forbrukernes tillit.

Generell tillit til virksomheter og institusjoner er lavere enn noensinne. Virksomhetene trenger adferdsdesign for å automatisere og innføre ny teknologi og samtidig beholde forbrukernes tillit.

For å holde på forbrukernes engasjement i en verden med synkende tillit og økende skepsis, vil det kreves en ny tilnærming til design som er inspirert av menneskelig psykologi. Design er ikke lenger forbeholdt de mest kreative blant oss. Det er derimot et strategisk imperativ som driver frem tillit og vekst, og noe som bedriftslederne må engasjere seg i.

Bedrifter må forstå det psykologiske grunnlaget for forbrukernes engstelse og bruke design for å håndtere dette.
Amy Brachio
Leder for risikorådgivning EY Global and Americas

Hvordan ny opplevelsesteknologi vil påvirke menneskelig adferd

Design og adferd har alltid vært knyttet sammen, men koblingen får en ny mening med den neste generasjons teknologier. Disse nyvinningene – inkludert kunstig intelligens (AI), roboter, autonome kjøretøy (AV), utvidet virkelighet (AR) og virtuell virkelighet (VR) – er enestående på to viktige måter:

    .
  1. De vil ha en autonomi som vi ikke har sett tidligere, og handle på våre vegne uten anvisninger fra oss
  2. De vil være overbevisende naturtro,  og etterligne menneskelige egenskaper på en stadig mer sofistikert måte
.

Følgelig vil denne neste generasjons teknologier være ulik alle vi har sett til nå. De vil muliggjøre en ny æra av utvidet menneskelig opplevelse, der teknologier ser ut som oss og opptrer som oss, ofte uten vår innvirkning.

Teknologier for utvidelse av menneskelig opplevelse vil endre alt for bedrifter og kunder. Teknologiene vil kunne åpne for nye måter å engasjere forbrukere på – fra samtalegrensesnitt som erstatter tastaturer, til digitale assistenter som autonomt tar beslutninger om kjøp – og skape en ny generasjon av selvstendige «superforbrukere».

Men æraen for utvidet menneskelig opplevelse vil ha enda større konsekvenser for menneskelig adferd. Når teknologier tilslører grensen mellom menneske og maskin, vil de komme veldig nær kjernen i det som gjør oss til mennesker. Dermed vil de utløse emosjonelle reaksjoner som er innbakt i vår psykologi. For eksempel har millioner av år med evolusjon gjort oss disponert for å reagere på menneskelige ansikter på visse måter. Dette vil ha enorme implikasjoner for hvordan forbrukerne reagerer på overbevisende naturtro roboter – et problem som ikke har vært relevant for tidligere teknologier.

For bedrifter vil det være av avgjørende betydning å forstå disse adferdspåvirkningene og ta høyde for dem. Det er dette adferdsdesign handler om

Ta i bruk adferdsdesign for å øke forbrukernes tillit til nye teknologier

Adferdsdesign er design som er inspirert av kunnskap om menneskelig psykologi. Bevæpnet med denne innsikten kan bedrifter lage produkter, funksjoner, grensesnitt og budskap som tar høyde for de kognitive skjevhetene som de nye teknologiene sannsynligvis vil utløse. Her er noen eksempler:

Vi er disponert for å frykte nye teknologier

Automatisering utløser allerede frykt for alt fra tap av arbeidsplasser og sikkerheten rundt selvkjørende biler til utsiktene til at roboter kan få sin egen bevissthet og true menneskeheten. Selv om all ny teknologi helt klart medfører noe risiko, er det en rekke kognitive skjevheter som gjør oss disponert til å overdrive slike trusler.

Vi forstår ikke sannsynlighet, noe som fører til at vi fokuserer på hvor katastrofalt resultatet kan bli (f.eks. å dø i en bilulykke) snarere enn sannsynligheten for at noe vil skje (f.eks. er automatiserte kjøretøy statistisk sikrere enn menneskelige sjåfører). I den grad vi i det hele tatt bearbeider sannsynlighet, har vi en tendens til å overdrive små muligheter.

Den naturlige strategien for problemløsning fører til at vi mennesker fokuserer på, og overdriver viktigheten av, lett tilgjengelig informasjon. Den voldsomme nyhetsdekningen av en enkelt ulykke med et automatisert kjøretøy overdøver derfor et hav av underliggende informasjon om hvor sikre selvkjørende biler er.

Slik frykt blir allerede utløst av AI og selvkjørende biler. Forvent mer etter hvert som teknologier som passasjer-droner og menneske-maskin-grensesnitt kommer til sin rett.

Viktige spørsmål å vurdere:

  • Hvordan vil utformingen av neste generasjons produkter og tjenester fungere i møte med menneskets psykologi?
  • Hvordan kan budskaps- og markedsføringsstrategien vår dempe frykten for nye teknologier?
  • Vet vi hvordan vi skal håndtere sikkerhetsutfordringer på det emosjonelle planet, i motsetning til å bare spre teknisk informasjon om sikkerhet?
  • Hvordan kan vi utnytte kraften fra sosiale grupperinger og nettverk for å øke tilliten til det vi tilbyr?

Kontroll er viktig

«Den menneskelige hjernen er konstruert for å kontrollere omgivelsene — den er en viktig motivator som driver oss», sier Tali Sharot, professor i kognitiv nevrovitenskap og EYQ-stipendiat hos EY. «Opplevelsen av å kunne handle og ta valg, utløser et belønningssignal i hjernen, omtrent som når vi spiser en sjokoladebit. Motsatt kan opplevelsen av å miste kontroll utløse frykt eller angst.»

Det er derfor ikke overraskende at den kognitive skjevheten, illusjon av kontroll, gjør oss disponert til å ønske å føle at vi har kontroll selv i situasjoner der vi ikke har det. Dørlukkingsknappen i mange heiser har for eksempel ingen innvirkning på hvor raskt heisdørene lukkes — den gir bare brukerne en følelse av kontroll.

Dette aspektet av menneskelig psykologi vil bli stadig mer relevant når teknologier for utvidet menneskelig opplevelse begynner å handle på våre vegne. For eksempel kan selvkjørende biler i teorien gjøre at bilkupeen kan designes på helt nye måter, som en stue eller et treningsrom. Men det menneskelige behovet for kontroll kan bety at man i stedet velger å beholde ratt og bremsepedaler.

Den menneskelige hjernen er konstruert for å kontrollere omgivelsene — det er en viktig motivator som driver oss. Å oppleve å kunne handle og ta valg utløser et belønningssignal i hjernen, omtrent som når vi spiser en sjokoladebit. Motsatt kan tap av kontroll utløse angst.
Tali Sharot
Professor i kognitiv nevrovitenskap og EYQ-stipendiat

Viktige spørsmål å vurdere:

  • Hvilke beslutninger begynner teknologien ta på vegne av forbrukerne, etterhvert som AI blir mer utbredt?
  • På hvilke områder er forbrukerne mest urolige for å miste kontrollen? Er det områder der de ønsker AI velkommen?
  • Hvordan kan vi gi kunden en større følelse av kontroll over sine data ved å be om frivillig, uttrykkelig og informert samtykke?
  • Kan vi tydelig demonstrere de spesifikke fordelene forbrukerne får i bytte mot å gi fra seg noe av kontrollen? Forstår vi hva de tenker om denne «byttehandelen»?

Naturtro grensesnitt trigger den menneskelige psykologien

Etterhvert som AI-assistenter, roboter og selvkjørende biler blir stadig mer naturtro, kan de utløse kognitive skjevheter som designerne vil måtte ha i mente.

Vi har en dyptsittende tilbøyelighet til å antropomorfisere  (tilskrive menneskelige egenskaper til) livløse objekter. Designere har lenge brukt denne tilbøyeligheten (f.eks. frontgrill på bil som subtilt minner om en menneskelig munn for å skape positive følelser). Men roboter og AI-assistenter vil ta dette fenomenet til et helt nytt nivå, og det kan få følger for hvordan vi tar i bruk teknologien og forholder oss til den.

Antropomorf design har allerede begynt å dukke opp. Studier viser for eksempel at det er lettere å like digitale assistenter hvis de gjør små feil i stedet for å operere feilfritt – noen kaller det «ramle på rumpa-effekten».

En annen koginitiv skjevhet, kjent som «uncanny valley»-effekten, gjør at folk synes det er ekkelt eller nifst med roboter eller VR-applikasjoner som fremstår nesten, men ikke helt, menneskelige. Dette kan bety at utviklerne kanskje vil sørge for at produktene ikke blir altfor naturtro, i alle fall på kort sikt. (Mange forventer at ubehaget vil forsvinne når designet blir så naturtro at det er umulig å skjelne fra originalen.)

Viktige spørsmål å vurdere:

  • I hvilke segmenter blir det vi tilbyr mer naturtro enn før?
  • Hvordan kan vi bruke antropomorf design for å få frem positive følelser overfor våre produkter og tjenester?
  • Bruker vi markedsundersøkelser og menneskelig psykologi som støtte for beslutninger om hvor naturtro våre produkter og tjenester bør være? 
  • Forstår vi hvordan forbrukernes holdning til naturtro teknologier varierer mellom demografiske grupper og geografiske områder – og hvordan dette påvirker vekstplanene våre? 

Adferdsdesign for å bygge tillit

Alt dette har enorme konsekvenser for selskaper som bruker neste generasjons teknologier for å utvikle produkter og tjenester.

«Gjennombruddsteknologier som kunstig intelligens (AI) og roboter kan øke levestandarden og skape nye vekstmuligheter for selskaper», sier Amy Brachio, EYs globale leder for risikorådgivning. «Men ny teknologi kan også medføre ny risiko – i dette tilfellet for motstand hos forbrukerne. Bedriftene må forstå det psykologiske grunnlaget for forbrukernes engstelse og bruke design for å håndtere dette.»

For ledelsen og styret betyr dette et behov for å tenke nytt om forretningsmodeller, bedriftsstrukturer og kontrollmekanismer. Design må vurderes på høyeste nivå i virksomheten, og det må komme inn mye tidligere i utviklingsprosessen.

Viktige spørsmål å vurdere:

  • Trenger du adferdsforskere i styrerommet?
  • Hvordan kan adferdsdesign informere due diligence i forbindelse med oppkjøp og allianser?
  • Hvor i organisasjonen har du kompetanse på adferdsdesign? Er den integrert eller outsourcet?
  • Hvordan utfordres alle ledd i virksomheten, fra FoU og næringsutvikling til markedsføring, til å være helt i forkant når det gjelder adferdsdesign?

Det er mye som står på spill her, både for selskaper og enkeltpersoner. Adferdsdesign påvirker alle selskaper. Det gjelder ikke bare selvkjørende biler og roboter, men alt fra data mining til sosiale medier. Den strekker seg til alle ledd i i verdikjeden, fra FoU til salg. I vid forstand vil adferdsdesign avgjøre om vi motsetter oss eller tar inn over oss nye teknologier – og om de gjør livene våre bedre eller verre. I en verden av menneskellignende maskiner trenger vi mer enn noen gang å designe for menneskelig psykologi.

Innovation Realized hanging chairs

Innovation Realized

På Innovation Realized Summit 2019 samlet vi noen av de smarteste folkene for å samarbeide om hvordan vi kan løse dagens utfordringer, utforske de neste og forestille oss hva som kommer deretter.

Oppdag mer (EN)

Sammendrag

For å holde på forbrukernes engasjement i en verden med synkende tillit og økende skepsis, vil det kreves en ny tilnærming til design som er inspirert av menneskelig psykologi. Design er ikke lenger forbeholdt de mest kreative blant oss. Det er derimot et strategisk imperativ som driver frem tillit og vekst, og noe som bedriftslederne må engasjere seg i.

Adferdsdesign er en av de 10 omveltende kreftene som er identifisert i EY Megatrends-rapporten. For å finne ut mer og laste ned EY Megatrends-rapporteren i sin helhet, klikk her.

Om denne artikkelen

Skrevet av

EYQ

EYQ is EY’s think tank.

By exploring “What’s after what’s next?”, EYQ helps leaders anticipate the forces shaping our future — empowering them to seize the upside of disruption and build a better working world.

Gautam Jaggi

EY Global Markets EYQ Global Insights Director

EYQ analyst exploring what’s after what’s next. Focus areas: disruption, megatrends, behavioral economics, health, future of work, AI. Passionate about photography, travel and music.

Relaterte temaer Digitalisering