Hoe betrouwbare AI bijdraagt aan langetermijnwaardecreatie

10 minuten leestijd 19 apr. 2021
Auteurs
Sharon Sutherland

EY Global Center for Board Matters Leader and Asia-Pacific Networks Leader

Global mindset. Power through diversity. Art lover. Intellectually curious. Traveler. Legacy matters. Passionate about learning initiatives.

Michelle Unger

EY Global Technology Officer – Consulting

Over 20 years immersed in technology at the forefront of AI, robotics and deep learning. Putting tech at the core of EY’s transformation and showcasing how clients can too. Champion of women in tech.

10 minuten leestijd 19 apr. 2021

Streeft uw organisatie naar duurzame waardecreatie? Dan heeft u als commissaris de taak om het vertrouwen in artificial intelligence op te bouwen en te beschermen.

In het kort

  • Betrouwbare AI heeft enorme potentie om op lange termijn waarde te creëren voor stakeholders. Aan de andere kant kunnen de kosten van onethische toepassing hoog oplopen.
  • AI-regelgeving moet zowel organisaties als consumenten beschermen. Aan bestuurders om te zorgen dat de stem van hun organisatie wordt gehoord.
  • Bestuurders moeten AI vanuit de organisatiestrategie begrijpen, maar het ontbreekt hen vaak aan kennis.

Steeds meer organisaties zetten artificial intelligence (AI) voor allerlei taken in. Van de automatische beantwoording van een klantvraag tot het stroomlijnen van back-officeprocessen. Toch heeft ‘de boardroom’ vaak beperkt begrip van hoe AI werkt. En, belangrijker nog, het gebruik en de naleving van ethische normen staat amper op de toezichtsagenda. Dat is begrijpelijk, want als commissaris is het lastig om de constante evolutie van AI bij te houden; de leercurve is steil.

Maar wat is precies het verband tussen betrouwbare AI, ethische naleving en langetermijnwaardecreatie? Die vraag legde het EY Center for Board Matters voor aan een aantal experts, die in bovenstaande video aan het woord komen – het startschot van onze “Board Imperative Series”. De inzichten en acties helpen bestuurders en commissarissen om de toekomst van hun organisatie opnieuw te beoordelen. 

Aanvullend geven we in dit artikel handvatten om het vertrouwen in AI te creëren en te beschermen. Ook bekijken we hoe u als bestuurder of commissaris de AI-risico’s kunt verminderen en AI ethisch inzet.De kans is groot dat uw organisatie kunstmatige intelligentie gebruikt of actief overweegt toe te passen voor een groot aantal taken; van het beantwoorden van een vraag van een klant op een app tot het stroomlijnen en versnellen van een aantal back-office processen. Desondanks hebben senior leiders, inclusief directieleden, vaak slechts een beperkt begrip van hoe AI werkt. En, belangrijker nog, ze bespreken niet regelmatig het gebruik en de toepassing ervan binnen de organisatie om ervoor te zorgen dat ethische normen worden nageleefd.

Dit zijn complexe taken die om voorbereiding vragen. Enkele adviezen:

  1. Neem liever te vroeg dan te laat deel aan de discussie over AI en andere innovatieve technologieën.
  2. Denk vanuit de algemene AI-strategie na over ethisch gebruik van AI.
  3. Lees uzelf in of raadpleeg experts, zodat u ook vanuit een bestuursrol waardevolle bijdragen aan discussies levert en het managementteam de juiste strategische vragen weet te stellen.
  4. Zorg ervoor dat uw organisatie een stem heeft in discussies over regelgeving voor AI.
Local Perspective IconEen lokaal perspectief

Organisaties moeten hun ethische verantwoordelijkheid nemen bij AI

Nederland is één van de meest gedigitaliseerde landen ter wereld. Zonder IT ligt een organisatie stil. Ook op vlak van Artificial Intelligence (AI) zien we veel activiteiten en het is goed te weten dat de beroepsgroep van IT auditors, de NOREA, richtlijnen heeft ontwikkeld die momenteel als concept voorliggen bij haar leden. Ook De Nederlandsche Bank als toezichthouder heeft richtlijnen opgesteld waaraan banken, verzekeraars en pensioenfondsen zich moeten houden bij gebruik van AI. Naast het feit dat AI betrouwbare en voorspelbare data moet opleveren, is het ook van belang dat organisaties hun verantwoordelijkheid moeten nemen als AI niet naar behoren functioneert en is ethiek erg van belang. Dat wil zeggen dat niemand schade mag leiden door gebruik van AI. Iedereen moet gelijk behandeld worden. Er mag dus geen sprake zijn van discriminatie. Dit laatste lijkt logisch maar is een nieuw element in de opslag en verwerking van data die in de traditionele wijze van dataopslag en verwerking niet expliciet is benoemd.

Local contact

Marc Welters
EY Nederland Partner Financial Services
            Justitie standbeeld zon
(Chapter breaker)
1

Hoofdstuk 1

AI heeft een enorme potentie om duurzame waarde te creëren

De juiste inzet van AI kan het vertrouwen van stakeholders enorm versterken. Maar gaat het fout, dan kunnen de risico’s uw organisatie in gevaar brengen – zelfs het voortbestaan. Maar wat is nu het verband tussen AI en langetermijnwaarde?

Een verantwoordelijke organisatie denkt en handelt vanuit de langetermijnbelangen van al haar stakeholders - van werknemers en leveranciers tot regelgevers en lokale gemeenschappen.

Daarom moeten bestuursleden contact met hen onderhouden en bij beslissingen hun belangen laten meewegen. Op die manier creëert u onder stakeholders langetermijnwaarde en blijvend vertrouwen. En dat maakt de organisatie weer aantrekkelijker voor consumenten, investeerders en potentiële werknemers.

Kritische vragen

AI heeft een enorm potentieel om duurzame waarde te helpen creëren. Denk aan eerlijke resultaten, maar ook meer inclusiviteit, duurzaamheid en transparantie. Dit draagt allemaal bij aan vertrouwen. Tenminste, als AI correct wordt ingezet. Alleen de snelle digitalisering – met name de opkomst van customer analytics – roept kritische vragen op, vooral over discriminatie en rechtvaardigheid. De laatste tijd is ongelijkheid evidenter dan ooit en het is slecht nieuws als een nieuwe technologie, zoals AI, bepaalde groepen benadeelt of specifieke uitkomsten verhindert.

Opwaartse en negatieve spiraal

Data vormt de motor van AI, en dus ook van vertrouwen. Alleen gaat ethische AI verder dan het voorkomen van subjectiviteit, het raakt ook privacy. "Het levensbloed van de huidige AI-ontwikkelingen bestaat uit data,” zegt Reid Blackman Ph.D., oprichter en ceo van Virtue Consultants, een bureau gespecialiseerd in ethiek en data. "Bedrijven moeten een balans vinden tussen het vertrouwen van de consument en de noodzaak om data te verzamelen en te gebruiken, zodat klanten zich comfortabel blijven voelen om gegevens te delen."

Dit comfort begint al in de boardroom. Bestuurders moeten ervoor zorgen dat hun organisatie duidelijk en transparant is over de datastrategie, zodat klanten weloverwogen ‘ja’ kunnen zeggen om hun gegevens te verwerken. Zo ontstaat een opwaartse spiraal: hoe meer consumenten uw organisatie vertrouwen, hoe meer gegevens ze delen. En hoe meer gegevens ze delen, hoe beter de AI-technologie en uiteindelijk de bedrijfsresultaten.

Maar behandelt uw organisatie gegevens juist onzorgvuldig, dan gebeurt het tegenovergestelde. Er is maar één fout, of mogelijke fout, nodig om het vertrouwen te schaden. En als dit gebeurt delen klanten of gebruikers minder gegevens, of erger: ze verlaten uw organisatie, waardoor AI-technologie minder effectief wordt. Om dit te voorkomen spelen bestuurders, maar ook commissarissen, een belangrijke rol. Zoals Reid zegt: "Ze hebben de verantwoordelijkheid om ervoor te zorgen dat de reputatie van hun merk wordt beschermd."

Bedrijven moeten een balans vinden tussen het vertrouwen van de consument en de noodzaak om data te verzamelen en te gebruiken, zodat klanten zich comfortabel voelen om gegevens te delen
Reid Blackman Ph.D.
Oprichter en CEO van Virtue Consultants

Verklein de vertrouwenskloof

Bestuurders en commissarissen moeten een constructieve bijdrage leveren aan de ontwikkeling van AI-strategieën. Vanaf het eerste moment helpt u het managementteam om begrip te creëren. Welke risico’s en kansen brengt AI mee? En hoe beïnvloedt ethiek beide? Op die manier bouwt u aan vertrouwen dat ze nodig hebben om AI in de organisatie te omarmen.

Maar daarvoor moet u AI eerst zélf begrijpen en vertrouwen. En op dit moment kan de vertrouwenskloof een van de belemmeringen zijn. Volgens John Thompson, lead independent director en oud-voorzitter bij Microsoft, heerst er vaak een gebrek aan kennis bij de commissarissen. "Er zijn niet genoeg mensen die de technologie kennen en de toepasbaarheid begrijpen. Daarom snappen ze ook niet precies hoe u AI zinvol inzet voor de organisatie als geheel," zegt hij. "Zorg dus dat de raad van commissarissen kennis heeft van AI en een standpunt vormt.”

Het is de moeite waard om deze vertrouwenskloof te overbruggen, want zo voorkomt u dat negatieve nieuwsberichten merkschade veroorzaken. Ook helpt het bij de ontwikkeling van AI-technologieën die mensgericht en betrouwbaar zijn en tegelijk de samenleving als geheel dienen.

  • Drie manieren waarop AI bijdraagt aan de creatie van langetermijnwaarde

    1. Werk samen met het management. Samen leggen jullie de doelstellingen en ethische principes van AI in de organisatie vast: hoe u gegevens verzamelt, opslaat en verwerkt, maar ook hoe u de gegevensstructuur communiceert aan interne en externe stakeholders. Leg dit allemaal aan het begin vast, zodat u ze niet achteraf hoeft toe te voegen.
    2. Stap vroeg in, zodat u snel leert. Afhankelijk van de sector moet u AI toch min of meer begrijpen om de risico’s goed te managen en aan discussies mee te kunnen doen. Soms heeft u als bestuurder ook een actieve rol bij het toezicht op de ontwikkeling en uitvoering van de AI-strategie. En zo niet, dan moet u in ieder geval het operationele team verantwoordelijk houden en hen de juiste vragen stellen, zodat ze zich aan de ethische principes uit de strategie houden.
    3. Stel vooraf risicoscenario’s op. Schakel bijvoorbeeld een panel van diverse stakeholders in. Voelen zij zich gelijk behandeld? Bouw dan op de resultaten voort, zodat u ongelijkheden of vooroordelen al aanpakt vóór de lancering van AI.
            Het bureauzonsondergang van laptop van de vrouw
(Chapter breaker)
2

Hoofdstuk 2

Regelgevers moeten zowel organisaties als consumenten beschermen

Wereldwijde standaarden moeten consumenten en organisaties overal dezelfde bescherming bieden. Bovendien helpt de juiste regelgeving besturen om parameters te bepalen waarmee u AI op een betrouwbare manier inzet. Dat wil zeggen: veilig en eerlijk voor de consument, maar ook goed voor het bedrijfsleven.

“Wij willen dat regelgeving de burgers ten goede komt en niet alleen winsten maximaliseert,” aldus Eva Kaili, lid van het Europees Parlement en voorzitter van het Science and Technology Options Assessment-orgaan (STOA). Maar makkelijk is het niet om passende regelgeving te ontwikkelen. Daar zijn twee verklaringen voor.

Ten eerste, regelgevers moeten een evenwicht vinden tussen de bescherming van de consument en de ruimte die organisaties nodig hebben om te innoveren. Is regelgeving te streng, dan wordt innovatie beperkt. Maar is het te soepel, dan wordt de consument kwetsbaar voor bevooroordeling of inbreuk op privacy.

Een tweede uitdaging: AI-technologieën overschrijden landsgrenzen. Het Europees Parlement erkent dit en heeft in oktober 2020 gedetailleerde voorstellen gepubliceerd voor AI-reguleringen in de lidstaten. Met het licht op de COVID-19-pandemie wordt de ontwerpwetgeving op dit moment herschreven.

Samenwerking en open dialoog nodig

Wij juichen inspanningen voor regulering op EU-niveau toe, maar zoals Eva zegt: "Eigenlijk moeten we wereldwijde normen toepassen om maximaal voordeel te halen uit AI-technologie." Volgens haar mogen deze normen zowel slaan op de relatie tussen bedrijven en consumenten, als op de onderlinge relatie tussen verschillende bedrijven. Een uniforme aanpak zou dus niet werken.

In plaats daarvan stelt ze het volgende voor: "Verschillende businessmodellen moeten laten zien hoe ze de privacy, fundamentele rechten en principes respecteren, maar ook: hoe slagen ze erin dit structureel te doen en in hun algoritme te verankeren? Die principes waarborgen dat bedrijven en consumenten op internationaal niveau dezelfde bescherming genieten als in hun eigen land." Tegelijk moeten ze flexibel genoeg zijn om de verschillende risiconiveaus weer te geven, zoals Eva uitlegt. "Op dit moment is het uitgangspunt: zorg voor verschillende benaderingen per sector – van laag risico tot hoog risico."

Eigenlijk moeten we wereldwijde normen toepassen om maximaal voordeel te halen uit AI-technologie
Eva Kaili
Lid van het Europees Parlement en voorzitter van de STOA

Samenwerking tussen de private sector, regeringen en de academische wereld is van cruciaal belang voor AI-wetgeving. Maar ook dat er een evenwicht is tussen risico en de commerciële realiteit. “We moeten een open dialoog voeren,” zegt Eva. "Laten we naar elkaar luisteren, omdat onze wetgevingsvoorstellen relevant zijn voor wat de markt nodig heeft."

  • Drie manieren om correcte AI-regelgeving te ondersteunen en aan te moedigen

    1. Stel kritische vragen aan het management om meer begrip te krijgen. Hoe komen regelgeving en best practices voor data- en algoritmisch bestuur ten goede aan de organisatie, belanghebbenden en de bredere samenleving? Doe dit zeker als u verder wilt gaan dan wat de regelgevers voorschrijven.
    2. Laat uw organisatie zo vroeg mogelijk (en structureel) deelnemen aan discussies en openbare raadplegingen over mogelijke regelgeving. Pleit voor samenwerking als die er nog niet is.
    3. Zorg voor de juiste governance en processen om op de hoogte te blijven van eventuele updates of wijzigingen.

            AI-ondersteund brugontwerp
(Chapter breaker)
3

Hoofdstuk 3

Tien vragen om het vertrouwen in AI op te bouwen en te beschermen

Om de risico's van AI te beperken, moet u als bestuurder uw kennis uitbreiden. Maar ook: de governance en het toezicht op het gebruik ervan versterken.

Het is duidelijk dat de governance voor het gebruik van AI complex en uitdagend is, vooral voor boards buiten de techsector. Maar zoals John Thompson zegt: "Het is onmiskenbaar dat AI voor elk bedrijf in de wereld een belangrijk technologieplatform wordt." Daarom moeten de AI-technologieën in uw bedrijf objectief zijn en tegelijk uw organisatie beschermen tegen blootstelling aan risico's. Dit vraagt om gerichte opleidingen, zodat u ook als bestuur deze nieuwe technologieën beter begrijpt en de governance kunt versterken.

Het is onmiskenbaar dat AI voor elk bedrijf in de wereld een belangrijk technologieplatform wordt
John Thompson
Lead independent director en oud-voorzitter bij Microsoft

Deze tien vragen helpen u om het huidige proces voor de AI-strategievorming op gang te brengen of opnieuw te evalueren, zodat u betrouwbare AI realiseert die bijdraagt aan langetermijnwaardecreatie voor iedereen.

  1. Hoe zorgen we ervoor dat we in een vroeg stadium betrokken zijn bij de AI-strategie van onze organisatie?
  2. Begrijpen we onze rol bij het vaststellen van doelstellingen en beginselen voor AI, die onze organisatie beschermen tegen onbedoelde gevolgen? En hebben we adequate processen en procedures om snel te kunnen reageren als het toch misgaat?
  3. Beschikken we over de juiste vaardigheden om het management te begeleiden bij de juiste beslissingen over AI, vertrouwen, ethiek en risico's? Kunnen we eventuele skill gaps opvullen met interne training? Of moeten we externe resources overwegen? Wat is ons plan voor continue bijscholing en training?
  4. Hebben we transparantie en de verantwoordingsplicht voor AI topprioriteit gemaakt? Zo ja, waar kunnen anderen die principes inzien? Zo nee, wat is ons plan om dit aan te pakken?
  5. Volstaat de huidige bestuursstructuur om effectief toezicht te houden op het gebruik van AI door onze organisatie – ongeacht of u de technologie intern ontwikkelt of extern inkoopt? Moeten we overwegen om een speciale commissie in te stellen om het bestuur te verbeteren en focus aan te brengen?
  6. Raadplegen we een diverse groep stakeholders, zoals eindgebruikers, om onze AI-doelstellingen te testen? Communiceren we regelmatig met het operationele team, zodat de doelstellingen overeenkomen met de manier waarop zij AI ontwikkelen en inzetten?
  7. Hoe zorgen we ervoor dat onze operationele AI-teams al in de vroegste stadia van de ontwikkeling rekening houden met compliance en risicobeheer?
  8. In welke mate werken we samen met regeringen om inzicht te krijgen in AI-regelgeving en ervoor te zorgen dat wij op één lijn zitten? En moeten we onze betrokkenheid vergroten als er weinig tot geen samenwerking plaatsvindt?
  9. Hoe signaleren we early adopters en pioniers op het gebied van regelgeving, zodat we van hen kunnen leren hoe we het gebruik en de governance van AI het beste binnen onze organisatie kunnen inzetten?
  10. Zetten we AI-technologieën in om op lange termijn waarde creëren, niet alleen om concurrerend te zijn? Zo nee, welke kwesties staan ons dan in de weg?

 


De standpunten van derden zijn niet noodzakelijkerwijs de standpunten van de wereldwijde EY-organisatie of de bij haar aangesloten kantoren. Daarnaast moeten ze worden gezien in de context van het moment waarop ze werden geformuleerd.
  • Erkenningen

    EY wil graag Reid Blackman, Eva Kaili en John Thompson persoonlijk bedanken voor hun tijd en inzichten die zij in de film hebben gedeeld.

Samenvatting

Als bestuurslid kunt u uw organisatie helpen om vertrouwen in AI op te bouwen en te beschermen bij stakeholders, maar alleen als u de technologieën op de juiste manier toepast. Gebeurt dit onethisch, dan kunnen de risico’s zelfs het voortbestaan van de organisatie in gevaar brengen. 

De juiste regelgeving helpt besturen om de betrouwbaarheid van AI verplicht te stellen, maar het is een uitdaging om wereldwijde standaarden te ontwikkelen. Als bestuurder kunt u uw organisatie en klanten beschermen door zelf meer kennis te vergaren van AI en zo beter toezicht te houden op ethisch gebruik.

Over dit artikel

Auteurs
Sharon Sutherland

EY Global Center for Board Matters Leader and Asia-Pacific Networks Leader

Global mindset. Power through diversity. Art lover. Intellectually curious. Traveler. Legacy matters. Passionate about learning initiatives.

Michelle Unger

EY Global Technology Officer – Consulting

Over 20 years immersed in technology at the forefront of AI, robotics and deep learning. Putting tech at the core of EY’s transformation and showcasing how clients can too. Champion of women in tech.