Wat is intelligentie zonder betrouwbaarheid?

We bespreken vijf gebieden die zakelijk leiders kunnen helpen betrouwbaarheid te garanderen, zelfs wanneer artificial intelligence (AI) hun bedrijven ingrijpend verandert.

Artificial intelligence zal uiteindelijk elk bedrijf en elke branche transformeren. Maar de ontwikkeling ervan wordt negatief beïnvloed door een gebrek aan betrouwbaarheid. Naast proofs of concept en enkele geïsoleerde oplossingen is AI nog niet breed toegepast. Het risicobewustzijn is nog onvoldoende en het juiste controleraamwerk ontbreekt.

Veel bedrijven gebruiken AI alleen op gebieden waar weinig risico mee is gemoeid, en vaak alleen voor inzichten. Als de technologie menselijke besluitvorming vervangt, gebeurt dit enkel nog onder toezicht van personen. Dit is niet meer dan logisch zolang besluitvorming op basis van AI nog in de kinderschoenen staat. Maar er komen razendsnel nieuwe voorbeelden van praktische toepassingen van AI bij. AI zal in de loop van de tijd worden gebruikt om steeds meer beslissingen met een grotere impact te nemen.

Zakelijk leiders kunnen zich de volgende vijf vragen stellen om inzicht te krijgen in de belangrijke rol van betrouwbaarheid bij de ontwikkeling van succesvolle AI-systemen.

Vraag 2: Wat zijn de risico's van een gebrekkig AI-systeem?

Er is sprake van juridische en financiële risico's en kans op reputatieschade. Als een AI-systeem faalt, worden wet- en regelgeving op het gebied van onder meer werving mogelijk niet meer nageleefd. Een handelsonderneming verloor eens 440 miljoen USD in slechts 45 minuten als gevolg van een softwareprobleem. En een defect algoritme van een zeer grote oplossing voor het delen van foto's zorgde ervoor dat foto's van dieren op racistische wijze werden getagd.

Algoritmen kunnen falen en gemakkelijk vervuild raken. In een onderzoek naar algoritmen voor afbeeldingsdetectie ontdekte het team dat het systeem, bij wijziging van slechts een aantal pixels, een speelgoedschildpad aanzag voor een wapen.

Dit zijn geen argumenten om u ervan te overtuigen geen gebruik te maken van AI. Maar ze dienen wel als waarschuwing om aan te tonen hoe belangrijk het is dat AI inderdaad doet wat in eerste instantie de bedoeling was. En daar zijn rigoureuze controles en processen voor nodig.

Vraag 3: Hoe kunnen zakelijk leiders dit soort risico's beperken?

Om een beheerstrategie voor AI te ontwikkelen, kunnen we net als bij elke nieuwe technologie uitgaan van bestaande governancepraktijken en oplossingen voor technologiebeheer. Vervolgens kunnen we die aanvullen, wijzigen of uitbreiden. Misschien is er bijvoorbeeld behoefte aan realtime monitoring om te peilen hoe AI zich ontwikkelt en of het nog steeds werkt binnen de verwachte grenzen.

Het is ook belangrijk AI te evalueren vanuit een integraal systeemperspectief en niet alleen aandacht te besteden aan de individuele componenten. Vergeet niet dat een AI-algoritme meestal geen losstaand proces is, maar bijvoorbeeld is gekoppeld aan roboticafunctionaliteit, Internet of Things-sensoren en andere algoritmen. Uit deze veelvoud aan systemen die onderling verbonden zijn, kunnen ook risico's ontstaan.

Bovendien moeten bedrijven geen AI-toepassingen van derden inzetten als ze het risicoprofiel en de beperkingen van deze toepassingen niet volledig begrijpen.

"Bedrijven moeten, als ze de risico's willen beheersen, beginnen met een paar kritische vragen, zoals 'Waar wordt AI in mijn bedrijf toegepast en over welke controlemechanismen beschikken we momenteel?'", aldus Cathy Cobey, Global Trusted AI Consulting Leader bij EY.

Vraag 4: Waarom is betrouwbaarheid zo belangrijk bij AI?

Als we toestaan dat AI beslissingen neemt en onze auto's bestuurt, vereist dat betrouwbaarheid. Als de technologie niet betrouwbaar is, wordt deze niet gebruikt of vereist die zo veel menselijk toezicht dat de efficiëntie en andere voordelen ervan verloren zouden gaan.

Het opstellen van een raamwerk voor de toepassing van AI en het beheren van de risico's klinkt misschien ingewikkeld, maar er is veel overlap met de controlemechanismen, het beleid en de processen die we al gebruiken voor personen. We evalueren het menselijke gedrag al aan de hand van een reeks normen. Zodra mensen zich buiten die normen beginnen te bewegen, bijvoorbeeld door zich te laten leiden door vooroordelen, grijpen we in.

Bedrijven moeten ook het risicospectrum begrijpen en de controle- en governanceprocedures op specifieke risico's afstemmen. Het risico van een AI-technologie is afhankelijk van de manier waarop deze wordt gebruikt. Zo is beeldverwerkingssoftware die persoonlijke foto's tagt, veel minder risicovol dan beeldtechnologie die wordt gebruikt om een voetganger te detecteren die de straat oversteekt.

Als u het risicoprofiel van de AI-technologie en de praktische toepassing ervan begrijpt, kunt u een passend raamwerk voor governance en controle opstellen om op die AI-technologie toe te passen.

"Net als het geval is bij alle revolutionaire technologieën, zijn er met AI risico's gemoeid", zegt Nigel, "maar er zijn goede manieren om de potentiële valkuilen te beheersen en de enorme voordelen te benutten."

Vraag 5: Hoe kan een bedrijf de betrouwbaarheid waarborgen wanneer het AI integreert?

Bedrijven moeten betrouwbaarheid vanaf het prille begin integreren in het proces, zodat het een centrale rol speelt in de vereisten en niet wordt gezien als een aspect dat later nog wel een keer aan bod komt. Risico-, compliance- en governancefuncties die AI daadwerkelijk en effectief evalueren en er inzicht in bieden, vormen de basis van use cases die echt tot een transformatie kunnen leiden en door bedrijven kunnen worden benut.

Belangrijke acties zijn onder meer:

1. Bepalen hoe kan worden beslist welke use cases wel en niet acceptabel zijn voor AI, met onder meer een ethische commissie die bestaat uit professionals met een diverse achtergrond
2. Een overzicht opstellen van de gebieden waar uw bedrijf AI gebruikt en een risicoprofiel samenstellen voor good governance
3. Betrouwbaarheid vanaf het begin in het ontwerp integreren als onderdeel van de AI-systeemvereisten
4. De tools en technieken gebruiken die noodzakelijk zijn voor permanente monitoring
5. Vakdeskundigen inschakelen die diensten kunnen bieden als het onafhankelijk testen en valideren van de AI-algoritmen

"Besteed ook aandacht aan het potentieel dat AI heeft als een oplossing voor risicobeheersing", zegt Cathy. "Het kan bijvoorbeeld worden gebruikt om risico's op het gebied van cybersecurity en privacy en ook menselijke vooroordelen te beperken."

Bedrijven die een AI-strategie willen implementeren of verfijnen, moeten rekening houden met de volgende aandachtsgebieden:

• Welke resultaten levert AI op en hoe goed sluiten deze aan op de verwachtingen?
• Hoe worden vooroordelen gedetecteerd en aangepakt?
• In welke mate is er transparantie voor eindgebruikers?
• Hoe veerkrachtig is uw AI-strategie met betrekking tot corruptie en beveiliging?
• Hoe gemakkelijk kunnen de methoden en beslissingen van AI-systemen worden begrepen, gedocumenteerd en gevalideerd?

"Betrouwbare AI bestrijkt niet alleen ethiek en maatschappelijke verantwoordelijkheid, maar ook resultaten: u moet erop kunnen vertrouwen dat AI doet wat het moet doen", zegt Nigel. "In deze duidelijk omlijnde context kan AI waardevolle inzichten opleveren."