Responsible AI is een randvoorwaarde om de potentie van AI te realiseren

De uitdaging van AI Act-regelgeving ligt in het integreren van Responsible AI-principes in organisaties en vereist multidisciplinaire samenwerking.

In een tijdperk waarin AI een steeds prominentere rol speelt in verschillende aspecten van het bedrijfsleven, wordt het regelgevend landschap rond Responsible AI steeds belangrijker. Het regelgevende landschap rond Responsible AI evolueert, met belangrijke ontwikkelingen zoals de EU AI Act, die als doel heeft de negatieve effecten van AI te minimaliseren. Er zijn opkomende verplichtingen voor organisaties; ze moeten bewust zijn van hun AI-systemen en hun rol daarin, of ze nu de aanbieder of exploitant zijn. Dit houdt onder andere in dat ze een goed overzicht en begrip van hun systemen moeten hebben, inclusief een classificatie naar risiconiveau. Afhankelijk van dit risiconiveau, hebben organisaties verschillende termijnen (6, 12, 24 of 36 maanden) om te voldoen aan de eisen van de AI Act. Dit alles vereist inzicht in de organisatie, dat gezien de geïsoleerde werkwijze van organisaties, een uitdaging kan zijn.

Responsible AI is te bekijken vanuit drie perspectieven:

1.  Regulering, in de vorm van de onder andere de AI Act.

2. Reputatie, bekeken vanuit de AI-principes.

3. Realisatie, waarbij het niet enkel belangrijk is om naar de risico's te kijken, maar om er ook voor te zorgen dat er daadwerkelijk waarde wordt gecreëerd.

EY helpt organisaties in hun AI journey op het gebied van AI governance, AI act readiness en hoe ze op een verantwoordelijke manier kunnen blijven experimenteren en innoveren.

Een multidisciplinaire en holistische aanpak

Het is belangrijk om een multidisciplinaire aanpak te ontwikkelen voor effectieve AI governance. Privacyprogramma’s en AI governance overlappen op gebieden zoals accountability, transparantie en veiligheid. Terwijl privacy vaak wordt beheerd door privacyfunctionarissen, vereist AI governance een multidisciplinaire aanpak, met bijvoorbeeld een AI-ethics board. Dit board moet verschillende disciplines vertegenwoordigen om effectieve besluitvorming te garanderen en ervoor te zorgen dat alle AI initiatieven worden besproken en beoordeeld. Dit board, samengesteld uit experts op het gebied van compliance, juridische zaken en IT, zorgt voor een holistische benadering van AI initiatieven en besluitvorming.

Vaststellen van verantwoordelijkheid en accountability

Een van de grootste uitdagingen op het gebied van AI governance is het vaststellen van verantwoordelijkheid binnen organisaties. Dit wordt versterkt door de complexiteit en multidisciplinariteit van het onderwerp, wat vaak resulteert in een gebrek aan duidelijkheid over wie de leiding moet nemen en wie zich verantwoordelijk voelt. Daarnaast kunnen de gevolgen van niet-naleving van AI-regelgevingen aanzienlijk zijn. Dit kan variëren van hoge boetes tot reputatieschade voor organisaties. Met name voor verboden AI praktijken en AI systemen met een hoog risico kan niet-naleving van AI-regelgeving leiden tot hoge boetes, die kunnen oplopen tot wel 7% van de wereldwijde omzet. Het is daarom essentieel voor bedrijven om proactief te zijn in het voldoen aan AI-regelgevingen om deze risico's te beheersen en te minimaliseren.

Betrouwbaarheid van AI creëert waarde

Een betrouwbare AI-technologie is van essentieel belang voor waardecreatie binnen organisaties. Een onbetrouwbaar AI-systeem kan leiden tot reputatieschade en het tenietdoen van de waarde die het systeem zou kunnen bieden. Een voorbeeld hiervan is het gebruik van AI in customer service-toepassingen. Een betrouwbare chatbot kan bijvoorbeeld waarde creëren door klanten snel en accuraat te helpen, wat zowel kosteneffectief is voor bedrijven als waardevol voor klanten. Een onbetrouwbare chatbot kan klanten echter van onjuiste antwoorden voorzien, wat inefficiënt is, misvattingen kan veroorzaken en uiteindelijk zelfs tot reputatieschade kan leiden.

Het regelgevend landschap rondom Responsible AI evolueert snel en het is essentieel voor organisaties om zich voor te bereiden op deze veranderingen. Door een multidisciplinaire aanpak te omarmen, gevolgen van niet-naleving te begrijpen, en de relatie tussen betrouwbaarheid van AI en waardecreatie te bepalen, kunnen bedrijven effectieve AI governance implementeren en succesvol navigeren door dit complexe landschap.

Aandacht geven aan alle drie de R'en, leidt tot meeste waarde voor zowel organisatie als de klanten.