Zakenvrouw gebruikt een tablet in een kantoor met een digitale datavisualisatie-overlay

Hoe betrouwbare conversationele AI organisaties versterkt


Dit artikel is gebaseerd op het oorspronkelijke artikel door Brock Lambert, Principal, Artificial Intelligence & Data, Americas Technology Consulting. Heb je vragen over dit onderwerp? Neem dan contact op met Menno Bonninga, EY Nederland AI Lead.


Verken de volgende generatie conversationele AI, met een focus op het opbouwen van vertrouwen en het verbeteren van gebruikersbetrokkenheid dankzij geavanceerde analyses en contextbewustzijn.


Drie vragen om te stellen:

  • Hoe kunnen organisaties de vertrouwensvraagstukken rond conversationele AI effectief aanpakken, vooral in kritieke sectoren?
  • Welke strategieën kunnen worden ingezet om de nauwkeurigheid en betrouwbaarheid van AI-antwoorden te vergroten in omgevingen waar veel op het spel staat?
  • Op welke manier kunnen geavanceerde analyses en contextbewustzijn worden benut om de gebruikerservaring en betrokkenheid verder te verbeteren?

Organisaties worstelen met een aanzienlijke vertrouwenskloof rond conversationele AI, vooral in sectoren waar veel op het spel staat, zoals energie, financiële dienstverlening en de zorg. In deze omgevingen kan één verkeerde interpretatie al verstrekkende gevolgen hebben, terwijl huidige AI-systemen vaak niet beschikken over de benodigde waarborgen om de juistheid van antwoorden te garanderen.

De meeste toepassingen binnen organisaties blijven daarom beperkt tot eenvoudige vraag- en antwoordfunctionaliteiten en zijn niet in staat complexe zakelijke vraagstukken te beantwoorden waarvoor gestructureerde data moet worden gecombineerd met ongestructureerde informatie. Dit probleem wordt verder versterkt door het ontbreken van organisatorische metadata en een duidelijke context, waardoor gebruikers minder vertrouwen hebben in de uitkomsten en de adoptie achterblijft, ondanks aanzienlijke investeringen.

Om de volgende fase van waardecreatie te ontsluiten, moeten organisaties overstappen op conversationele analytics die contextbewust zijn, semantisch gefundeerd, emotioneel intelligent en van nature veilig ontworpen. Daarmee kunnen zij niet alleen de kwaliteit van interacties verbeteren, maar ook het vertrouwen vergroten en de inzet van conversationele AI uitbreiden naar bedrijfskritische processen.

Door conversationele AI te implementeren, kunnen organisaties aanzienlijke verbeteringen realiseren op het gebied van klantbeleving, medewerkersbetrokkenheid, besluitvorming en operationele efficiëntie. Meetbare resultaten, zoals kortere responstijden, hogere nauwkeurigheid in klantinteracties en bruikbare inzichten die groei stimuleren, maken de concrete waarde van deze mogelijkheden zichtbaar.

Praktijkvoorbeeld

Om 22.30 uur stuurt een operations manager van een regionale energieleverancier een vraag naar de chatbot van het bedrijf: "We zien een drukpiek bij Station 14. Wat is het risico?" De AI, die alleen is getraind op veelgestelde vragen, geeft een algemene onderhoudsinstructie als antwoord. Daarbij negeert het systeem realtime sensordata en herkent het de urgentie van de situatie niet. Enkele minuten later bevestigen alarmen een kritieke storing aan apparatuur. Het vertrouwen in het systeem krijgt een flinke deuk en medewerkers vallen terug op traditionele communicatiemethoden.

Met de volgende generatie conversationele AI verloopt dezelfde situatie heel anders. Het systeem combineert gestructureerde en ongestructureerde gegevens en haalt informatie op uit realtime sensordata en historische logbestanden. Het herkent de urgentie in het bericht van de manager, markeert de vraag als hoog risico, baseert het antwoord op de ontologie van de organisatie en verwijst direct naar het relevante veiligheidsprotocol voor Station 14. Daarnaast waarschuwt het proactief de dienstdoende supervisor en genereert het automatisch een risicoanalyse. De manager ontvangt daarmee niet alleen een antwoord, maar het juiste antwoord, onderbouwd met data, context en ingebouwde beveiligingsmaatregelen. Ook in kritieke situaties versterkt dit het vertrouwen in het systeem.

Het huidige landschap van conversationele analytics

De adoptie van conversationele AI neemt snel toe, maar verantwoordingsplicht blijft een belangrijke uitdaging. Conversationele AI bevindt zich niet langer in de experimentele fase. De technologie is inmiddels een integraal onderdeel van servicedesks, financiële processen, buitendienstactiviteiten en klinische ondersteuning.

Toch blijven veel implementaties steken op het niveau van eenvoudige vraag-en-antwoordfunctionaliteit en slagen zij er niet in contextbewuste intelligentie te leveren. De belangrijkste belemmering is vertrouwen. Systemen die hun antwoorden niet baseren op de semantiek van de organisatie, hun redenering niet kunnen uitleggen of onvoldoende bescherming bieden tegen hallucinaties, creëren eerder risico's dan waarde. In gereguleerde omgevingen waar veel op het spel staat, zijn dergelijke risico's onacceptabel. Om met vertrouwen op te schalen, hebben organisaties conversationele AI nodig die transparant, goed bestuurd en ontworpen is voor nauwkeurigheid. Alleen dan is elke reactie niet alleen snel, maar ook aantoonbaar correct.

Marktkansen voor AI per technologiediscipline

Deze grafiek toont de verwachte groei van de markt voor AI-platformen van 18,22 miljard Amerikaanse dollar in 2025 naar 94,31 miljard Amerikaanse dollar in 2030. De cijfers laten zien waar investeringen en marktdynamiek zich ontwikkelen binnen de belangrijkste AI-technologiedomeinen. Het betreft een marktomvanganalyse die inzicht geeft in toekomstige groeikansen en investeringsprioriteiten. De cijfers geven geen beeld van de huidige mate van implementatie of adoptie van AI binnen organisaties.


Adoptie van enterprise AI versus conversationele AI

Deze grafiek vergelijkt de adoptiegraad van enterprise AI in het algemeen met die van conversationele AI in het bijzonder. Enterprise AI omvat AI-toepassingen binnen alle bedrijfsprocessen en use cases, terwijl conversationele AI wordt weergegeven als een onderdeel van die bredere AI-adoptie. De weergegeven percentages geven het aandeel van grote organisaties weer dat AI-oplossingen daadwerkelijk in productie heeft genomen.


Kernthema’s voor conversationele AI op enterpriseniveau

Het dichten van de vertrouwenskloof rond conversationele AI draait niet om het inzetten van meer modellen, maar om het inbouwen van vertrouwen in iedere interactie. Dat vraagt om een verschuiving van losse implementaties naar een gestructureerde aanpak waarin nauwkeurigheid, context en veiligheid vanaf het begin centraal staan. Vijf pijlers vormen hiervoor de basis:

  • Semantische modellering voor enterprise-context: creëert een gedeelde taal via ontologieën, taxonomieën en kennisgrafen, zodat vragen worden gekoppeld aan gevalideerde definities en uitlegbare antwoorden.
  • Multimodale conversationele intelligentie: combineert spraak, video en gedragsgegevens om nuances beter te begrijpen, onduidelijkheden te verminderen en contextrijke interacties mogelijk te maken.
  • Realtime detectie van emotie en intentie: herkent urgentie, sentiment en intentie in realtime, waardoor systemen passend kunnen reageren in situaties waar veel op het spel staat.
  • Strategieën voor avatars en digitale agents: ontwikkelt een digitale representatie die vertrouwen versterkt en aansluit bij rol, merkidentiteit en context.
  • Autonome digitale agents en fysieke AI: verplaatst AI van inzicht naar actie, met gecontroleerde delegatie, goedkeuringsmechanismen en volledige traceerbaarheid.

Hieronder worden deze pijlers verder toegelicht, inclusief hun werking, mogelijkheden en strategische relevantie.

Semantische modellering voor enterprise-context

Semantische modellering transformeert conversationele AI van een eenvoudige chatbot tot een betrouwbare adviseur die is gebaseerd op de werkelijkheid van de organisatie. Op ondernemingsniveau is vrije natuurlijke taal alleen niet voldoende. Structuur en context zijn noodzakelijk om nauwkeurige en uitlegbare antwoorden te kunnen geven. Ontologieën beschrijven de relaties tussen concepten, zoals ‘klant’, ‘rekening’ en ‘factuur’. Taxonomieën zorgen voor een uniforme terminologie binnen verschillende afdelingen. Kennisgrafen verbinden deze elementen tot een netwerk van feiten en relaties, waardoor AI niet alleen de inhoud begrijpt, maar ook de context.

 

Deze semantische laag vermindert het risico op hallucinaties doordat antwoorden worden beperkt tot gegevens en relaties die door de organisatie zijn gevalideerd. Binnen de financiële dienstverlening zal een model met semantische verankering bijvoorbeeld de vraag naar ‘klantblootstelling in opkomende markten’ interpreteren op basis van risicomaatstaven en portefeuilleposities. Daardoor ontstaat een nauwkeurig en compliant antwoord. Semantische modellering is geen optionele toevoeging, maar een fundamentele bouwsteen voor conversationele AI op enterpriseniveau.

 

Multimodale conversationele intelligentie

De overstap van uitsluitend tekstgebaseerde systemen naar platforms die ook spraak, video en gedragsdata verwerken, verrijkt het vermogen van AI om menselijke communicatie te begrijpen. Multimodale conversationele intelligentie speelt in op de frustratie die gebruikers vaak ervaren bij traditionele chatbots en maakt emotioneel adaptieve gesprekken en een rijkere context mogelijk. Zelfrepresenterende avatars die aansluiten bij de identiteit van gebruikers kunnen het gevoel van vertrouwen en controle vergroten, vooral wanneer mensen hun digitale aanwezigheid zelf kunnen vormgeven. Voor gemarginaliseerde groepen kan deze combinatie van identiteit en privacy bijdragen aan meer comfort en continuïteit.

 

Door spraak, beeld, micro-expressies en tekst samen te brengen, kunnen deze systemen als het ware tussen de regels door lezen. Ze herkennen emoties en contextuele signalen die niet expliciet worden uitgesproken. Hierdoor ontstaan empathischere gesprekken en beter afgestemde reacties, wat bijzonder waardevol is in gevoelige sectoren zoals de zorg en financiële dienstverlening. Multimodale systemen kunnen subtiele signalen van onzekerheid of aarzeling herkennen en aanleiding geven voor verificatie of escalatie. Daarnaast kunnen zij tegenstrijdigheden detecteren tussen verbale en non-verbale signalen, waardoor risico's in kritieke situaties afnemen. Geavanceerde modellen zoals GPT-4o Vision illustreren deze mogelijkheden door taal te combineren met visuele en auditieve interpretatie van emoties. Daarmee vormen zij de volgende stap in contextbewuste en emotioneel intelligente AI.

 

In industriële omgevingen en buitendienstsituaties kan deze intelligentie echter niet volledig afhankelijk zijn van cloudverbindingen. Edge-native modellen die rechtstreeks worden ingezet op apparatuur, besturingssystemen of lokale gateways maken inferentie met minimale vertraging mogelijk en waarborgen de continuïteit van processen wanneer connectiviteit wegvalt. Bij een drukpiek op een afgelegen locatie kan edge-AI bijvoorbeeld sensorgegevens lokaal verwerken, waarschuwingen genereren en vooraf gedefinieerde veiligheidsmaatregelen activeren, zelfs wanneer de verbinding met de cloud tijdelijk niet beschikbaar is. Deze hybride cloud-edgearchitectuur zorgt voor veerkracht, voorspelbare responstijden en operationele veiligheid in bedrijfskritische omgevingen.

 

Realtime detectie van emoties en intenties

De volgende generatie in AI moet niet alleen begrijpen wat gebruikers zeggen, maar ook hoe zij zich voelen. Realtime intentiedetectie koppelt communicatie aan duidelijke doelen en context, waardoor direct actie kan worden ondernomen. Emotiedetectie schat de gemoedstoestand van een gebruiker op basis van tekstanalyse, spraaksignalen en, waar toestemming voor is gegeven, visuele signalen. Hierdoor kan een AI-assistent zijn reacties dynamisch aanpassen en interacties bieden die beter aansluiten op de menselijke context, wat vertrouwen en tevredenheid vergroot.

 

Affective computing combineert signalen uit verschillende bronnen om emoties betrouwbaar te herkennen, terwijl prosodische analyse zich richt op de nuances van spraak, zoals toonhoogte, intonatie en pauzes. Deze methoden werken samen en worden ondersteund door waarborgen zoals expliciete toestemming, controles op vooringenomenheid, privacyvriendelijke verwerking, heldere uitleg en escalatieprotocollen voor situaties met een hoog risico of een hoge mate van onzekerheid. In de zorg kan een systeem bijvoorbeeld urgente symptomen signaleren en automatisch doorzetten naar een zorgprofessional. Daarbij levert het gestructureerde samenvattingen aan en blijft het voldoen aan strikte governance-eisen. Deze aanpak leidt tot betere resultaten, zoals een hogere tevredenheid onder gebruikers en een grotere kans dat vragen of problemen direct bij het eerste contact worden opgelost.

 

Strategieën voor avatars en representatie van agents

Zelfrepresenterende avatars die gebruikers weerspiegelen in digitale omgevingen bevorderen vertrouwen en continuïteit. Tegelijkertijd fungeren counterpart-avataars als interactieve digitale gesprekspartners, zoals coaches, adviseurs of servicemedewerkers, afgestemd op specifieke zakelijke contexten. Binnen de financiële dienstverlening kunnen avatars klanten op een empathische manier begeleiden bij vragen en procedures. Binnen HR kunnen zij onboarding personaliseren of sollicitatiegesprekken ondersteunen, waarbij efficiëntie wordt gecombineerd met een menselijke benadering.

 

Moderne avatarplatformen passen hun gedrag, toon en expertise aan op basis van de context. Hierdoor sluiten zij beter aan bij uiteenlopende toepassingen op het gebied van compliance, ondersteuning en training. Deze avatars fungeren als blijvende digitale representaties van gebruikers of als gespecialiseerde agents en dragen aantoonbaar bij aan vertrouwen en authentieke betrokkenheid binnen organisaties en sectoren.

 

Autonome digitale agents en fysieke AI

Conversationele systemen moeten zich ontwikkelen van reactieve assistenten naar proactieve agents. Autonome agents kunnen namens gebruikers handelen in situaties waarin voldoende vertrouwen bestaat. Voorbeelden zijn het beantwoorden van vragen, escaleren van risico's, indienen van formulieren en het uitvoeren van acties op basis van gebeurtenisgestuurde signalen en veilige delegatiemodellen. Verantwoording wordt gewaarborgd via audittrails, governanceprocessen en menselijk toezicht bij risicovolle handelingen.

 

Toepassingen zijn te vinden in uiteenlopende sectoren, zoals olie en gas (productiecontinuïteit), financiële dienstverlening (regelgevingsrisico's) en de zorg (controle van doseringen). Deze agents brengen AI van inzicht naar actie en voeren taken verantwoord en betrouwbaar uit. Binnen kapitaalintensieve sectoren zal de volgende generatie agentic systemen nauw worden geïntegreerd met digitale tweelingen: virtuele representaties van fysieke assets, installaties of productiesystemen. Naarmate nieuwe fabrieken, industriële installaties en infrastructuur steeds vaker met ingebouwde digitale tweelingen worden ontworpen, zal conversationele AI rechtstreeks met deze omgevingen communiceren om scenario's te simuleren, bedrijfsomstandigheden te testen en onderhoudsscenario's te beoordelen voordat actie wordt ondernomen. Wanneer bijvoorbeeld een drukafwijking wordt vastgesteld, kan een agent de digitale tweeling raadplegen om de verspreiding van een storing te modelleren, veiligheidsgrenzen te beoordelen en verschillende interventiestrategieën realtime met elkaar te vergelijken.

 

Minstens zo belangrijk is de integratie met bedrijfssystemen zoals ERP- en supplychainplatformen. In een onderhoudssituatie moet een autonome agent niet alleen een probleem kunnen diagnosticeren, maar ook de beschikbaarheid van reserveonderdelen controleren, levertijden van leveranciers valideren, inkoopprocessen starten en onderhoudsplanningen afstemmen op operationele beperkingen. Deze gesloten ketenbenadering zorgt ervoor dat conversationele AI verder gaat dan alleen diagnose en een gecoördineerde operationele respons kan aansturen.

Enterprise conversationeel model

Dit framework beschrijft een gelaagd conversationeel bedrijfsmodel dat flexibiliteit en controle combineert via twee complementaire interactievormen, ondersteund door gedeelde semantische, veiligheids- en governancefundamenten. De toekomst van conversationele AI draait om het vinden van de juiste balans tussen flexibiliteit en zekerheid. Gebruikers verwachten natuurlijke, verkennende gesprekken, terwijl organisaties eisen stellen aan nauwkeurigheid, governance en veiligheid. Deze balans wordt bereikt door een gelaagde aanpak die flexibele intelligentie combineert met ingebouwde beschermingsmaatregelen.

Twee modi, één framework

  • Verkennende modus: Ondersteunt open verkenning via informatieopvraging uit betrouwbare bronnen, semantische verankering en transparante bronverwijzingen. Ideaal voor onderzoek, analyse en kennisopbouw.
  • Governancegestuurde modus: Maakt gebruik van vooraf gevalideerde query- en actietemplates voor situaties met een hoog risicoprofiel, zoals compliancecontroles of operationele veiligheid. Hierbij worden rechten, invoerbeperkingen en geautomatiseerde bewijslast afgedwongen.

Bibliotheek voor vertrouwde vragen en acties

Een herbruikbare catalogus van goedgekeurde patronen, inclusief definities, vereiste datasets, veiligheidskaders en eigenaarschap, zorgt voor consistentie en vertrouwen op schaal.

Principes van de referentiearchitectuur

  • Semantiek als uitgangspunt: Ontologieën en kennisgrafen vormen de basis voor betekenisgeving en datatraceerbaarheid.
  • Bewijs als standaard: Elke reactie en actie wordt ondersteund door bronverwijzingen, betrouwbaarheidsscores en audittrails.
  • Veiligheid ingebouwd in het ontwerp: Toegangscontroles, anonimisering van persoonsgegevens, simulaties binnen de besluitvorming en noodstops maken integraal onderdeel uit van de orkestratie.
  • Actie met verantwoordelijkheid: Autonome agents opereren binnen veilige delegatiekaders, waarbij risicovolle beslissingen onder menselijk toezicht blijven.

Naarmate conversationele systemen autonomer worden en steeds dieper worden geïntegreerd in kritieke bedrijfsprocessen, verschuift de centrale vraag van wat zij kunnen doen naar hoe veilig en verantwoord zij dat doen. Vertrouwen op schaal vereist niet alleen intelligentie en context, maar ook expliciete beheersmaatregelen die misbruik, foutpropagatie en onbedoelde gevolgen voorkomen. Daarom is Responsible AI geen aanvullende overweging, maar een fundamentele laag onder de volgende generatie conversationele AI.

Componenten van Responsible AI

  • Persoonsgegevens en datalekken: Datalekken kunnen gevoelige persoonsgegevens of bedrijfsinformatie blootleggen. Detectie vindt plaats via patroonherkenning en entiteitsherkenning voor persoonsgegevens, maar ook voor interne bedrijfsgegevens zoals salarisinformatie of strategische documenten.
  • Prompt injection en jailbreaks: Aanvallers kunnen proberen AI-modellen te manipuleren zodat zij ingestelde regels omzeilen. Detectie omvat het monitoren van afwijzingsreacties en het evalueren van prompttechnieken.
  • Applicatiespecifieke dreigingen: Nieuwe aanvalsvormen, zoals op overtuiging gebaseerde promptinjecties en blootstelling van trainingsdata, vereisen geavanceerde detectiemethoden zoals membership inference attacks (MIA).
  • Hallucinaties en fouten binnen de scope: Afnemende kwaliteit van antwoorden wordt gemeten via semantische vergelijkingen en controles op interne consistentie om onnauwkeurige of irrelevante uitkomsten te voorkomen.
  • Toxiciteit en bias: Het detecteren van haatdragende uitingen, beledigingen en andere schadelijke taal gebeurt met behulp van omvangrijke datasets en specifieke detectiemodellen voor toxiciteit.

Agentic AI maakt de ethische en operationele uitdagingen zichtbaar van autonome systemen die handelen zonder passend menselijk toezicht. Risico's zoals opeenstapelende hallucinaties, promptinjecties en vervuiling van trainingsdata kunnen fouten versterken wanneer ze onvoldoende worden beheerd. Wanneer deze risico's echter worden aangepakt met doordacht ontwerp, sterke governance en ingebouwde beschermingsmaatregelen, vormen zij geen belemmering maar juist een aanleiding voor betere engineering.

Met een strategische aanpak kunnen organisaties de risicokloof verkleinen, AI met vertrouwen opschalen en het volledige potentieel van conversationele AI benutten om sneller besluiten te nemen, autonomie veiliger toe te passen en aantoonbare bedrijfswaarde te realiseren.

Met speciale dank aan Jonathan Yee, Zakir Hussain, Zaki Arifulla, Zoe Zheng, Leena Kondapi, Paige Clark, Ujwal Krothapalli en Alex Gilden voor hun bijdrage aan deze publicatie.





Samenvatting

Dit artikel laat zien hoe organisaties de vertrouwenskloof rond conversationele AI kunnen overbruggen met semantische verankering, multimodale intelligentie, realtime detectie van intentie en emoties, gecontroleerde autonomie en veiligheidsmaatregelen op enterpriseniveau. Nu conversationele AI steeds vaker wordt ingezet in bedrijfskritische omgevingen, wordt succes niet langer alleen bepaald door het vermogen om vloeiend te communiceren, maar vooral door vertrouwen, context en verantwoording. Door een gelaagd conversationeel framework te implementeren dat verkennende flexibiliteit combineert met gecontroleerde uitvoering, kunnen organisaties veilig doorgroeien van eenvoudige vraag-en-antwoordsystemen naar betrouwbare besluitvormingsondersteuning en autonome actie.


Over dit artikel

Lees ook

Van CX naar AX: hoe agentic AI klantinteractie fundamenteel verandert

Hoe zet je agentic AI effectief in klantinteractie? Ontdek waar vertrouwen ontstaat en hoe je van CX naar AX beweegt. Lees het onderzoek.

Wie bepaalt de grenzen van AI naarmate het verandert van advies naar autoriteit?

Ontdek hoe het gebruik van AI verschuift van ondersteunend naar autonoom, geleid door de keuzes van gewone mensen.

Joe Depa + 1

De opkomst van physical AI: Europa’s kans om te leiden

Ontdek hoe physical AI industrieën en banen in Europa transformeert. Lees waarom nú handelen cruciaal is – en hoe jouw organisatie de volgende industriële revolutie kan aanvoeren.