AI hallucineert niet, het optimaliseert waarschijnlijkheid

Generatieve AI verzint informatie. Niet per ongeluk, maar door hoe deze systemen zijn gebouwd. Wat betekent dat voor organisaties die AI inzetten voor beslissingen die ertoe doen?

In het kort:

• Hallucinaties zijn geen softwarefout, maar een ontwerpkeuze: taalmodellen optimaliseren op plausibiliteit, niet op waarheid.

• De impact wordt nu pas zichtbaar nu AI breed wordt ingezet voor belangrijke taken.

• Organisaties die geen verificatieproces inbouwen, ontdekken hun fouten meestal pas als de schade al is aangericht.

Grote taalmodellen werken niet als een database die feiten opzoekt, maar als een systeem dat continu het meest waarschijnlijke volgende woord voorspelt op basis van patronen in enorme hoeveelheden tekst. Je kunt ze zien als een soort "samengeperste representatie van het internet": ze hebben statistisch geleerd hoe teksten meestal in elkaar zitten, maar beschikken niet over een ingebouwde waarheidscheck. Wanneer de context sterk is, leveren ze verrassend accurate antwoorden; wanneer die context dun of ambigu is, blijven ze tóch door genereren en kiezen ze de meest plausibele formulering. Dat resulteert soms in overtuigend geformuleerde, maar feitelijk onjuiste uitspraken: de zogeheten hallucinaties. Een LLM optimaliseert op waarschijnlijkheid en coherentie, niet op waarheid.

Dat is geen implementatiefout, maar een bewuste design keuze. Onderzoekers van OpenAI stelden zelf vast dat standaard training- en evaluatieprocedures "reward guessing over acknowledging uncertainty". Het model krijgt punten voor een overtuigend antwoord, niet voor eerlijk toegeven dat het iets niet weet. De eigenschap die taalmodellen creatief en productief maakt, is exact dezelfde eigenschap die ze laat hallucineren.

Waarom dit nu écht een risico wordt

De afgelopen maanden zijn de incidenten heel concreet geworden en in het nieuws belicht. Grote adviesbureaus die rapporten moeten intrekken omdat het overgrote deel van de bronvermeldingen niet overeenkwam met de geciteerde inhoud. In een Amerikaanse federale rechtszaak werd een hele zitting geannuleerd nadat bleek dat de advocaten aan beide kanten AI-gegenereerde citaten hadden ingediend, zonder ze te verifiëren. De rechter diskwalificeerde de betrokkenen en legde sancties op.

En dan is er nog de chatbot van een bekende luchtvaartmaatschappij die een niet-bestaande rouwkortingsregeling beloofde aan een klant. Het tribunaal oordeelde dat de luchtvaartmaatschappij die belofte gewoon moest nakomen. Een hallucinatie van jouw AI is jouw verantwoordelijkheid.

De gemene deler? De fouten waren stuk voor stuk onopgemerkt gebleven omdat AI-output er nu eenmaal degelijk uitziet: nette opmaak, zelfverzekerde toon, plausibele bronvermeldingen. Meer dan de helft van de bedrijven die AI gebruiken, rapporteerde al minstens één negatief incident, vaak door onjuiste output. Dat is heel fors.

Wordt het overschat of onderschat?

Mijn inschatting: systematisch onderschat. We zien allemaal de spectaculaire voorbeelden, maar de gevaarlijkste hallucinaties zijn juist niet spectaculair. Het verzonnen bedrijf pik je er nog uit. Maar het percentage dat subtiel verschuift, de clausule die net iets anders geparafraseerd wordt, het jaartal in een bron dat net niet klopt, daar zit het echte probleem.

De Stanford AI Index van 2026 testte 26 topmodellen op een benchmark die meet of een model het verschil herkent tussen kennis en overtuiging. Dezelfde feitelijk onjuiste bewering werd één keer gepresenteerd als iets dat een derde gelooft, en één keer als iets dat de gebruiker zelf gelooft. In de eerste vorm antwoorden de modellen meestal correct. In de tweede vorm zakte de accuratesse van GPT-4o van ruim 98% naar 64%. Dezelfde inhoud, andere framing. Modellen zijn geneigd de gebruiker gelijk te geven, ook als die ongelijk heeft.

Bij klanten zie ik vaak drie patronen tegelijk: ze meten niet hoe vaak AI-output incorrect is, ze hebben geen vast verificatieproces, en ze ontdekken fouten pas wanneer een externe partij erop wijst.

Het probleem zit ook bij ons

Eerlijk is eerlijk: een groot deel van het risico is gedragsmatig. Mensen vertrouwen geautomatiseerde suggesties sneller dan rationeel gerechtvaardigd is. In de psychologie wordt dit ook wel automation bias genoemd, al beschreven in onderzoek uit de jaren negentig. Generatieve AI versterkt dat effect omdat de output er gezaghebbend uitziet: vlot geschreven, met bronnen, zonder aarzeling.

Daarbij komt dat we taalmodellen routinematig inzetten voor taken waar ze qua ontwerp ongeschikt voor zijn: exacte bronnen opzoeken, complexe berekeningen maken, juridische precedenten verifiëren. Een LLM is geen database. Het is een patroonherkenner die plausibele tekst produceert. Wie het inzet als feitenbron, vraagt om problemen.

En dan is er nog de copy-paste-reflex. AI-output gaat ongezien een document in, een mail uit, een rapport naar de klant. Geen tweede paar ogen, geen check op de bronnen. Dat is geen technologisch probleem, maar werkdiscipline. Onderdeel van de professionele verantwoordelijkheid die wij allemaal in ons werk dragen.

Wat wél werkt

Volledige eliminatie van hallucinaties is een utopie zolang de onderliggende architectuur op waarschijnlijkheidsoptimalisatie is gebaseerd. Maar het risico is wél fors te reduceren.

• Humans-in-the-loop. Voor alles wat naar buiten gaat: verplichte menselijke check, met een concreet protocol: open de bron, zoek de claim letterlijk op, controleer datum en context, log de bevinding.
• AI-geletterdheid: leer de “humans-in-the-loop” ook in hoe taalmodellen werken, zodat ze beter snappen waar het mis kan gaan, en welke toepassingen (on)geschikt zijn voor de technologie.
• Retrieval-Augmented Generation (RAG). Koppel het model aan geverifieerde, eigen databronnen. Het model genereert dan niet vanuit zijn "geheugen", maar vanuit documenten die je zelf hebt aangeleverd. Op gespecialiseerde benchmarks scoren de beste modellen rond de 1,5% hallucinatie op samenvattingstaken met meegegeven bronnen. Niet nul, maar wel een orde van grootte beter dan vrij genereren.
• Weigermechanismen. Ontwerp systemen waarin het model expliciet mag aangeven dat het iets niet weet. Klinkt voor de hand liggend, maar standaard worden modellen zo getraind dat zwijgen geen optie is. Een model dat mag passen voor een antwoord, hallucineert minder.
• Deterministische checks boven model-op-model. Een tweede AI inzetten om de eerste te controleren klinkt logisch, maar modellen delen vaak dezelfde blinde vlekken. Een regelgebaseerde check: bestaat deze URL, klopt dit citaat, komt dit getal terug in de brondata, is doorgaans effectiever dan een tweede LLM.
• Scope beperken. Hoe smaller de taak, hoe betrouwbaarder de uitkomst. Een model dat samenvat uit één meegegeven document hallucineert beduidend minder dan een model dat vrij mag genereren over een open vraag.

Wat dit van leiders vraagt

Dit is geen IT-vraagstuk maar een governance vraagstuk. De Europese AI Act verplicht aanbieders van high-risk AI-systemen vanaf augustus 2026 tot het hebben van een gedocumenteerd quality management system, inclusief risicomanagement, data governance, logging en menselijk toezicht. Of jouw toepassingen formeel onder die categorie vallen of niet, de structuur is bruikbaar als referentie voor élke organisatie die AI serieus inzet.

Drie dingen waarmee je morgen kunt starten:

1. Begin met meten. Laat wekelijks de AI-output kwaliteit van je AI-systemen beoordelen, al dan niet middels steekproeven: is het antwoord feitelijk correct, klopt de bron, is het gedeeltelijk onjuist, of volledig verzonnen? Classificeer de impact en rapporteer een hallucinatiepercentage per toepassing. Zonder baseline kun je niets verbeteren.
2. Voer een "nooit-direct-doorsturen"-regel in. Geen AI-output gaat zonder menselijke verificatie naar een externe partij. Maak het zo vanzelfsprekend als het vier-ogen-principe bij andere transacties.
3. Categoriseer naar risico. Niet elke toepassing vereist dezelfde controle. Onderscheid laag risico (interne brainstorm, eigen samenvattingen), middel (klantcommunicatie, rapportages) en hoog (juridisch, compliance, financieel). Pas je verificatie-eisen proportioneel aan.