AI-forklarlighed og behovet for dokumentation

AI-forklarlighed er kritisk i banksektoren, hvor dokumentation og tillid er afgørende for beslutningsprocesser.

Opsummering

• Forklarlighed er mere end komfort; det er nødvendigt for at opfylde regulatoriske krav og sikre ansvarlig AI-brug.
• AI-modeller skal kunne dokumenteres og revideres, ikke kun give plausible forklaringer.
• Banker bør integrere forklarlighed i designprocessen for at opbygge tillid og sikre forståelse blandt alle interessenter.

Det starter med en chatbot.

En kunde ringer ind, frustreret over en afvist ansøgning. Den AI-drevne kundeserviceassistent forklarer venligt, at beslutningen skyldes ”en afvigelse i kreditprofilen”. Kunden beder om uddybning. Chatbotten tilbyder en mere ’menneskelig’ forklaring: “Du har haft et højere end normalt kreditkortforbrug over de seneste måneder, hvilket øger bankens vurderede risiko.”

Det lyder rimeligt. Problemet er bare, at det ikke er rigtigt. Det er en plausibel forklaring, ikke en sand forklaring. Modellen, der traf beslutningen, vægtede faktisk et helt andet forhold højere. Men chatbotten er trænet til at lyde overbevisende – ikke til at dokumentere compliance.

Hvorfor forklarlighed er mere end komfort

Forklarlighed (explainability) er blevet en ny valuta i AI – særligt i finanssektoren. Alle taler om behovet for forklarlighed, men få stiller spørgsmålet: Forklarlighed for hvem?

Forskningen (Zhao et al., 2024) skelner mellem lokal og global forklaring, mellem feature attribution og surrogatmodeller. Men i praksis ender vi ofte med farverige dashboards, der fortæller os, hvad vi gerne vil høre – ikke hvad vi har brug for at vide.

Generativ AI komplicerer billedet yderligere. Ifølge Fahland et al. (2025) er Large Language Models (LLM) ikke bare svære at forklare – de er forklaringer. De genererer sprog, der skaber mening for brugeren, men det er ikke det samme som forklarlighed. Det er situationsbevidst forklarlighed – tilpasset konteksten, ikke nødvendigvis faktuelt korrekt.

Når compliance kræver mere end forståelse

I en verden hvor beslutninger og anbefalinger truffet af AI har stor indflydelse på mennesker, har AI også vundet indpas i banksektoren. Men i en bank er det ikke nok, at noget “giver mening”. Det skal kunne spores, forklares, revideres. Finanstilsynet stiller krav til dokumentation, rimelighed og versionering – ikke storytelling.