Waarom tokenduurzaamheid een belangrijke factor is voor AI

Tokens vormen de basiseenheid van rekenkracht en kosten voor grote taalmodellen (LLM's). Een token is een klein stukje data dat door het model wordt verwerkt, zoals een deel van een woord, een volledig woord of een leesteken. Telkens wanneer een AI-systeem invoer verwerkt, een antwoord genereert of een taak analyseert, worden tokens verbruikt. Dat tokenverbruik bepaalt uiteindelijk de kosten.

Tokens fungeren daarmee als de valuta van de AI-economie. Naarmate organisaties AI breder inzetten, ontstaan verschillende zakelijke gevolgen:

• Het tokenverbruik neemt toe naarmate AI in meer onderdelen van de organisatie wordt toegepast.
• Bij grootschalig gebruik kunnen de kosten van tokenverbruik aanzienlijk oplopen.
• De kosten per interactie verschillen afhankelijk van factoren zoals de complexiteit van het model, de lengte van de prompt en de mate van redeneren die nodig is. Tokenverbruik heeft daarnaast invloed op energiegebruik en CO₂-uitstoot. Inzicht in AI-gebruik is daarom niet alleen relevant voor kostenbeheersing, maar ook voor duurzaamheidsdoelstellingen.

Kans

EY moedigde leidinggevenden actief aan om AI te omarmen en te ontdekken waar de technologie de meeste waarde kon toevoegen. Dat leverde veel inzichten op, maar ook een aandachtspunt: de tokenkosten liepen op en geavanceerde modellen werden regelmatig ingezet voor routinetaken, zoals het opstellen van e-mails en het maken van vergadernotities.

Oplossing

EY paste de uitrolstrategie aan en maakte bewustere keuzes in het gebruik van AI. Complexe taken met een hoge toegevoegde waarde werden uitgevoerd met geavanceerde modellen, terwijl voor routinematig werk eenvoudigere modellen of helemaal geen AI werden ingezet. Daarnaast investeerde EY in training en duidelijke kaders voor verantwoord gebruik.

Resultaat

Door te focussen op de meest waardevolle toepassingen, bewust modelkeuzes te maken en gebruik te ondersteunen met training en governance, wist EY het totale tokenverbruik met 60% te verlagen én tegelijkertijd meer waarde uit AI te halen.

Kans

De ervaringen van EY binnen de eigen organisatie, gecombineerd met vergelijkbare uitdagingen die bij klanten werden gezien rond waardecreatie, kostenbeheersing en verantwoording, maakten duidelijk dat een nieuwe aanpak voor AI-investeringen nodig was.

Oplossing

Daarom introduceerde EY het AI Value Realization Office. Dit team benadert AI-investeringen vanuit waardeketens en richt AI op end-to-end waardecreatie. Daarbij wordt uitgegaan van AI-gereed databeheer, worden de volledige economische effecten over zeven kostencategorieën meegenomen en ligt de focus op adoptie, herontworpen werkprocessen en meetbare financiële resultaten.

Resultaat

Omdat 70% tot 75% van het waardepotentieel zich tussen verschillende functies en afdelingen bevindt, start deze aanpak bij de volledige waardeketen en niet bij een losse verzameling use cases. Daardoor kan AI worden beoordeeld op de waarde die het creëert, in plaats van op de hoeveelheid tokens die wordt verbruikt.

Kans

Naarmate AI op grotere schaal werd ingezet, keek EY verder dan alleen tokenverbruik. De organisatie wilde inzicht krijgen in de volledige economische impact van AI-agents en begrijpen wat er werkelijk nodig is om waarde te creëren. Facturen maakten alleen de zichtbare kosten inzichtelijk, zoals tokens en API-calls, licenties en platforminfrastructuur.

Oplossing

Via het AI Value Realization Office ontwikkelde EY een framework dat ook minder zichtbare kosten meeneemt, zoals governance, organisatieverandering, fouten en herstelwerkzaamheden en regelgevingsrisico's. In totaal omvat het framework zeven kostencategorieën. Daarmee ontstond een directe koppeling tussen de AI-agent, de gemaakte kosten en de gerealiseerde uitkomsten.

Resultaat

EY verlegde de focus van het aantal verbruikte tokens naar de totale kosten van het realiseren van een bruikbare uitkomst.