Machine tot menselijke interactie: het “laatste mijl” probleem dat ondernemingsbrede AI tegenhoudt

Tot voor kort draaiden gesprekken in de boardroom over AI voornamelijk om de modellen zelf. Is de output nauwkeurig? Hoe schoon was de trainingsdata? Hoe kunnen we vooroordelen verminderen? Zijn hallucinaties onder controle? Die vragen zijn nog steeds belangrijk, maar de output is niet langer het enige waar bestuurders en aandeelhouders op letten. In plaats daarvan zijn ze geïnteresseerd in iets wat veel moeilijker te meten is – of AI-systemen werkelijk effectief samenwerken met mensen in dagelijkse interacties.

Dat is deels de reden waarom IBM onlangs een aandeelhoudersvoorstel kreeg dat meer transparantie eiste over hoe het AI-vooroordelen en -governance beheert. Het voorstel richtte zich specifiek op het mitigeren van vooroordelen, maar de bredere conclusie was dat nu AI dieper in besluitvormingsprocessen wordt ingebed, het wordt beoordeeld op basis van operationele verantwoordelijkheid en meetbare bedrijfsresultaten in plaats van de basiscapaciteit.

Wat ik zie in gesprekken met ondernemingen is dat vrijwel niemand nog debatteert over of de modellen zelf capabel zijn. De meeste organisaties weten al dat deze systemen output kunnen genereren, workflows kunnen automatiseren en inzichten kunnen oppervlakken met buitengewone snelheid. De moeilijkere vraag is of al ditconsistent de resultaten binnen het bedrijf verbetert. Gebruiken medewerkers deze systemen op een zinvolle manier? Vertrouwen ze de aanbevelingen die ze ontvangen? Worden beslissingen duidelijker, sneller of consistenter? Of produceren organisaties simpelweg meer inhoud, meer analyse en meer ruis zonder te veranderen hoe mensen opereren? De kloof tussen AI-capaciteit en menselijke adoptie is wat ik het “laatste mijl” van ondernemingsbrede AI noem. Het is waar ROI, vertrouwen, verantwoordelijkheid en operationele consistentie samenkomen, en het is waar veel implementaties beginnen te stagneren.

Capaciteit is niet de bottleneck – menselijke context is

Het IBM-aandeelhoudersvoorstel zelf richtte zich op vooroordelen, een bekende en groeiende zorg in de industrie. De resolutie riep op tot aanvullende rapportage over de methoden die IBM gebruikt om vooroordelen te identificeren en te mitigeren in zijn AI-modellen, inclusief de potentiële risico’s die aan die mitigatie-inspanningen zijn verbonden. IBM weersprak dit, door aan te voeren dat veel van deze informatie al openbaar was via modelkaarten, governance-documentatie, transparanterapportage en indiening bij de Stanford Foundation Model Transparency Index. De meeste waarnemers erkenden dat IBM meer had gedaan dan veel leveranciers om verantwoorde AI-praktijken operationeel te maken, terwijl ze ook erkenden dat governance en vooroordelen onopgeloste uitdagingen blijven in de industrie.

Wat me interessant lijkt, is niet of IBM’s reactie juist of verkeerd was. Het is wat de hele situatie zegt over waar ondernemingsbrede AI-gesprekken naartoe gaan. Bestuurders zijn grotendeels overgestapt naar een nieuwe fase van AI-beoordeling, gericht op besluitkwaliteit, operationele impact, medewerkervertrouwen en langetermijnadoptie binnen het bedrijf.

Dit is waar een neuroscientische lens me naar een andere conclusie leidt dan veel van het huidige ondernemingsbrede AI-gesprek. Mensen zijn geen rationele input-outputmachines. We naderen beslissingen met eindige aandacht, fluctuerend vertrouwen, cognitieve overbelasting en constant verschuivende intentie. Wanneer interacties langzaam aanvoelen, wanneer vooraf ingestelde antwoorden missen wat we eigenlijk bedoelden, of wanneer mensen moeten vechten tegen het systeem om iets nuttigs te krijgen, stort de betrokkenheid in voordat adoptiemetingen bijhouden. Hallucinatierisico, inconsistentie en vooroordelen verergeren het probleem alleen maar, waardoor wrijving ontstaat in workflows die oorspronkelijk bedoeld waren om productiviteit en besluitvorming te verbeteren. Deze “laatste mijl” is wat de meeste organisaties nog onderschatten: AI-waarde wordt niet gecreëerd wanneer een model een antwoord genereert, maar wanneer het het juiste antwoord op het juiste moment levert en mensen het genoeg vertrouwen om erop te handelen.

Waarom negeren we de echte ‘mens in de lus’ – de gebruiker?

We hebben onlangs veel gehoord over “mens in de lus” en het belang van een menselijke aanwezigheid om AI-gegenereerde output goed te keuren. Maar wat als de meest belangrijke mens – de gebruiker – niet goed wordt begrepen? Mens-tot-mens-interactie is complex en veelzijdig, maar de reden waarom directe communicatie zo goed werkt, is omdat geen nuances verloren gaan. Als iemand aarzelt, vertrouwen verliest, gefrustreerd of verward raakt, of zijn intentie verandert, dan gaat dat door tijdens een interactie en verandert het gesprek dienovereenkomstig. De meeste AI-systemen hebben nog steeds moeite om die signalen te herkennen, omdat ze meer of minder “op rails” zitten, in die zin dat ze alleen reageren op de laatste prompt van de gebruiker.

Volgens mij wordt dit een van de bepalende beperkingen van huidige ondernemingsbrede AI-implementaties. We hebben systemen gebouwd die uitzonderlijk goed zijn in het genereren van informatie, maar beperkt in hun vermogen om te herkennen of die informatie iemand helpt om betere beslissingen te nemen.

Een organisatie kan ondernemingsbrede AI-hulpmiddelen implementeren voor duizenden medewerkers en nog steeds niet slagen in het bereiken van een zinvolle afstemming in hoe die systemen daadwerkelijk worden gebruikt. Kaders zoals het NIST AI Risk Management Framework, ISO/IEC 42001 en de EU AI Act duwen organisaties naar een grotere governance-maturiteit en operationele verantwoordelijkheid. Maar governance op papier gaat niet ver als medewerkerbetrokkenheid met AI gefragmenteerd blijft. Als verschillende teams AI op volledig verschillende manieren vertrouwen en gebruiken, wordt het meten van ROI consistent bijna onmogelijk, en dat is een probleem dat geen enkele prompt kan oplossen.

De kosten van AI-overbelasting

We zijn nu een fase binnen te gaan waarin AI volledig alomtegenwoordig wordt in AI-workflows. Er zijn copilots ingebed in productiviteitssuites, AI-gegenereerde vergaderverslagen die na elke oproep aankomen, dashboards die voorspellende inzichten in real-time oppervlakken, aanbevelingsmotoren die medewerkers constant suggesties voeden, en geautomatiseerde analyses die sneller verschijnen dan de meeste teams realistisch kunnen verwerken. Op papier ziet dit eruit als vooruitgang – bedrijven produceren meer informatie dan ooit tevoren. Maar cognitieve wetenschap heeft hier al decennialang duidelijk over gesproken: meer informatie leidt niet automatisch tot betere beslissingen.

Mensen kunnen maar zo veel informatie absorberen voordat overbelasting intreedt. Te veel aanbevelingen creëren aarzeling. Te veel meldingen worden achtergrondruis. Te veel AI-gegenereerde opties kunnen medewerkers doen twijfelen in plaats van zelfverzekerd te handelen. Wat interessant is, is dat AI-systemen uitzonderlijk goed worden in het produceren van informatie, maar nog steeds relatief slecht in het begrijpen van hoe mensen die informatie in context ontvangen, interpreteren en erop reageren. Bestuurders interesseren zich niet voor het aantal samenvattingen, aanbevelingen of gegenereerde inzichten dat een systeem kan produceren. Ze interesseren zich voor de vraag of beslissingen duidelijker en betrouwbaarder worden over het hele bedrijf.

AI is zijn verantwoordelijkheidsfase ingegaan

Het IBM-aandeelhoudersvoorstel kan zijn voortgekomen uit zorgen over vooroordelen, maar ik denk dat het iets veel breders weerspiegelt dat in de hele ondernemingsbrede AI plaatsvindt. De nieuwheid van AI is voorbij, en ondernemingen die een solide rendement op hun AI-investering zoeken, kunnen niet langer alleen naar modelcapaciteit kijken. De technologie heeft zichzelf bewezen, maar nu heeft het een mate van verantwoordelijkheid nodig. Gebruiken medewerkers deze systemen consistent? Verbeteren beslissingen? Nemen vertrouwen en betrokkenheid toe in de loop van de tijd, of eroderen ze langzaam? Als AI meer ingebed raakt in dagelijkse workflows, zullen de volgende generatie systemen mogelijk veel meer bewust moeten worden van menselijk gedrag, aandacht, vertrouwen en intentie als bedrijven duurzame adoptie en meetbare ROI willen. Tot die tijd zal de laatste mijl waarschijnlijk een van de grootste uitdagingen in ondernemingsbrede AI-adoptie blijven.