Als je werknemer zich als AI gedroeg, zou je hen nu al hebben ontslagen.

Stel je voor dat je net iemand nieuw hebt aangenomen, en de meeste dagen is die persoon efficiënt, deskundig, welbespraakzaam en zelfverzekerd. Het is alles wat je had gehoopt, en vertoont vele kwaliteiten van een uitstekende werknemer.

Stel je nu voor dat af en toe, wanneer ze geconfronteerd worden met een vraag waarop ze het antwoord niet weten, ze gewoon iets verzinnen. Het is vloeiend en overtuigend, dus neem je het in eerste instantie voor waar aan. Maar wanneer het gevolgen heeft voor het bedrijf, kom je bij die werknemer terug, daag je hen uit – en ze kunnen hun denkproces niet uitleggen of hun werkwijze delen. Je zou zelfs kunnen aangeven dat ze ongelijk hebben, om vervolgens te worden geconfronteerd met volhardend tegenspraak en meer verzinsels om dat te onderbouwen. Na de tweede of derde keer dat dit gebeurt, zou je hen waarschijnlijk hebben ontslagen, of op zijn minst een waarschuwing hebben gegeven? Het antwoord voor de meeste werkgevers is vrijwel zeker ja.

Ik vind het verbazingwekkend dat bedrijven nu kritieke werkstromen en besluitvorming overdragen aan een ‘werknemer’ die bekend staat dit gedrag te vertonen. De enige reden dat dit onopgemerkt blijft, is omdat deze ‘werknemer’ software is en geen mens.

Waarom AI niet faalt op dezelfde manier als mensen

Er bestaat een veelvoorkomende, onjuiste veronderstelling onder bedrijven die AI inzetten dat een foutpercentage van de technologie ongeveer hetzelfde probleem is als menselijke fouten en op dezelfde manier kan worden beheerd. Maar controles, beoordelingen en escalaties werken niet altijd met grote taalmodellen (LLM’s). Ze zijn ontworpen om menselijk te klinken, maar als je onder de motorkap kijkt, zie je dat ze helemaal niet als wij functioneren.

Als een topwerknemer een fout maakt, gaan we ervan uit dat de fout oprecht was – ze deden hun best en maakten een misstap. Het gebeurt. Als ze echter opzettelijk een antwoord verzinnen om een gebrek aan kennis te verbergen, en dit herhaaldelijk doen, zien we dat als wangedrag. Managers weten waar ze hun toezicht op moeten richten, omdat moeilijkheidsgraad en foutmarges samenvallen. Ze kunnen de werknemer vragen hun redenering uit te leggen en hierop te bevragen. De werknemer weet meestal wanneer hij of zij de diepte in gaat en geeft dat aan. En na één fout leren ze, zodat dezelfde fout niet in een constante cyclus terugkeert.

AI‑systemen keren al deze veronderstellingen om. Hun standaardreactie op falen is een vloeiende, zelfverzekerde uitvinding. Ze produceren een plausibel antwoord dat simpelweg onwaar is, wat precies het gedrag is dat een menselijke carrière zou beëindigen. LLM’s zijn ontworpen om de statistisch meest waarschijnlijke voortzetting van een stuk tekst te genereren, en wanneer ze het antwoord niet weten, produceren ze vaak iets dat toch klinkt alsof het juist zou kunnen zijn. Onderzoekers van OpenAI hebben erkend dat een bepaald niveau van feitelijke fouten een statistische onvermijdelijkheid is van hoe deze modellen werken, en dat training beloont een zelfverzekerde gok boven een eerlijke erkenning van onzekerheid.

Waar neurosymbolische benaderingen binnenkomen

Dit is precies wat neurosymbolische benaderingen moeten oplossen. Ze combineren neurale netwerken, die uitstekend zijn in het begrijpen van rommelige, real‑world taal en data, met deterministische, regelgebaseerde redenering. Dit betekent dat de conclusies van een systeem voortvloeien uit expliciete logica die kan worden geïnspecteerd, in plaats van te ontstaan uit een proces dat niemand van binnen kan zien.

Zonder deze extra logische laag die neurosymbolische technologie biedt, correleren de fouten van AI niet met de moeilijkheidsgraad van het werk zoals die van een mens dat doen – ze zijn onvoorspelbaar. Ze kunnen zich voordoen bij triviale taken terwijl moeilijke taken moeiteloos worden uitgevoerd, waardoor het moeilijk is te bepalen waar de menselijke controle het best moet worden gericht. Hun verklaringen, wanneer ze worden gegeven, worden achteraf gegenereerd in plaats van een waarheidsgetrouwe weergave te bieden van hoe ze tot een conclusie kwamen. Dezezelfde fout kan eindeloos blijven terugkeren, omdat er niemand in het systeem is die ervan leert of die ervoor verantwoordelijk kan worden gehouden.

Vertrouwen zonder begrip

Onderzoekers hebben aangetoond dat wanneer mensen nieuw zijn met een systeem, ze de neiging hebben het na één zichtbare fout te verlaten; maar wanneer het een bekend systeem is, gaan ze naar het andere uiterste – het accepteren van de resultaten simpelweg omdat ze eraan gewend zijn, niet omdat die resultaten betrouwbaarder zijn geworden. Wat zelden wordt gezien, is het juiste niveau van vertrouwen, omdat dat afhangt van het feit dat mensen begrijpen wanneer een AI‑systeem waarschijnlijk fout is en dit kunnen herkennen.

Dat betekent niet dat AI niet vertrouwd mag worden met belangrijk werk. Het betekent dat we bereid zijn een soort vertrouwen te geven dat we niet aan een persoon zouden geven, deels omdat er geen duidelijke individu is die verantwoordelijk kan worden gehouden wanneer het faalt.

Als AI oordeel‑gebaseerd werk moet uitvoeren op dezelfde manier als een gewaardeerde collega, moet het aan dezelfde basisnormen voldoen. Antwoorden moeten verifieerbaar zijn, met zichtbare redenering, en moeten accepteren dat het soms het beste is om “Ik weet het niet” te zeggen.