Waarom Blind Vertrouwen in AI Uw Slechtste Beslissing Ooit Kan Zijn

In 1979 maakte een IBM Trainingshandboek een eenvoudige maar opvallende waarschuwing: “Een computer kan nooit verantwoordelijk worden gehouden; daarom mag een computer nooit een managementbeslissing nemen.” En meer dan 45 jaar later voelt deze verklaring aan als een genegeerd profetie.

In 2025 doet AI niet alleen mee, maar neemt het ook autonome beslissingen, en in veel gevallen leidt het niet alleen, maar neemt het ook de leiding. In feite vertrouwen ongeveer 74% van de executives meer op AI voor bedrijfsadvies in vergelijking met collega’s of vrienden, 38% vertrouwt AI om bedrijfsbeslissingen voor hen te nemen, en 44% volgen de redenering van de technologie in plaats van hun eigen inzichten. De verschuiving is duidelijk; AI is het nieuwe intuïtie.

Maar er is een probleem. Vertrouwen in AI is alleen mogelijk als de algoritme de moeite waard is om te vertrouwen. En wanneer vertrouwen blind wordt geplaatst, vooral in black boxes die we niet kunnen begrijpen of controleren, is het een risico dat zich voordoet als vooruitgang. Net als bij menselijk leiderschap is vertrouwen zonder verantwoordelijkheid gevaarlijk, en wanneer AI het mis heeft, wie neemt de schuld op zich?

Wanneer het Hulpmiddel de Baas Wordt

Wat begon als een hulpmiddel voor het stroomlijnen van back-office activiteiten wordt nu gebruikt in kernbedrijfsprocessen. Maar bedrijven gebruiken AI niet alleen om menselijke beslissingen te ondersteunen; ze vertrouwen AI, met name generatieve AI (GenAI), om bedrijfsbeslissingen te nemen, van bedrijfsstrategie tot klantenservice, financiële modellering en meer.

Deze verschuiving is begrijpelijk. AI wordt niet afgeleid, vergeet het geen instructies en laat het zijn oordeel niet door emoties vertroebelen. Voor veel bedrijven biedt dit een aantrekkelijk antwoord op de risico’s van menselijke fouten. Echter, een belangrijke vraag blijft: kunnen we AI vertrouwen om de baas te zijn en onafhankelijke beslissingen te nemen?

Het is geen eenvoudig antwoord, maar een manier om ernaar te kijken is hoe we de vertrouwenswaardigheid van mensen beoordelen: door hun competentie, betrouwbaarheid en duidelijke intentie. Dezelfde principes gelden voor AI.

Om vertrouwd te worden, moet een AI-systeem resultaten leveren die nauwkeurig, tijdig en passend zijn. Maar het niveau van vertrouwen en de marge voor fouten variëren afhankelijk van de context. Bijvoorbeeld, bij het diagnosticeren van kanker uit medische beelden is de lat voor falen extreem laag. Aan de andere kant, bij het genereren van ideeën voor een marketingcampagne is er meer ruimte voor experimenten.

We hebben AI gezien om autonome beslissingen te nemen in gebieden zoals kredietgoedkeuringen, waar banken algoritmes gebruiken om loan eligibility in seconden te bepalen. Detailhandelaren gebruiken AI om voorraad en prijzen te beheren zonder menselijke input. Maar we hebben ook falen gezien – zoals zelfrijdende auto’s die de wegcondities verkeerd inschatten.

Een waarschuwend verhaal toont de risico’s van het plaatsen van te veel vertrouwen in AI zonder adequate toezicht. Derek Mobley – een zwarte man ouder dan 40 – heeft meer dan 100 posities aangevraagd via het Workday AI-gestuurd wervingsysteem sinds 2017 en werd elke keer afgewezen. Hij beweerde discriminatie op basis van leeftijd en ras. In mei 2025 gaf de rechtbank een landelijke collectieve actie. De klas omvat alle sollicitanten ouder dan 40 die sinds september 2020 via Workday hebben gesolliciteerd en zijn afgewezen op basis van AI-aanbevelingen.

Dit voorbeeld maakt een belangrijk punt: AI ontbreekt aan emotionele intelligentie, morele redenering of een natuurlijk gevoel van eerlijkheid. En omdat AI van menselijke assistent naar onafhankelijke beslissingsmaker gaat, is er nu een verantwoordelijkheidsvacuüm. Wanneer algoritmes zonder menselijke checks en balances worden toegestaan, kunnen ze en nemen ze slechte beslissingen en versterken ze bestaande vooroordelen.

De Vraag Rondom Black Boxes

Black boxes – wanneer een AI-systeem en logica niet volledig zichtbaar zijn – worden steeds vaker gebruikt. Hoewel ze zichtbare lagen kunnen hebben, kunnen ontwikkelaars en gebruikers nog steeds niet zien wat er gebeurt op elke laag, waardoor ze ondoorzichtig zijn.

Bijvoorbeeld is ChatGPT een black box, omdat zelfs de makers niet weten hoe het werkt, omdat het is getraind op zo grote datasets. Maar vanwege het gebrek aan transparantie, is het ooit oké om een AI-model te ‘vertrouwen’ zonder volledig te begrijpen hoe het werkt?

Kort samengevat, nee: AI-hallucinaties worden erger. Dit betekent dat in hoge-inzet-scenario’s, zoals financiële beslissingen, juridisch advies en medische inzichten, AI strenge validatie, cross-referencing en menselijke toezicht vereist.

De Disney en Universal-rechtszaak die in juni 2025 is ingediend, versterkt dit punt. De studios beweren dat GenAI-hulpmiddelen zijn getraind op gecopyrighte materiaal om nieuwe inhoud te creëren zonder toestemming. Deze zaak benadrukt een nieuwe realiteit: wanneer bedrijven AI-modellen inzetten die ze niet volledig begrijpen, kunnen ze verantwoordelijk worden gehouden voor de beslissingen die ze nemen. En onwetendheid is geen verweer; het is een aansprakelijkheid.

Echter, we vertrouwen vaak op complexe systemen die we niet begrijpen. Bijvoorbeeld, de meeste luchtreizigers kunnen de fysica van de vlucht niet uitleggen, maar mensen gaan met vertrouwen aan boord van vliegtuigen omdat we vertrouwen hebben opgebouwd door herhaalde blootstelling, collectieve ervaring en een sterk trackrecord van veiligheid.

Dezelfde logica kan opnieuw worden toegepast op AI. Het is onredelijk om van iedereen te verwachten dat ze begrijpen hoe LLM’s werken. Maar vertrouwen wordt niet opgebouwd door begrip; het vereist vertrouwdheid, transparantie over beperkingen en een bewezen patroon van betrouwbaar presteren. Aerospace-ingenieurs weten welke tests ze moeten uitvoeren en wat fouten eruit zien, en we moeten hetzelfde eisen van GenAI-aanbieders. Het fundament van AI moet vertrouwen zijn, maar verifieer.

Bovendien geloven bedrijfsleiders vaak dat AI het zilveren kogel is dat al hun bedrijfsproblemen zal oplossen. Echter, deze mythe plaagt veel bedrijven wanneer ze AI integreren. Leiders geven de voorkeur aan complexe en geavanceerde modellen, maar een eenvoudiger oplossing kan beter geschikt zijn als ze een kosten-batenanalyse uitvoeren. AI is een krachtig instrument, maar het is niet geschikt voor elke taak. Bedrijven moeten het probleem erkennen voordat ze een hulpmiddel selecteren.

Vertrouwen in AI Herbouwen

Terwijl het duidelijk is dat blind vertrouwen in AI een probleem is, kunnen AI-systemen en algoritmes het beste hulpmiddel zijn dat een bedrijf ooit heeft – wanneer ze op een veilige manier worden gebruikt.

Voor bedrijven die AI-hulpmiddelen willen gebruiken, is de eerste stap om onderzoek te doen naar de leverancier. Wanneer een bedrijf een gebied heeft geïdentificeerd dat baat kan hebben bij AI-efficiëntie, moeten bedrijfsleiders leveranciers evalueren, niet alleen op prestatieclaims, maar ook op governance-controles. Dit omvat het controleren van hoe modellen worden ontwikkeld, of er uitlegbare hulpmiddelen zijn, hoe vooroordelen worden gecontroleerd en of audit-trails beschikbaar zijn. Het kiezen van een leverancier met transparante processen is essentieel om risico’s vanaf het begin te mitigeren.

Misschien het belangrijkste punt bij het opbouwen van vertrouwen in AI-systemen is het waarborgen van gegevensbeheer met schone, representatieve en goed gedocumenteerde datasets. Zoals het spreekwoord zegt: “rommel in, rommel uit”. Daarom, als de gegevens onvolledig, bevooroordeeld of onnauwkeurig zijn, zal zelfs het meest geavanceerde model onbetrouwbare resultaten produceren.

Om ervoor te zorgen dat gegevens AI-klaar zijn, moeten bedrijven:

• Bestaande datasets controleren op lacunes en duplicaten en controleren op bronnen van vooroordelen

• Gegevensformaten standaardiseren

• Gegevensbeheerbeleid implementeren dat eigendom en toegangscontroles definieert

Een andere belangrijke stap voor bedrijfsleiders is om stress tests uit te voeren onder verschillende omstandigheden. Hoewel een model het goed kan doen in gecontroleerde tests, is het cruciaal om de beperkingen van het model te begrijpen wanneer het wordt geconfronteerd met nieuwe gegevens of invoer die het niet verwachtte. Daarom is het belangrijk om AI te testen in verschillende situaties, met verschillende soorten gebruikers, verschillende use-cases en gegevens uit verschillende tijdsperioden.

AI-validatie is ook een voortdurende taak. Aangezien gegevens in de loop van de tijd veranderen, kunnen zelfs betrouwbare AI-modellen onnauwkeurig worden. Daarom is regelmatige monitoring belangrijk. Bedrijven moeten controleren hoe het model presteert van dag tot dag: is het nog steeds nauwkeurig? Of nemen de valse positieven toe? En net als bij elk systeem dat onderhoud nodig heeft, moeten modellen regelmatig worden getraind met verse gegevens om relevant te blijven.

AI is niet vertrouwd of onbetrouwbaar; het wordt gevormd door de gegevens waaruit het leert, de mensen die het maken en de regels die het regeren. Terwijl AI zich ontwikkelt van een nuttig hulpmiddel tot een bedrijfsadviseur, hebben leiders de optie om het niet alleen te gebruiken, maar om het op een verantwoorde en ethische manier te doen. Als we het goed doen, zal AI niet alleen krachtig zijn in de toekomst, maar ook verantwoordelijk, met verantwoordelijkheid die duidelijk bij de ontwikkelaar en toezichthouders ligt.