Thought leaders
Wanneer uw AI feiten verzint: het ondernemingsrisico dat geen enkele leider kan negeren
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Het klinkt goed. Het ziet er goed uit. Het is verkeerd. Dat is uw AI op hallucinatie. Het probleem is niet alleen dat de generatieve AI-modellen van vandaag hallucineren. Het is dat we denken dat als we genoeg beveiligingsmaatregelen nemen, het fine-tunen, RAG-en en temmen op de een of andere manier, dan zullen we in staat zijn om het te adopteren op ondernemingsniveau.
| Onderzoek | Domein | Hallucinatiesnelheid | Belangrijkste bevindingen |
|---|---|---|---|
| Stanford HAI & RegLab (jan 2024) | Recht | 69%–88% | LLM’s vertoonden hoge hallucinatiesnelheden bij het beantwoorden van juridische vragen, vaak zonder zelfbewustzijn over hun fouten en versterking van onjuiste juridische aannamen. |
| JMIR-onderzoek (2024) | Academische verwijzingen | GPT-3.5: 90.6%, GPT-4: 86.6%, Bard: 100% | LLM-gegenereerde verwijzingen waren vaak irrelevant, onjuist of niet ondersteund door beschikbare literatuur. |
| UK-onderzoek naar AI-gegenereerde inhoud (feb 2025) | Financiën | Niet gespecificeerd | AI-gegenereerde desinformatie verhoogde het risico op bankruns, waarbij een aanzienlijk deel van de bankklanten overwoog om hun geld te verplaatsen na het bekijken van AI-gegenereerde nep-inhoud. |
| World Economic Forum Global Risks Report (2025) | Globaal risicobeoordeling | Niet gespecificeerd | Desinformatie en misinformatie, versterkt door AI, stonden bovenaan de lijst van globale risico’s over een periode van twee jaar. |
| Vectara Hallucinatie-leaderboard (2025) | AI-modelbeoordeling | GPT-4.5-Preview: 1.2%, Google Gemini-2.0-Pro-Exp: 0.8%, Vectara Mockingbird-2-Echo: 0.9% | Beoordeelde hallucinatiesnelheden voor verschillende LLM’s, waardoor significante verschillen in prestaties en nauwkeurigheid aan het licht kwamen. |
| Arxiv-onderzoek naar feitelijkheidsHallucinatie (2024) | AI-onderzoek | Niet gespecificeerd | HaluEval 2.0 werd geïntroduceerd om hallucinaties in LLM’s systematisch te bestuderen en te detecteren, met de focus op feitelijke onnauwkeurigheden. |
Hallucinatiesnelheden variëren van 0,8% tot 88%
Ja, het hangt af van het model, domein, gebruiksscenario en context, maar die spreiding zou elke ondernemingsbeslissingsmaker moeten verontrusten. Dit zijn geen randgevallenfouten. Ze zijn systemisch. Hoe neemt u de juiste beslissing over AI-adoptie in uw onderneming? Waar, hoe, hoe diep, hoe breed?
En voorbeelden van echte gevolgen hiervan komen elke dag in uw nieuwsfeed voorbij. De Financial Stability Board van de G20 heeft generatieve AI aangemerkt als een vector voor desinformatie die marktcrises, politieke instabiliteit en erger – flash crashes, nepnieuws en fraude – kan veroorzaken. In een onlangs gerapporteerd verhaal heeft het advocatenkantoor Morgan & Morgan een noodmemo uitgegeven aan alle advocaten: dien geen AI-gegenereerde indieningen in zonder te controleren. Valse rechtspraak is een “ontslagbaar” delict.
Dit is misschien niet het beste moment om de boerderij te wedden op hallucinatiesnelheden die naar nul neigen binnenkort. Vooral in gereguleerde industrieën, zoals juridisch, levenswetenschappen, kapitaalmarkten of in anderen, waar de kosten van een fout hoog kunnen zijn, inclusief het publiceren van hoger onderwijs.
Hallucinatie is geen afrondingsfout
Dit gaat niet over een occasionele verkeerde antwoord. Het gaat over risico: reputatie, juridisch, operationeel.
Generatieve AI is geen redeneerengine. Het is een statistische finisher, een stochastische papegaai. Het voltooit uw prompt op de meest waarschijnlijke manier op basis van trainingsgegevens. Zelfs de waar klinkende delen zijn gokken. We noemen de meest absurde stukken “hallucinaties”, maar de hele output is een hallucinatie. Een goed gestileerde. Het werkt nog steeds magisch goed – totdat het niet werkt.
AI als infrastructuur
En toch is het belangrijk om te zeggen dat AI klaar zal zijn voor ondernemingsbrede adoptie wanneer we het beginnen te behandelen als infrastructuur, en niet als magie. En waar nodig, moet het transparant, verklarend en traceerbaar zijn. En als het dat niet is, dan is het simpelweg niet klaar voor ondernemingsbrede adoptie voor die gebruikscases. Als AI beslissingen neemt, moet het op het radar van uw Raad van Bestuur staan.
De AI-wet van de EU leidt de charge hier. Hoge-risicodomeinen zoals justitie, gezondheidszorg en infrastructuur zullen worden gereguleerd als missie-kritieke systemen. Documentatie, testen en verklaring zullen verplicht zijn.
Wat ondernemingsveilige AI-modellen doen
Bedrijven die zich specialiseren in het bouwen van ondernemingsveilige AI-modellen, nemen een bewuste beslissing om AI anders te bouwen. In hun alternatieve AI-architecturen worden de taalmodellen niet getraind op gegevens, dus zijn ze niet “vervuild” met ongewenste dingen in de gegevens, zoals vooroordelen, inbreuk op intellectueel eigendom of de neiging om te gokken of te hallucineren.
Dergelijke modellen “voltooien uw gedachte” niet – ze redeneren vanuit de inhoud van de gebruiker. Hun kennisbasis. Hun documenten. Hun gegevens. Als het antwoord daar niet is, zeggen deze modellen dat zo. Dat maakt dergelijke AI-modellen verklarend, traceerbaar, deterministisch en een goede optie op plaatsen waar hallucinaties onaanvaardbaar zijn.
Een 5-stappenplan voor AI-verantwoordelijkheid
- Kaart de AI-landschap – Waar wordt AI gebruikt in uw bedrijf? Welke beslissingen beïnvloeden ze? Wat is de premie die u hecht aan het kunnen traceren van die beslissingen terug naar transparante analyse op betrouwbare bronmateriaal?
- Aligneer uw organisatie – Afhankelijk van de omvang van uw AI-implementatie, stel rollen, commissies, processen en auditpraktijken in die even streng zijn als die voor financiële of cybersecurity-risico’s.
- Neem AI op in het bestuursrisico – Als uw AI met klanten of toezichthouders praat, hoort het in uw risicorapporten thuis. Governance is geen bijzaak.
- Behandel leveranciers als medeaansprakelijken – Als de AI van uw leverancier dingen verzonnen, bent u nog steeds verantwoordelijk voor de gevolgen. Breid uw AI-verantwoordelijkheidsbeginselen uit naar hen. Eis documentatie, auditrechten en SLA’s voor verklaring en hallucinatiesnelheden.
- Train scepsis – Uw team moet AI behandelen als een junioranalist – nuttig, maar niet onfeilbaar. Vier wanneer iemand een hallucinatie identificeert. Vertrouwen moet worden verdiend.
De toekomst van AI in het bedrijf is niet grotere modellen. Wat nodig is, is meer precisie, meer transparantie, meer vertrouwen en meer verantwoordelijkheid.
