Overstappen naar de verificatie-economie

Het controleren van het werk van AI kan een significante sector worden in de nieuwe machine learning-economie; een sector die aanzienlijk moet schalen en die niet geautomatiseerd kan worden. Maar naarmate de jaren verstrijken, zullen de kwaliteit van de menselijke ‘experts’ waarschijnlijk verslechteren.

Opinie. Mijn vrouw is architect in een van de meest overbelaste en intense bureaucratieën in Europa. Een aanzienlijk deel van de waarde van haar opleiding ligt in het verkrijgen en onderhouden van haar recht van handtekening – een dure credential die elk jaar opnieuw moet worden aangevraagd en die haar letterlijk in staat stelt om ‘goedkeuring’ te geven voor voorstellen waarvan de implementatie honderdduizenden, zelfs miljoenen euro’s kan kosten.

Zij vertelt me dat dit niet het moeilijkste deel van haar werk is, aangezien het alleen maar formaliseert wat zij zelf heeft berekend, of wat anderen hebben berekend, en dat voor dit doel extern werk niet moeilijk is om te controleren.

Feitelijk – zoals vaak ook het geval is bij het aanstellen van CEOs – deze stempel (het is letterlijk een stempel) biedt vooral stakeholders een ‘kont om te schoppen’ als dingen misgaan. Door aansprakelijkheid te waarborgen, vergemakkelijkt het ook verzekering en investeerdersvertrouwen, die niet zouden kunnen worden verkregen zonder dergelijke waarborgen.

Het is de tweede keer in mijn leven dat ik dit proces rechtstreeks in actie zie; 25 jaar geleden was ik verloofd met een oncologe in een andere beruchte EU-bureaucratie, Italië, en zag ik de mate waarin haar expertenhandtekening de laatste fase was in een keten van vertrouwen waarin velen anderen naast haar moesten bijdragen aan hun expertise.

Ik hoorde van zowel mijn ex-verloofde, in die periode, als recent van mijn vrouw, dat hun beroepen doorspekt waren met gekwalificeerde oplichters die hun stempel verkochten en meer origineel of nuttig werk vermijdden als minder winstgevend. Dergelijke cynische praktijken kunnen hoge bedragen in rekening brengen omdat ze relatief schaarse en essentiële middelen vertegenwoordigen.

Kijk hier

Dit onderwerp kwam bij me op toen ik een nieuwe en uitgebreide paper tegenkwam, getiteld Enkele eenvoudige economie van AGI. Hierin beschrijven drie onderzoekers van MIT, Washington University in St. Louis en UCLA, een nabije toekomst waarin de verontrustende, banenvernietigende impuls naar AI-gedreven automatisering botsingt met de behoefte aan echte ‘konten om te schoppen’ in hoge-inzet-scenario’s – en zo leidt tot een nieuwe economie van menselijke verificatie, ratificatie en verantwoordelijkheid*.

De paper contrasteert met de huidige media-verbeelding van uitgeholde bedrijfssectoren met uitgebreide kantoren die zijn teruggebracht tot enkele ‘toezichthouders’, wiens beslissingen worden gebruikt als trainingsdata om (hopelijk) deze laatste rest van ‘vleesware’ ^† te ontslaan.

In plaats daarvan geloven de auteurs dat praktische overwegingen en compliance-eisen enorme aandacht zullen richten op de ‘rubber-stampende’ mensen die een bedrijfs (AI/menselijke/AI-geassisteerde) juridische afdeling kalmeert:

‘Voor bedrijven is de kernstrategische inzicht dat verificatie niet langer een louter compliance-functie is, maar een primaire productietechnologie – en steeds vaker hun meest verdedigbare een. Dit dicteert een structurele verschuiving: zwaar investeren in observeerbaarheid, het uitbreiden van verificatie-grondwaarheid, en herorganiseren rond een “sandwich”-topologie (menselijke intent → machine-uitvoering → menselijke verificatie en onderwriting).

‘In een economie waarin ruwe output wordt geëgaliseerd, migreert concurrentievoordeel naar het schaarse talent en gegevens dat in staat is om agente-systemen betrouwbaar te sturen en te certificeren – netwerkeffecten genereren niet in sheer output, maar in betrouwbare resultaten.’

De auteurs hypotheseren dat de bepalende beperking op groei niet intelligentie is – die AI nu ‘losgekoppeld van biologie’ heeft – maar verificatiebandbreedte.

Waardeverschuiving naar menselijke verificatie

De paper beschrijft de verschuiving naar AGI als een groeiende divergentie tussen de kosten van het produceren van machine-output en de kosten van het controleren van die output – de laatste waarvan nog steeds is gekoppeld aan eindige menselijke tijd en levenservaring.

Het genereren van plannen, rapporten, ontwerpen en aanbevelingen zou in dit scenario goedkoop en overvloedig worden, terwijl het bepalen welke daarvan solide, gealigneerd en veilig genoeg zijn om op te handelen, zou het ‘schaarse functie’ worden. De effectieve limiet op implementatie zou dus niet zijn hoeveel output systemen kunnen produceren, maar hoeveel van die output betrouwbaar kan worden geverifieerd.

Daarom zal het systeem, volgens de auteurs, meer gaan belonen meetbaarheid: werk dat kan worden geparametriseerd, zal naar commodificatie neigen naarmate de uitvoeringskosten naar de marginale kosten van compute neigen, met waarde die toeneemt in hoge kwaliteit grondwaarheid, betrouwbare audit-trails en institutionele mechanismen voor het toewijzen en absorberen van verantwoordelijkheid.

Daarom zou in een verificatie-economie het voordeel minder liggen in het produceren van inhoud, en meer in het certificeren van resultaten en het onderhandelen van de risico’s die daaraan zijn verbonden.

Als automatisering blijft versnellen terwijl verificatie beperkt blijft door menselijke tijd en aandacht, voorspelt de paper dat een Uitgeholde Economie zou ontstaan, waarin, naarmate de kosten van het automatiseren van werk dalen, steeds meer agenten worden ingezet omdat het economisch gezien zinvol is om dit te doen – zelfs als de mogelijkheid om hun output goed te controleren niet even snel toeneemt. In dat scenario zou het aandeel van het werk dat echt wordt geverifieerd, krimpen, met alle negatieve gevolgen van dien.

Integendeel, een Versterkte Economie zou ervoor zorgen dat de verificatiecapaciteit in tandem met automatisering zou toenemen. Dit zou een bewuste investering in gestructureerde training vereisen om expertise te behouden, evenals nieuwe aansprakelijkheidskaders die risico’s kunnen absorberen. Implementatie zou dan worden gekoppeld aan wat echt kan worden gecontroleerd en verzekerd – effectief, een oude bottleneck die centraal staat door een ongekende schaal van technologische ontwikkeling:

‘In de technologie-sector zal het dominante revenumodel verschuiven van het monetiseren van software-toegang (Software-as-a-Service) naar het monetiseren van resultaten (“Software-as-Labor”). Daarom zullen bedrijven voornamelijk worden gewaardeerd op hun capaciteit om tail-risico’s te absorberen via Liability-as-a-Service.

‘Uitvoering is nu oneindig schaalbaar; de juridische en financiële capaciteit om de onvermijdelijke fouten te absorberen is de nieuwe bottleneck.’

Afnemende rendementen

Inderdaad, het behoud van domeinexpertise bij mensen is cruciaal voor het probleem, aangezien een cultuur van geïndustrialiseerd toezicht, volgens de auteurs, het risico loopt om over tijd de kwaliteit van degenen die het toezicht uitvoeren, te degraderen – omdat latere generaties van toezichthouders geen directe en levende ervaring meer zullen hebben van de domeinen die verificatie vereisen.

Waarschijnlijk zal op dat moment de kwaliteit van het toezicht echt vatbaar zijn voor automatisering, aangezien nieuwe beslissingen uitsluitend zullen worden gevormd op basis van eerdere beslissingen. Echter, dit zou stakeholders zonder een ‘kont om te schoppen’ of een levensvatbaar bedrijfsmodel achterlaten. Het zou ook een dergelijke rol zo volatiel en risicovol maken dat het, zelfs in een klimaat van lage werkloosheid, onaanlokkelijk zou zijn.

Het opsluiten van gecertificeerde professionals zoals artsen en architecten in een goedbetaalde maar zwaar belaste ‘rubber-stamp’-positie zal waarschijnlijk hun waarde in die rol over tijd ondermijnen: hoe verder in het verleden hun daadwerkelijke veldervaring terugligt, hoe ‘theoretischer’ hun beslissingen kunnen worden, aangezien hun verlaten domein in hun afwezigheid blijft evolueren.

(Dit is vertrouwd, zelfs in de pre-AI-bedrijfscultuur, in de vorm van geschoolde medewerkers die in management terechtkomen en steeds meer losraken van nieuwe ontwikkelingen, uiteindelijk hun waarde als toezichthouders en organisatoren ondermijnend. Het is ook vertrouwd voor Star Trek: TNG fans, in de vorm van de Pakleds – een ras dat geavanceerde technologie uitgebreid gebruikt, maar niet langer weet hoe het te creëren of te repareren.)

Entry-level-uitvoering heeft historisch gediend als de opleidingsgrond voor toekomstige experts; maar als automatisering routine-taken elimineert waarin oordeel wordt gevormd, zal de toekomstige aanvoer van capabele verificators afnemen, suggereren de auteurs.

Daarom voorspelt de paper een paradox: hoe krachtiger agente-systemen worden, hoe meer de samenleving afhankelijk zal zijn van een voorraad menselijke expertise die diezelfde systemen mogelijk zullen ondermijnen.

En laten we niet vergeten dat dit in geen enkele way een technisch probleem is, noch vatbaar voor een technologische oplossing. Op veel manieren suggereert dit syndroom het logistieke equivalent van AI-model-inzakking – behalve dat we hier de ondermijning van een economisch model overwegen.

‘Vanuit een beleidsperspectief is de kernuitdaging een diepe structurele asymmetrie: de voordelen van AI-implementatie worden agressief geprivatiseerd, terwijl de systemische risico’s worden gesocialiseerd. Bedrijven en individuen behalen de upside van automatisering, terwijl ze catastrofale tail-risico’s externaliseren.

‘Zonder gedeelde verificatie-infrastructuur en rigoureuze aansprakelijkheidsbeprijzing zal de markt rationeel afzakken naar een Uitgeholde Economie – een evenwicht gekenmerkt door explosief gemeten activiteit, maar fundamenteel holle menselijke controle.’

Conclusie: Een andere crisis

De auteurs definiëren de voorspelde crisis als een meetbaarheidskloof, waarin kwantificeerbare processen kunnen worden geautomatiseerd en losgemaakt van alle menselijke bijdrage, waardoor n-hard of n-legale processen overblijven die nog steeds menselijke expertise vereisen.

Echter, de ervaring van mijn vrouw suggereert dat de complexiteit of moeilijkheid van een proces niet noodzakelijkerwijs gerelateerd is aan de behoefte aan aansprakelijkheid in dat proces; veel van de dingen die zij ‘goedkeurt’ vertegenwoordigen triviale problemen of berekeningen op zich, maar zijn gevolgrijk in de breuk. En hoe meer de bedrijfscultuur juridisch wordt, hoe meer verzekeraars en investeerders menselijke aansprakelijkheid zullen vereisen over een bredere reeks processen.

Dus, het overstappen naar de verificatie-economie kan een andere crisis veroorzaken dan die momenteel de koppen haalt. Het probleem in dat geval zou niet zijn of AI meer kan produceren, maar of instellingen genoeg van wat wordt geproduceerd kunnen verifiëren om machine-intelligentie om te zetten in duurzame waarde.

Aangezien machine-intelligentie binnenkort mogelijk zonder precedent zal schalen, en de beschikbaarheid van case-applicable menselijke tijd niet kan bijhouden met dat tempo, lijken de kwesties die in het nieuwe werk worden geschetst waarschijnlijk snel op te duiken – zelfs als ze mogelijk aanvankelijk worden overstemd door de bredere economische gevolgen van AI-adoptie.

* De paper is te lang om op de gebruikelijke manier te worden afgebroken, en is in elk geval structureel niet geschikt voor dat type analyse. Daarom besloot ik om er commentaar op te geven en de betekenis ervan te overwegen, en de lezer te verwijzen naar het bronwerk zodat ze dat ook kunnen doen.

^† /s

Eerste publicatie woensdag 25 februari 2026