Overgang til verificeringsøkonomien

At kontrollere AI’s arbejde kan blive en betydelig sektor i den nye maskinlæringsøkonomi; en, der skal skalere betydeligt, og som ikke kan automatiseres. Men som årene går, er det sandsynligt, at menneskelige “eksperter” vil aftage i kvalitet.

Opinion. Min kone er arkitekt i en af de mest tilstoppede og intense bureaukratier i Europa. En betydelig del af værdien af hendes uddannelse ligger i opnåelsen og vedligeholdelsen af hendes rettighed til underskrift – en dyr kredencial, der skal fornyes hvert år, og som giver hende mulighed for at bogstaveligt talt “godkende” forslag, hvis implementering kan være på hundredtusinder, ja endda millioner af euro.

Hun fortæller mig, at dette ikke er den sværeste del af hendes arbejde, da det kun formaliserer hendes egne beregninger eller andres, og at det for dette formål ikke er svært at kontrollere eksternt arbejde.

Essentielt – som ofte er tilfældet, når man udpeger direktører – giver denne stempel (det er bogstaveligt talt en stempel) primært interessenterne en mulighed for at holde nogen ansvarlig, hvis noget går galt. Ved at sikre ansvarlighed, faciliterer det også forsikringsdækning og investorfortroenighed, som ikke ville være opnåelig uden sådanne garanti.

Det er anden gang i mit liv, jeg har set denne proces i direkte aktion; for 25 år siden var jeg forlovet med en onkolog i en anden berømt EU-bureaukrati, Italien, og så, hvor meget hendes ekspertunderskrift var den sidste fase i en tillidskæde, hvor mange andre end hun selv havde bidraget med deres ekspertise.

Jeg hørte fra både min ekskæreste dengang og min kone senere, at deres fag var/er fulde af kvalificerede svindlere, der solgte deres stempel og undgik mere originalt eller nyttigt arbejde, da det var mindre profitabelt. Sådanne cyniske praktikere kan opkræve høje summer, fordi de repræsenterer relativt sjældne og essentielle ressourcer.

Se det

Dette emne kom mig i tanker, da jeg faldt over en ny og omfattende rapport i dag, med titlen Nogle simple økonomiske aspekter af AGI. Heri beskriver tre forskere fra MIT, Washington University in St. Louis og UCLA en nær fremtid, hvor den frygtindgydende, job-ødelæggende drivkraft mod AI-dreven automatisering kolliderer med behovet for rigtige “røvhoveder” at sparkes i højrisikoscenarier – og dermed fører til en ny økonomi for menneskelig verificering, godkendelse og ansvar*.

Rapporten modsiger medieernes nuværende forestilling om afmagasinerede forretningssektorer med omfattende kontorer reduceret til enkeltmands-“overvågere”, hvis beslutninger bruges som træningsdata til (håbefuldt) at fyre selv denne sidste rest af “kødware”^†.

I stedet mener forfatterne, at praktiske overvejelser og overholdelseskrav vil fokusere enorm opmærksomhed på de “gummistempel”-mennesker, der beroliger en virksomheds (AI/menneske/AI-understøttet) juridiske afdeling:

‘For virksomheder er den centrale strategiske indsigt, at verificering ikke længere er en ren overholdelsesfunktion, men en primær produktions-teknologi – og mere og mere deres mest forsvarlige. Dette dikterer en strukturel ændring: investering i observerbarhed, udvidelse af verificeringsgraden og omorganisering omkring en “sandwich”-topologi (menneskelig intention → maskineeksekution → menneskelig verificering og underwriting).

‘I en økonomi, hvor råoutput er kommodificeret, migrerer den konkurrencemæssige fordel til den sjældne talent og data, der kan pålideligt styre og certificere agente systemer – og genererer netværkseffekter ikke i ren output, men i tillidsværdige resultater.’

Forfatterne formoder, at den afgørende begrænsning for vækst ikke er intelligens – som AI nu har “afkoblet fra biologi” – men verificeringskapacitet.

Værdiskift mod menneskelig verificering

Rapporten beskriver skiftet mod AGI som en udvidende afvigelse mellem omkostningerne ved at producere maskineoutput og omkostningerne ved at kontrollere denne output – sidstnævnte, der stadig er knyttet til endelig menneskelig tid og erfaring.

At generere planer, rapporter, design og anbefalinger ville i dette scenario blive billigt og overflødigt, mens bestemmelse af, hvilke af dem er solide, aligneret og sikre nok til at handle på ville blive den “sjældne funktion”. Den effektive begrænsning for implementering ville derfor ikke være, hvor meget output systemer kan producere, men hvor meget af denne output kan verificeres troværdigt.

Således ville systemet, ifølge forfatterne, begynde at belønne målebarhed selv: arbejde, der kan parametreres, vil glide mod kommodificering, da dens eksekutionsomkostning nærmer sig den marginale omkostning af beregning, med værdi, der аккумуlerer i stedet i højkvalitets grundsandhed, pålidelige revisionsstier og institutionelle mekanismer for tildeling og absorption af ansvar.

Derfor ville fordelene i en verificeringsøkonomi ligge mindre i at producere indhold og mere i at certificere resultater og underwrite risiciene, der er knyttet til dem.

Hvis automatisering fortsætter med at accelerere, mens verificering forbliver begrænset af menneskelig tid og opmærksomhed, forudser rapporten, at en Hul økonomi ville opstå, hvor, som omkostningerne ved at automatisere arbejde falder, flere og flere agenter ville blive udrullet, selvom evnen til ordentligt at kontrollere deres output ikke ville vokse i samme takt. I dette scenario ville andelen af arbejde, der er ægte verificeret, mindske, med alle de negative konsekvenser, det medfører.

Omvrendt ville en Forstærket økonomi sikre, at verificeringskapaciteten ville udvide sig i takt med automatiseringen. Dette ville kræve en bevidst investering i struktureret træning for at bevare ekspertise samt nye ansvarsrammer, der kan absorberer risiko. Implementering ville derefter være knyttet til, hvad der faktisk kan kontrolleres og forsikres – effektivt, en meget gammel flaskehals, der bringes til centrum af en uden precedent teknologisk udvikling:

‘I teknologisektoren vil den dominerende omsætningsmodel skifte fra at moneterisere softwareadgang (Software-as-a-Service) til at moneterisere resultater (“Software-as-Labor”). Følgelig vil virksomheder primært blive vurderet på deres evne til at absorberer hale-risiko gennem Ansvar som en tjeneste.

‘Eksekution er nu uendeligt skalébar; den juridiske og finansielle kapacitet til at absorberer dens uundgåelige fejl er den nye flaskehals.

Aftagende afkast

Forfatterne mener, at bevaringen af domæneekspertise hos mennesker er afgørende for problemet, da en kultur af industrialiseret tilsyn, ifølge forfatterne, ville risikere over tid at nedbryde kvaliteten af dem, der udfører tilsynet – fordi efterfølgende generationer af tilsynsførende ikke længere ville have direkte og levet erfaring med de domæner, der kræver verificering.

Argumenterbart, på det tidspunkt ville kvaliteten af tilsynet virkelig være modtagelig for automatisering, da nye beslutninger ville blive dannet udelukkende på baggrund af tidligere beslutninger. Dog ville det efterlade interessenter uden en sparkbar, eller en livskraftig forretningsmodel. Det ville også gøre en sådan rolle så volatil og risikofyldt, at den ville være frastødende, selv i en klima med lav beskæftigelse.

At isolere akkrediterede fagfolk som læger og arkitekter i en velbetalt, men højt belastet “gummistempel”-position, er sandsynligt at undergrave deres værdi i en sådan rolle over tid: jo længere deres faktiske felt-erfaring er i fortiden, jo mere “teoretiske” deres beslutninger kunne blive, da deres forladte domæne fortsætter med at udvikle sig i deres fravær.

(Dette er bekendt, selv i forretningskultur før AI, i form af dygtige medarbejdere, der skrider frem i ledelse og bliver mere og mere frakoblet fra nye udviklinger, og til sidst undergraver deres værdi som tilsynsførende og organisatorer. Det er også bekendt for Star Trek: TNG fans, i form af Pakleds – en race, der bruger avanceret teknologi omfattende, men ikke længere ved, hvordan de kan skabe eller reparere den.)

Indledende eksekution har historisk fungeret som træningsgrund for fremtidige eksperter; men hvis automatisering eliminerer de rutinemæssige opgaver, hvorigennem dømmekraft udvikles, vil fremtidens forsyning af kapable verificerere mindske, mener forfatterne.

Således forudser rapporten en paradoks: jo mere kraftfulde agente systemer bliver, desto mere vil samfundet afhænge af en lager af menneskelig ekspertise der selv samme systemer måske kan undergrave.

Og lad os huske, at dette ikke er noget som helst et teknisk problem, eller noget, der kan løses med teknologi. På mange måder antyder dette syndrom den logistiske pendant til AI-model-kollaps – bortset fra, at vi her overvejer undergravningen af en økonomisk model.

‘Fra en politisk synsvinkel er den centrale udfordring en dyb strukturel asymmetri: gevinsten ved AI-udrulning er aggressivt privatiseret, mens de systemiske risici er socialiseret. Virksomheder og individer kaprer gevinsten af automatisering, mens de eksternaliserer katastrofale hale-risici.

‘Uden fælles verificerings-infrastruktur og streng ansvarsprisning, vil markedet rationelt glide mod en Hul økonomi – en ligevægt, der kendetegnes ved eksplosiv målt aktivitet, men grundlæggende hulede menneskelig kontrol.’

Konklusion: En anden krise

Forfatterne definerer den forudsigede krise som en målebarheds-lucke, hvor kvantificerbare processer kan automatiseres væk fra al menneskelig bidrag, og efterlade n-hårde eller n-retlige processer, der stadig kræver menneskelig ekspertise.

Men min kones erfaring antyder, at kompleksiteten eller sværhedsgraden af en proces ikke nødvendigvis er relateret til behovet for ansvarlighed i den pågældende proces; mange af de ting, hun “godkender”, repræsenterer trivielle problemer eller beregninger i sig selv, men er konsekvenser i brud. Og jo mere retsligt orienteret forretningskulturen bliver, desto mere vil underwrite og investorer kræve menneskelig ansvarlighed på tværs af et bredere spektrum af processer.

Så overgangen til verificeringsøkonomien kunne medføre en anden krise end den, der i øjeblikket er genstand for overskrifter. Problemet i så fald ville ikke være, om AI kan producere mere, men om institutioner kan verificere nok af, hvad der produceres, for at omdanne maskinintelligens til varig værdi.

Da maskinintelligens måske snart vil skale uden precedent, og tilgængeligheden af sagtilpasset menneskelig tid ikke kan følge med dette tempo, synes de problemer, der er fremhævet i det nye arbejde, sandsynligt at opstå meget hurtigt – selvom de måske først bliver overdøvet af de bredere økonomiske konsekvenser af AI-adopteringsprocessen.

* Rapporten er for lang til at bryde ned på den sædvanlige måde, og i alle tilfælde strukturelt uegnet til den slags analyse. Derfor besluttede jeg at kommentere på den og overveje dens betydning i stedet, og henviser læseren til kildearbejdet, så de kan gøre det samme.

^† /s

Offentliggjort første gang onsdag, 25. februar 2026