Övergången till en verifikationsekonomi

Att kontrollera AI:s arbete kan bli en betydande sektor i den nya maskinlärdekonomin; en som måste skala upp avsevärt och som inte kan automatiseras. Men allteftersom åren går kommer mänskliga “experter” sannolikt att försämras i kvalitet.

Åsikt. Min fru är arkitekt i en av de mest överbelastade och intensiva byråkratierna i Europa. En betydande del av värdet av hennes utbildning ligger i att erhålla och underhålla hennes rätt att signera – en dyr tillstånd som måste förnyas varje år och som tillåter henne att bokstavligen “godkänna” förslag vars genomförande kan ligga i hundratusentals, till och med miljoner euro.

Hon berättar för mig att detta inte är den svåraste delen av hennes arbete, eftersom det bara formaliserar hennes egna beräkningar eller andras, och att det för detta ändamål inte är svårt att kontrollera externa arbeten.

I princip – som ofta är fallet när man utnämner VD:ar – tillhandahåller denna stämpel (det är bokstavligen en stämpel) i huvudsak intressenter med en ansvarig part att hålla ansvarig om saker går fel. Genom att säkerställa ansvarighet underlättar den också försäkringstäckning och investerarforentro, som inte skulle vara möjligt utan sådana garanti.

Det är andra gången i mitt liv som jag har sett denna process i direkt aktion; för 25 år sedan var jag förlovad med en onkolog i en annan notoriskt trög EU-byråkrati, Italien, och såg i vilken utsträckning hennes expertsignatur var den sista etappen i en kedja av förtroende som många andra utöver henne själv måste bidra till sin expertis.

Jag hörde från både min före detta fästmö under den perioden och mer nyligen min fru att deras yrken var/är fulla av kvalificerade bedragare som säljer sin stämpel och undviker mer original eller användbart arbete som mindre lönsamt. Sådana cyniska praktiker kan ta höga summor eftersom de representerar relativt sällsynta och väsentliga resurser.

Kolla in

Detta ämne kom till minnet när jag snubblade över en ny och omfattande artikel idag, med titeln Några enkla ekonomiska aspekter av AGI. I den beskriver tre forskare från MIT, Washington University i St. Louis och UCLA en nära framtid där den skrämmande, jobbförstörande drivkraften mot AI-driven automatisering kolliderar med behovet av riktiga världens ansvariga parter i högriskscenarier – och därmed leder till en ny ekonomi av mänsklig verifikation, ratificering och ansvar*.

Artikeln kontrasterar med mediernas nuvarande föreställning om avskalade affärssektorer med omfattande kontor reducerade till en-persons “övervakare”, vars beslut används som träningsdata för att (hoppas) avfyra även denna sista rest av “kött och blod”^†.

Författarna tror istället att praktiska överväganden och regelefterlevnadskrav kommer att fokusera enorm uppmärksamhet på de “gummistämplande” människor som stillar ett företags (AI/mänskliga/AI-assisterade) juridiska avdelning:

‘För företag är den centrala strategiska insikten att verifikation inte längre är en ren efterlevnadsfunktion, utan en primär produktions-teknologi – och alltmer, deras mest försvarbara. Detta dikterar en strukturell förändring: att investera kraftigt i observerbarhet, expandera verifikationsgraden av sanning och omorganisera runt en “sandwich”-topologi (mänskligt syfte → maskinell exekvering → mänsklig verifikation och underwriting). ‘

‘I en ekonomi där råutdata är kommodifierad, migrerar den konkurrenskraftiga fördelen till den sällsynta talangen och data som kan tillförlitligt styra och certifiera agenter – genererar nätverkseffekter inte i ren utdata, utan i tillförlitliga resultat.’

Författarna hypotetiserar att den avgörande begränsningen för tillväxt kanske inte är intelligens – som AI nu har “kopplat loss från biologi” – utan verifikationsbandbredden.

Värdet skiftar mot mänsklig verifikation

Artikeln beskriver rörelsen mot AGI som en växande divergens mellan kostnaden för att producera maskinutdata och kostnaden för att kontrollera utdata – den senare förblir knuten till ändlig mänsklig tid och livserfarenhet.

Att generera planer, rapporter, design och rekommendationer skulle i detta scenario bli billigt och rikligt, medan att bestämma vilka av dem som är sunda, samstämmiga och säkra nog att agera på skulle bli den “sällsynta funktionen”. Den effektiva gränsen för distribution skulle därför inte vara hur mycket utdata system kan producera, utan hur mycket av den utdatan kan verifieras trovärdigt.

Således, istället för att belöna alltmer specialiserad kompetens i mätbara uppgifter, kommer systemet, enligt författarna, att börja belöna mätbarheten i sig: arbete som kan parametreras kommer att driva mot kommodifiering när dess exekveringskostnad närmar sig den marginella kostnaden för beräkning, med värde som ackumuleras istället i högkvalitativ sanning, tillförlitliga revisionsledningar och institutionella mekanismer för att tilldela och absorbera ansvar.

Därför, i en verifikationsekonomi, skulle fördelen ligga mindre i att producera innehåll och mer i att certifiera resultat och underwrite risken som är knuten till dem.

Om automatisering fortsätter att accelerera medan verifikation förblir begränsad av mänsklig tid och uppmärksamhet, förutspår artikeln att en hålighetsekonomi skulle uppstå, där, när kostnaden för att automatisera arbete sjunker, allt fler agenter skulle distribueras eftersom det är ekonomiskt rationellt att göra det – trots att förmågan att ordentligt kontrollera deras utdata inte skulle växa i samma takt. I det scenariot skulle andelen arbete som är genuint verifierat minska, med alla de negativa konsekvenser som det medför.

I motsats till detta skulle en utvidgad ekonomi säkerställa att verifikationskapaciteten skulle expandera i takt med automatisering. Detta skulle innebära en medveten investering i strukturerad utbildning för att bevara expertis, samt nya ansvarsramar som kan absorbera risk. Distribution skulle då vara knuten till vad som faktiskt kan kontrolleras och försäkras – effektivt, en mycket gammal flaskhals som bringas i centrum av en utan motstycke teknisk utveckling:

‘I tekniksektorn kommer den dominerande intäktsmodellen att skifta från att monetisera programvarutillgång (Software-as-a-Service) till att monetisera resultat (”Software-as-Labor”). Följaktligen kommer företag att värderas primärt efter sin förmåga att absorbera svansrisk genom Ansvarsförsäkring.

‘Exekvering är nu oändligt skalbar; den juridiska och finansiella kapaciteten att absorbera dess oundvikliga misslyckanden är den nya flaskhalsen.’

Avtagande avkastning

Faktum är att bevarandet av domänexpertis hos människor är avgörande för problemet, eftersom en kultur av industrialiserad tillsyn, enligt författarna, skulle riskera att över tiden försämra kvaliteten på dem som utför tillsynen – eftersom efterföljande generationer av tillsyningsmän inte längre skulle besitta direkt och levande erfarenhet av de domäner som kräver verifikation.

Det kan hävdas att kvaliteten på tillsynen då verkligen skulle vara mottaglig för automatisering, eftersom nya beslut skulle formas enbart på basis av tidigare beslut. Men det skulle lämna intressenter utan en sparkbar rumpa, eller en livskraftig affärsmodell. Det skulle också göra en sådan roll så volatil och riskfylld att den skulle bli oattraktiv, även i en klimat av låg sysselsättning.

Inneslutning av auktoriserade proffs som läkare och arkitekter i en välbetald men högt belastad “gummistämplande” position är sannolikt att urholka deras värde i en sådan roll över tiden: ju längre deras faktiska fält erfarenhet avlägsnas i det förflutna, desto mer “teoretiska” deras beslut kunde bli, när deras övergivna domän fortsätter att utvecklas i deras frånvaro.

(Detta är bekant även i företagskultur före AI, i form av kvalificerad personal som går vidare till ledning och blir alltmer avskuren från nya utveckling, och så småningom undergräver sin egen värde som tillsyningsmän och organisatörer. Det är också bekant för Star Trek: TNG fans, i form av Pakleds – en ras som använder avancerad teknik omfattande, men som inte längre vet hur man skapar eller repar den.)

Ingångsnivåexekvering har historiskt sett tjänat som träningsgrunden för framtida experter; men om automatisering eliminerar de rutinmässiga uppgifterna genom vilka omdöme odlas, kommer den framtida tillgången på kapabla verifikatorer att minska, föreslår författarna.

Således förutspår artikeln en paradox: ju mer kraftfulla agenter blir, desto mer kommer samhället att bero av en lager av mänsklig expertis som dessa system kan urholka.

Och låt oss komma ihåg att detta inte är på något sätt ett tekniskt problem, eller mottagligt för en teknisk lösning. På många sätt antyder detta syndrom den logistiska motsvarigheten till AI-modellkollaps – förutom att vi här överväger undergrunden av en ekonomisk modell.

‘Från ett policy perspektiv är den centrala utmaningen en djup strukturell asymmetri: vinsterna från AI-distribution är aggressivt privatiserade, medan de systemiska riskerna är socialiserade. Företag och individer fångar upp-sidan av automatisering medan de externaliserar katastrofala svansrisker.

‘Utan gemensam verifikationsinfrastruktur och rigorös ansvarsprissättning kommer marknaden att rationellt driva mot en Hålighetsekonomi – en jämvikt som kännetecknas av explosiv mätbar aktivitet, men i grunden urholkad mänsklig kontroll.’

Slutsats: En annan kris

Författarna definierar den förutspådda krisen som en mätbarhetsgap, där kvantifierbara processer kan automatiseras bort från all mänsklig bidrag, och lämna n-hårda eller n-legala processer som fortfarande kräver mänsklig expertis.

Men min frus erfarenhet antyder att komplexiteten eller svårigheten i en process inte nödvändigtvis är relaterad till behovet av ansvarighet i den processen; många av de saker som hon “godkänner” representerar triviala problem eller beräkningar i sig, men är konsekvenser i brottet. Och ju mer känslosam affärskultur blir, desto mer kommer underwriters och investerare att kräva mänsklig ansvarighet över en bredare omfattning av processer.

Således, att gå över till verifikationsekonomin kunde orsaka en annan kris än den som för närvarande genererar rubriker. Problemet i ett sådant fall skulle inte vara om AI kan producera mer, utan om institutioner kan verifiera tillräckligt av vad som produceras för att översätta maskinintelligens till varaktigt värde.

Eftersom maskinintelligens snart kan skalas utan motstycke, och tillgången på fall-specifik mänsklig tid inte kan hålla jämna steg med den takten, verkar de frågor som diskuteras i det nya arbetet sannolikt att dyka upp mycket snabbt – även om de kan vara initialt överröstade av de bredare ekonomiska konsekvenserna av AI-antagande.

* Artikeln är för lång för att bryta ner på vanligt sätt, och i alla fall strukturerat olämplig för den typen av analys. Därför bestämde jag mig för att kommentera den och överväga dess betydelse istället, och hänvisa läsaren till källarbetet så att de kan göra detsamma.

^† /s

Publicerad första gången onsdag, 25 februari 2026