Overgang til verifiseringsøkonomien

Å sjekke AI-arbeid kan bli en betydelig sektor i den nye maskinlæringsøkonomien; en som må skaleres betraktelig, og som ikke kan automatiseres. Men etterhvert som årene går, er det sannsynlig at kvaliteten på menneskelige “eksperter” vil forringes.

Mening. Min kone er arkitekt i en av de mest logjammete og intense byråkratier i Europa. En betydelig del av verdien av hennes utdanning ligger i å oppnå og vedlikeholde hennes rett til signatur – en dyrekjøpt kvalifikasjon som må fornyes hver år, og som tillater henne å bokstavelig talt “godkjenne” forslag hvis implementering kan være på hundredtusener, ja til og med millioner av euro.

Hun forteller meg at dette ikke er den hardeste delen av hennes arbeid, siden det bare formaliserer hennes egne beregninger, eller andres, og at for dette formålet er eksternt arbeid vanligvis ikke vanskelig å sjekke.

Essensielt – som ofte er tilfelle når man utnevner CEO-er – denne stempelen (det er bokstavelig talt en stempel) gir hovedsakelig interessenter en “bakende” å sparke til hvis ting går galt. Ved å sikre ansvar, muliggjør det også forsikringsdekning og investor-tillit, som ikke ville være oppnåelig uten slike garanti.

Dette er andre gang i mitt liv jeg har sett denne prosessen i virksomhet; 25 år siden var jeg forlovet med en onkolog i en annen notorisk treg EU-byråkrati, Italia, og så omfanget av hvor mye hennes ekspertsignatur var den siste fasen i en kjede av tillit som mange andre enn henne selv måtte bidra til med sin ekspertise.

Jeg hørte fra både min eks-førlovede, på den tiden, og mer nylig min kone, at deres fag var/er infisert med kvalifiserte svindlere som solgte sin stempel og unngikk mer originale eller nyttige arbeid som mindre lønnsomt. Slike kyniske praktikere kan belaste høye summer fordi de representerer relativt sjeldne og essensielle ressurser.

Sjekk det ut

Dette tema kom til minne da jeg stolte på en ny og spredt artikkel i dag, med tittelen Noen enkle økonomiske aspekter ved AGI. I den beskriver tre forskere fra MIT, Washington University i St. Louis og UCLA en nær fremtid hvor den skremmende, jobbødeleggende impulsen mot AI-drevet automatisering kolliderer med behovet for virkelige “bakender” å sparke til i høyrisikoscenarier – og dermed leder til en ny økonomi av menneskelig verifisering, godkjenning og ansvar*.

Artikkelen kontrasterer med mediets nåværende forestilling om avskalade forretningssektorer med omfattende kontorer redusert ned til enkeltmanns “overvåkere”, hvis beslutninger brukes som treningdata for (håper) å fyre selv denne siste “kjøtt- og blod”-resten^†.

I stedet mener forfatterne at praktiske hensyn og overholdelseskrav vil fokusere enorm oppmerksomhet på de “gummistemplede” menneskene som beroliger et selskaps (AI/menneskelig/AI-basert) juridiske avdeling:

‘For selskaper er den sentrale strategiske innsikten at verifisering ikke lenger er en ren overholdelsesfunksjon, men en primær produksjonsteknologi – og stadig mer, deres mest forsvarbare en. Dette dikterer en strukturell endring: investering i observasjon, utvidelse av verifiseringsgradert grunnvirkelighet og reorganisering rundt en “sandwich”-topologi (menneskelig intensjon → maskinell gjennomføring → menneskelig verifisering og underwriting).

‘I en økonomi hvor råutgang er kommodifisert, migrerer konkurransefordelen til den sjeldne talangen og dataen som er i stand til å pålitelig styre og sertifisere agente systemer – genererer nettverkseffekter ikke i ren utgang, men i pålitelige resultater.’

Forfatterne hypotetiserer at den avgjørende begrensningen for vekst kan være verifiseringsbredde.

Verdi flytter mot menneskelig verifisering

Artikkelen beskriver bevegelsen mot AGI som en økende divergens mellom kostnaden av å produsere maskinutgang og kostnaden av å sjekke denne utgangen – den siste av disse er fremdeles knyttet til endelig menneskelig tid og erfaring.

Å generere planer, rapporter, design og anbefalinger ville i denne scenariet bli billig og overflodig, mens å bestemme hvilke av disse som er solide, justert og trygg nok til å handle på ville bli den “sjeldne funksjonen”. Den effektive grensen for utrulling ville derfor ikke være hvor mye utgang systemer kan produsere, men hvor mye av denne utgangen kan bli pålitelig verifisert.

Så, i stedet for å belønne stadig mer spesialisert ferdighet i målbare oppgaver, vil systemet, ifølge forfatterne, begynne å belønne målbarehet selv: arbeid som kan parametreres vil gli mot kommodifisering ettersom gjennomføringskostnaden nærmer seg den marginale kostnaden for beregning, med verdi som akkumuleres i stedet i høykvalitets grunnvirkelighet, pålitelige revisjonslogger og institusjonelle mekanismer for å tildele og absorbere ansvar.

Derfor, i en verifiseringsøkonomi, ville fordelen ligge mindre i å produsere innhold, og mer i å sertifisere resultater og underwrite risikoene som er knyttet til dem.

Hvis automatisering fortsetter å akselerere mens verifisering forblir begrenset av menneskelig tid og oppmerksomhet, forutsier artikkelen at en Hul økonomi ville oppstå, hvor, som kostnaden av å automatisere arbeid faller, stadig flere agenter ville bli utrullet fordi det har økonomisk mening å gjøre det – selv om evnen til å ordentlig sjekke deres utgang ikke ville vokse i samme takt. I den scenariet ville andelen av arbeid som er genuint verifisert krympe, med alle de negative konsekvenser det medfører.

Omvendt ville en Forbedret økonomi sikre at verifiseringskapasiteten ville utvides i takt med automatisering. Dette ville innebære en bevisst investering i strukturert opplæring for å bevare ekspertise, samt nye ansvarlige rammer som kan absorbere risiko. Utrolling ville da bli knyttet til hva som faktisk kan bli sjekket og forsikret – effektivt, en meget gammel flaskehals som blir satt i sentrum av en utenkelig skala av teknologisk utvikling:

‘I teknologisektoren vil den dominante inntektsmodellen skifte fra å moneterisere programvaretilgang (Software-as-a-Service) til å moneterisere resultater (“Software-as-Labor”). Derfor vil selskaper i hovedsak bli verdsatt ut fra deres evne til å absorbere hale-risiko gjennom Ansvar-as-a-Service.

‘Gjennomføring er nå uendelig skalerbar; den juridiske og finansielle kapasiteten til å absorbere dens uunngåelige feil er den nye flaskehalsen.’

Avmindrende avkastning

Forfatterne hevder at bevaring av domene-ekspertise hos mennesker er kritisk for problemet, siden en kultur av industrialisert tilsyn, ifølge forfatterne, ville risikere over tid å forringe kvaliteten på de som utfører tilsynet – fordi påfølgende generasjoner av tilsynshavere ikke lenger ville besitte direkte og levende erfaring av de domener som krever verifisering.

Det kan hevdes at på det stadium ville kvaliteten på tilsynet faktisk være utsatt for automatisering, siden nye beslutninger ville bli dannet utelukkende på grunnlag av tidligere beslutninger. Men det ville etterlate interessenter uten en “sparbar” bakende, eller en livskraftig forretningsmodell. Det ville også gjøre en slik rolle så volatil og risikofylt som å være uattraktiv, selv i en klima med lav sysselsetting.

Å isolere kvalifiserte fagfolk som leger og arkitekter i en godt betalt, men tungt belastet “gummistemplede” stilling, er sannsynligvis å underminere deres verdi i en slik rolle over tid: jo lenger deres faktiske fag-erfaring trekker seg tilbake i fortiden, jo mer “teoretiske” deres beslutninger kunne bli, ettersom deres forlatt fagfelt fortsetter å utvikle seg i deres fravær.

(Dette er kjent også i for-ai-bedriftskultur, i form av dyktige ansatte som går over i ledelse og blir stadig mer ut av kontakt med nye utviklinger, til slutt undergraver deres verdi som tilsynshavere og organisatorer. Det er også kjent for Star Trek: TNG fans, i form av Pakleds – en rase som bruker avansert teknologi omfattende, men som ikke lenger vet hvordan de skal skape eller fikse den.)

Inngangsutførelse har historisk tjent som treningsskolen for fremtidige eksperter; men hvis automatisering eliminerer de rutinemessige oppgavene gjennom hvilke dømmekraft utvikles, vil fremtidens forsyning av dyktige verifiserere krympe, ifølge forfatterne.

Så artikkelen varsler en paradoks: jo mer kraftfulle agente systemer blir, desto mer vil samfunnet avhenge av en lager av menneskelig ekspertise som disse systemene selv kan underminere.

Og la oss huske at dette ikke er på noen måte et teknisk problem, eller et problem som kan løses med teknologi. På mange måter antyder dette syndromet den logistiske ekvivalenten til AI-modell-kollaps – bortsett fra at vi her betrakter undergravingen av en økonomisk modell.

‘Fra en politisk synsvinkel er den sentrale utfordringen en dyp strukturell asymmetri: gevinstene av AI-utrulling er aggressivt privatisert, mens de systemiske risikoene er sosialisert. Selskaper og enkeltpersoner kaprer gevinsten av automatisering mens de eksterne katastrofale hale-risikoene externaliseres.

‘Uten felles verifiserings-infrastruktur og streng ansvarlig pris, vil markedet rasjonelt gli mot en Hul økonomi – en likevekt karakterisert av eksplosiv målt aktivitet, men fundamentalt hul-løs menneskelig kontroll.’

Konklusjon: En annen krise

Forfatterne definerer den forutsagte krisen som en målbart gap, hvor kvantifiserbare prosesser kan automatiseres bort fra all menneskelig bidrag, og etterlater n-harde eller n-juridiske prosesser som fremdeles krever menneskelig ekspertise.

Imidlertid antyder min kones erfaring at kompleksiteten eller vanskelighetsgraden av en prosess ikke nødvendigvis er relatert til behovet for ansvar i den prosessen; mange av de tingene hun “godkjenner” representerer trivielle problemer eller beregninger i seg selv, men er konsekvenser i brudd. Og jo mer rettslig orientert bedriftskulturen blir, desto mer vil forsikringsgivere og investorer kreve menneskelig ansvar over en bredere rekke prosesser.

Så overgangen til verifiseringsøkonomien kunne forårsake en annen krise enn den som for tiden er i overskriftene. Problemet i en slik sak ville ikke være om AI kan produsere mer, men om institusjoner kan verifisere nok av hva som produseres for å omgjøre maskinintelligens til varig verdi.

Ettersom maskinintelligens kan skaleres uten presedens, og tilgjengeligheten av sak-tilpassbar menneskelig tid ikke kan holde tritt med den takten, synes problemene som er omtalt i det nye arbeidet å være sannsynlig å dukke opp svært raskt – selv om de kan være initialt overdøvet av de videre økonomiske implikasjonene av AI-tilpasning.

* Artikkelen er for lang til å brytes ned på vanlig måte, og i alle fall strukturelt uegnet for en slik analyse. Derfor bestemte jeg meg for å kommentere den og vurdere dens betydning i stedet, og henviser leseren til kildearbeidet slik at de kan gjøre det samme.

^†  /s

Først publisert onsdag 25. februar 2026