Siirtymässä vahvistus talouteen

AI:n työn tarkistaminen voi tulla merkittäväksi sektoriksi uudessa koneoppimistaloudessa; yksi, joka on skaalattava merkittävästi, ja jota ei voida automatisoida. Mutta vuosien kuluttua ihmisten “asiantuntijoiden” laatu on todennäköisesti heikentynyt.

Mielipide. Vaimoni on arkkitehti yhdessä Euroopan ruuhkaisimmista ja intensiivisimmistä byrokratioista. Merkittävä osa hänen koulutuksensa arvosta on oikeuden hankkimisessa ja ylläpitämisessä allekirjoitusoikeudessa – kallis valtakirja, joka on uusittava joka vuosi, ja joka sallii hänelle kirjaimellisesti “hyväksyä” ehdotuksia, joiden toteutus voi olla satoja tuhansia, jopa miljoonia euroja.

Hän kertoo minulle, että tämä ei ole vaikein osa työstään, koska se vain muodollistaa hänen omia laskelmiaan tai muiden, ja että tätä tarkoitusta varten ulkoinen työ ei yleensä ole vaikea tarkistaa.

Olennaisesti – kuten usein myös tapahtuu, kun nimitetään toimitusjohtajia – tämä leima (se on kirjaimellisesti leima) tarjoaa pääasiassa sidosryhmille mahdollisuuden “potkaista” jalka, jos asiat menevät pieleen. Samalla se tarjoaa vakuutuskuvernöörien ja sijoittajien luottamuksen, jota ei voida saavuttaa ilman tällaisia takuita.

Se on toinen kerta elämässäni, jolloin olen nähnyt tämän prosessin suoraan toiminnassa; 25 vuotta sitten olin kihloissa onkologin kanssa toisessa mainiosta EU-byrokratiassa, Italiassa, ja näin, kuinka hänen asiantuntija allekirjoituksensa oli viimeinen vaihe luottamusketjussa, johon useat muut kuin hän itse olivat osallistuneet asiantuntemuksensa.

Kuulin sekä entiseltä kihlattuni, tuona aikana, että heidän ammattinsa oli/tuli rikastumaan pätevistä huijareista, jotka myivät leimansa ja välttivät alkuperäisempiä tai hyödyllisempiä töitä vähemmän voitollisina. Tällaiset kyyniset harjoittajat voivat periä suuria summia, koska he edustavat suhteellisen harvinaisia ja välttämättömiä resursseja.

Tarkista

Tämä aihe tuli mieleeni, kun törmäsin uuteen ja laajaan tutkimukseen tänään, jonka otsikko on Jotkut yksinkertaiset taloudelliset seikat AGI:sta. Siinä kolme tutkijaa MIT:stä, Washingtonin yliopistosta St. Louisissa ja UCLA:sta kuvaavat lähitulevaisuuden, jossa pelottava, työpaikkoja tuhoava automaatioimpulssi törmää tarpeeseen oikeasti “potkittaviin” takamuksiin korkean panoksen tilanteissa – johtaen uuteen talouteen, jossa ihmisten vahvistus, vahvistaminen ja vastuu ovat keskiössä*.

Tutkimus eroaa median nykyisestä kuvauksesta, jossa laajat liiketoimintasektorit supistuvat yhden henkilön “valvojiksi”, joiden päätökset käytetään koulutusdatana (toivottavasti) paloittamaan viimeinenkin lihaa.

Sen sijaan tutkijat uskovat, että käytännön seikat ja vaatimukset kiinnittävät valtavan huomion “gummitarra”-ihmisiin, jotka rauhoittavat yrityksen (AI/ihmisen/ai-avusteisen) oikeudellisen osaston:

‘Yrityksille keskeinen strateginen oivallus on, että vahvistus ei ole enää pelkästään noudattamisfunktio, vaan ensisijainen tuotantoteknologia – ja yhä enenevissä tapauksissa heidän puolustettavissa oleva kilpailukykynsä. Tämä edellyttää rakenteellista muutosta: panostusta havainnollistamiseen, laajentamiseen vahvistusluokan perustodellisuuteen ja järjestäytymiseen “sandwich”-topologiaan (ihmisen tarkoitus → koneen suoritus → ihmisen vahvistus ja vakuuttaminen).

‘Taloudessa, jossa raaka tuotanto on kommodisoitunut, kilpailuetu siirtyy harvoihin kykyihin ja tietoihin, jotka pystyvät luotettavasti ohjaamaan ja sertifioimaan agenteja – tuottamalla verkostovaikutuksia ei pelkästään tuotannon määrässä, vaan luotettavissa tuloksissa.’

Tutkijat olettavat, että kasvun määrittävä rajoitus ei ole älykkyys – jonka AI on nyt “irrottanut biologiasta” – vaan vahvistuskaista.

Arvon siirtyminen ihmisen vahvistukseen

Tutkimus kuvaa siirtymistä AGI:hin laajenevaksi eroaksi koneen tuotannon kustannuksen ja tuotannon tarkistamisen kustannuksen välillä – jälkimmäinen, joka on edelleen sidottu äärelliseen ihmisen aikaan ja kokemukseen.

Suunnitelmien, raporttien, suunnitelmien ja suositusten tuottaminen tulisi tällaisessa skenaariossa halvaksi ja runsaaksi, kun taas määrätä, kuka niistä on kelvollinen, kohdennettu ja turvallinen toiminta varten, tulisi “niukaksi toiminnoksi”. Tehokas rajoitus käyttöönotolle ei olisi siis se, kuinka paljon järjestelmät voivat tuottaa, vaan kuinka paljon tuotosta voidaan uskottavasti vahvistaa.

Näin ollen, sen sijaan, että palkitaan yhä erikoistuneempaa osaamista mitattavissa tehtävissä, järjestelmä, tutkijat ennustavat, alkaa palkita mitattavuutta itsessään: työ, joka voidaan parametroida, siirtyy kohti kommodisointia, kun sen suorittamiskustannus lähestyy laskennan marginaalikustannusta, ja arvo kertyy sen sijaan korkealaatuisessa perustodellisuudessa, luotettavissa auditinraa’assa ja institutionaalisissa mekanismeissa, joilla määritetään ja otetaan vastuu.

Siispä vahvistustaloudessa etu olisi vähemmän sisällön tuottamisessa ja enemmän tuloksien sertifioinnissa ja niiden liittyvien riskien vakuuttamisessa.

Jos automaatio jatkuu kiihtyvällä tahdilla, kun taas vahvistus jää rajoitettuun ihmisen aikaan ja huomioon, tutkimus ennustaa, että ontto talous syntyisi, jossa, kun automaation kustannus laskee, yhä useammat agentit otetaan käyttöön, koska se on taloudellisesti järkevää – vaikka kyky tarkistaa heidän tuotoksensa ei kasva samalla tahdilla. Tässä skenaariossa vahvistetun työn osuus supenisisi, ja siitä seuraisivat kaikki negatiiviset seuraukset.

Toisin sanoen laajentunut talous takaisi, että vahvistuskyky laajenee automaation mukana. Tämä edellyttäisi tietoista panostusta järjestäytyneeseen koulutukseen, jotta osaaminen säilytetään, sekä uusia vastuukehyksiä, jotka voivat ottaa riskin. Käyttöönotto olisi silloin sidottu siihen, mitä voidaan todella tarkistaa ja vakuuttaa – tehokkaasti, hyvin vanha pullonkaula, jota keskeneräinen teknologinen kehitys on tuonut keskiöön:

‘Teknologiasektorissa hallitseva liikevaihtomalli siirtyy ohjelmistopalvelun rahoittamisesta tulosten rahoittamiseen (“Ohjelmisto-työ”). Seurauksena yritykset arvioidaan ensisijaisesti heidän kyvystään ottaa vastuu hännänriskeistä Liability-as-a-Servicen kautta.

‘Suoritus on nyt äärettömän skaalautuva; oikeudellinen ja taloudellinen kyky ottaa vastuu sen väistämättömistä epäonnistumisista on uusi pullonkaula.’

Vähenevät palautteet

Todellakin, ihmisten osaamisen säilyttäminen on kriittinen ongelma, koska teollisen valvonnan kulttuuri, tutkijoiden mukaan, altistaa ajan myötä vahvistuksen laadun heikentymiselle – koska myöhemmät valvojien sukupolvet eivät enää omista suoraa ja kokemusperäistä tietoa alueista, joita vahvistus vaatii.

Voidaan väittää, että tuolloin vahvistuksen laatu olisi todella altis automaatioille, koska uudet päätökset muodostettaisiin pelkästään aiempien päätösten perusteella. Tämä kuitenkin jättäisi sidosryhmät ilman potkittavaa takamuksia tai toimivaa liiketoimintamallia. Se teki myös tällaisen roolin niin epävakaa ja riskialttiiksi, ettei se olisi houkutteleva, jopa matalan työllisyyden ilmapiirissä.

Erityisammattilaisten, kuten lääkärien ja arkkitehtien, eristäminen hyvin palkatuksi mutta raskaasti kuormitettuun “vahvistus”-rooliin on todennäköisesti heikentävä heidän arvoa tällaisessa roolissa ajan myötä: mitä kauemmin heidän todellinen kenttäkokemus on menneisyydessä, sitä “teoreettisemmaksi” heidän päätöksensä voivat tulla, kun heidän hylkäämänsä ala jatkaa kehittymistä heidän poissaollessaan.

(Tämä on tuttua jo ennen AI-liiketoimintakulttuuria, jossa taitavat työntekijät etenevät johtoon ja tulevat yhä enemmän irti uusista kehityksistä, mikä lopulta heikentää heidän arvoa valvojina ja järjestäjinä. Se on myös tuttua Star Trek: TNG faneille, jossa Pakledit – rotu, joka käyttää edistynyttä teknologiaa laajasti, mutta ei enää tiedä, miten luoda tai korjata sitä.)

Aloittelijoiden suoritus on historiallisesti toiminut tulevien asiantuntijoiden koulutusmaana; mutta jos automaatio poistaa rutininomaiset tehtävät, joissa tuomio kehittyy, tulevien vahvistajien tuleva tarjonta supenisisi, tutkijat ehdottavat.

Näin ollen tutkimus ennustaa paradoksin: mitä voimakkaampia agenteja tulee, sitä enemmän yhteiskunta riippuu ihmisen osaamisesta jonka nämä järjestelmät saattavat heikentää.

Ja muistetaan, että tämä ei millään tavoin ole tekninen ongelma, eikä se ole altis teknologiselle ratkaisulle. Monin tavoin tämä oireyhtymä muistuttaa logistista vastinetta AI-mallin romahduksesta – paitsi että tässä tapauksessa tarkastelemme taloudellisen mallin heikentymistä.

‘Politiikanteon kannalta keskeinen haaste on syvä rakenteellinen epäsymmetria: AI-käyttöönoton hyödyt yksityistetään aggressiivisesti, kun taas järjestelmälliset riskit sosiaalistetaan. Yritykset ja yksityishenkilöt saavat ylivoimaisen osuuden automaation hyödyistä, kun taas ulkoistetaan katastrofaaliset hännänriskit.

‘Ilman jaettua vahvistusinfrastruktuuria ja tiukkaa vastuun hintaa markkinat ajautuvat järkevästi kohti tyhjää taloutta – tasapainoa, jolle on ominaista räjähdysmäinen mitattava toiminta, mutta perustavanlaatuinen tyhjä ihmisen valvonta.’

Johtopäätös: Eri kriisi

Tutkijat määrittelevät ennustetun kriisin mitattavuuden aukoksi, jossa mitattavat prosessit voidaan automatisoida pois kaiken ihmisen osallistumisen, jättäen n-kovia tai n-oikeudellisia prosesseja, jotka edelleen vaativat ihmisen osaamista.

Kuitenkin vaimoni kokemus viittaa siihen, että prosessin monimutkaisuus tai vaikeus ei välttämättä liity vahvistuksen tarpeeseen prosessissa; monet niistä asioista, joita hän “hyväksyy”, edustavat itsessään triviaaleja ongelmia tai laskelmia, mutta ovat seurauksia rikkomisessa. Ja mitä enemmän liiketoimintakulttuuri muuttuu oikeudellisemmaksi, sitä enemmän vakuuttajat ja sijoittajat vaativat ihmisen vastuuta laajemmasta prosessivalikoimasta.

Niinpä siirtyminen vahvistustalouteen voi aiheuttaa toisenlaisen kriisin kuin se, joka on tällä hetkellä otsikoissa. Ongelma tuossa tapauksessa ei ole se, voivatko AI-järjestelmät tuottaa enemmän, vaan voivatko instituutiot vahvistaa tarpeeksi tuotettua, jotta koneäly voidaan muuttaa kestäväksi arvoksi.

Koska koneäly saattaa pian skaalautua ennennäkemättömällä tavalla, ja “soveltuvan” ihmisen ajan saatavuus ei voi pysyä samassa tahdissa, tutkimuksessa mainitut ongelmat tulevat todennäköisesti esiin nopeasti – vaikka ne saattavat aluksi hävitä laajempien taloudellisten seurausten aiheuttamassa melussa.

* Tutkimus on liian pitkä voidakseen sitä tavallisella tavalla jakaa, ja se on joka tapauksessa rakenteellisesti soveltumaton tällaiselle analyysille. Päätin siis kommentoida sitä ja tarkastella sen merkitystä ja viitata lukijaa alkuperäisteokseen, jotta he voivat tehdä samoin.

^† /s

Julkaistu ensimmäisen kerran keskiviikkona 25. helmikuuta 2026