Siirtymässä vahvistus talouteen

Tarkistamalla tekoälyn työtä voi tulla merkittävä sektori uudessa koneoppimisen taloudessa; yksi, joka on skaalattava merkittävästi, ja jota ei voida automatisoida. Mutta vuosien varrella ihmisten “asiantuntijoiden” laatu heikkenee todennäköisesti.

Mielipide. Vaimoni on arkkitehti yhdessä Euroopan ruuhkaisimmista ja intensiivisimmistä byrokratioista. Merkittävä osa hänen koulutuksensa arvosta on oikeuden hankkimisessa ja ylläpitämisessä allekirjoittamisoikeudelle – kalliille tutkinnolle, joka on uusittava joka vuosi, ja joka sallii hänelle kirjaimellisesti “hyväksyä” ehdotuksia, joiden toteutus voi olla satoja tuhansia, jopa miljoonia euroja.

Hän kertoo minulle, että tämä ei ole vaikein osa hänen työstään, koska se vain muodollistaa hänen omat laskelmansa tai muiden laskelmat, ja että tätä tarkoitusta varten ulkoinen työ ei yleensä ole vaikea tarkistaa.

Itse asiassa – kuten usein myös tapahtuu, kun nimetään toimitusjohtajia – tämä leima (se on kirjaimellisesti leima) tarjoaa ensisijaisesti sidosryhmille mahdollisuuden “potkaista” joku, jos asiat menevät pieleen. Samalla se takaa vakuutuksen ja sijoittajien luottamuksen, joita ei voida saavuttaa ilman tällaisia takuita.

Tämä on toinen kerta elämässäni, jolloin olen nähnyt tämän prosessin suoraan toiminnassa; 25 vuotta sitten olin kihloissa onkologin kanssa toisessa mainiosta EU-byrokratiassa, Italiassa, ja näin, kuinka laaja hänen asiantuntija allekirjoituksensa oli viimeinen vaihe luottamusketjussa, johon moni muu kuin hän itse oli osallistunut asiantuntemuksensa.

Kuulin sekä entiseltä kihlatultani tuona aikana että myös vaimoltani, että heidän ammattinsa olivat/tulevat olemaan täynnä päteviä huijareita, jotka myyvät leimansa ja välttävät alkuperäisempää tai hyödyllisempää työtä vähemmän tuottavana. Tällaiset kyyniset harjoittajat voivat periä suuria summia, koska he edustavat suhteellisen harvinaisia ja välttämättömiä resursseja.

Tarkistus

Tämä aihe tuli mieleeni, kun törmäsin uuteen ja laajaan tutkimukseen tänään, jonka otsikko on Joitain yksinkertaisia taloudellisia näkökohtia AGI:sta. Siinä kolme tutkijaa MIT:stä, Washingtonin yliopistosta St. Louisissa ja UCLA:sta kuvaavat lähitulevaisuuden, jossa pelottava, työpaikkoja tuhoava automaatio kohtaa tarpeen oikeasti “potkittavissa” takamuksissa korkean panoksen tilanteissa – josta johtuen syntyy uusi talous, jossa ihmisten vahvistus, vahvistaminen ja vastuu* ovat keskiössä.

Tutkimus eroaa median nykyisestä kuvauksesta, jossa laajat toimistot supistuvat yksittäisen “valvojan” toimistoksi, jonka päätökset käytetään koulutusdatana, jotta voidaan “polttaa” viimeinen “liha”-palanen^†.

Sen sijaan tutkijat uskovat, että käytännön seikat ja vaatimukset kiinnittävät valtavan huomion “ihmisiin, jotka antavat leimansa”, jotka tyydyttävät yhtiön (tekoäly/ihmisen/tekoälyavusteisen) oikeudellisen osaston:

‘Yrityksille keskeinen strateginen oivallus on, että vahvistus ei ole enää pelkästään noudattamisfunktio, vaan ensisijainen tuotantoteknologia – ja yhä enemmän heidän puolustettavissa oleva. Tämä edellyttää rakenteellista muutosta: panostaminen havainnollistamiseen, laajentaminen vahvistusluokan perustodellisuuden ja järjestäytyminen “sandwich”-topologiaan (ihmisen tarkoitus → koneen suoritus → ihmisen vahvistus ja vakuuttaminen).

‘Taloudessa, jossa raaka tuotanto on kommodisoitunut, kilpailuetu siirtyy harvoihin ja arvokkaisiin taitoihin ja tietoihin, jotka pystyvät luotettavasti ohjaamaan ja sertifioimaan agenteja – luo verkkovaikutuksia ei pelkästään tuotannon määrässä, vaan luotettavissa tuloksissa.’

Tutkijat olettavat, että kasvun määräävä rajoite ei ole älykkyys – josta tekoäly on jo “erotettu biologiasta” – vaan vahvistuskaista.

Arvon siirtyminen ihmisen vahvistukseen

Tutkimus kuvaa siirtymistä AGI:hin laajenevaksi eroaksi koneen tuotannon kustannuksen ja sen tarkistamisen kustannuksen välillä – jälkimmäinen, joka on edelleen sidottu äärelliseen ihmisen aikaan ja kokemukseen.

Suunnitelmien, raporttien, suunnitelmien ja suositusten tuottaminen tulisi tässä skenaariossa halvaksi ja runsaaksi, kun taas määrätä, mitkä niistä ovat kelvollisia, kohdennettuja ja tarpeeksi turvallisia toimia, tulisi “harvaksi toiminnoksi”. Tehokas rajoitus käyttöönotolle olisi siis ei se, kuinka paljon järjestelmät voivat tuottaa, vaan kuinka paljon tuotosta voidaan uskottavasti vahvistaa.

Näin ollen, sijaitsijoiden sijasta, järjestelmä alkaisi palkita mittauskykyä: työ, joka voidaan parametroida, siirtyy kohti kommodisointia, kun sen suorituskustannus lähestyy laskennan marginaalikustannusta, ja arvo kertyy sen sijaan laadukkaaseen perustodellisuuteen, luotettaviin tarkastuspolkuihin ja institutionaalisiin mekanismeihin, joilla määritetään ja otetaan vastuu.

Siis, vahvistustaloudessa etu olisi vähemmän sisällön tuottamisessa ja enemmän tulosten sertifioinnissa ja niiden liittyvien riskien vakuuttamisessa.

Jos automaatio jatkuu kiihtyvällä tahdilla, mutta vahvistus jää rajoitettuun ihmisen aikaan ja huomioon, tutkimus ennustaa, että ontuva talous syntyisi, jossa, kun automaation kustannus laskee, yhä useammat agentit otetaan käyttöön, koska se on taloudellisesti järkevää – vaikka kyky tarkistaa heidän tuotoksensa ei kasva samalla tahdilla. Tässä skenaariossa todella tarkistetun työn osuus supenisisi, ja seurauksena olisi kaikki negatiiviset seuraukset, jotka siihen liittyvät.

Toisaalta laajentunut talous takaisi, että vahvistuskyky laajenee automaation mukana. Tämä vaatisi tietoista panostusta rakenteelliseen koulutukseen, jotta osaaminen säilytetään, sekä uusia vastuukehyksiä, jotka voivat ottaa riskin. Käyttöönotto olisi silloin sidottu siihen, mitä voidaan todella tarkistaa ja vakuuttaa – käytännössä vanha pullonkaula, jota ei voida ohittaa.

‘Teknologiasektorilla hallitseva liikevaihtomalli siirtyy ohjelmistopalvelun rahoittamisesta (“Ohjelmisto-palveluna”) tulosten rahoittamiseen (“Ohjelmisto-työnä”). Yritykset arvioidaan ensisijaisesti heidän kyvystään ottaa vastuu hännänriskeistä Vastuuna-palveluna.

‘Suoritus on nyt äärettömän skaalautuva; oikeudellinen ja taloudellinen kyky ottaa vastuu epäonnistumisista on uusi pullonkaula.’

Vähenevät palautteet

Itse asiassa alan asiantuntemuksen säilyttäminen ihmisissä on kriittistä ongelmaa, koska teollisen valvonnan kulttuuri, tutkijoiden mukaan, riskittäisi ajan myötä heikentää niiden, joilla suoritetaan valvonta, laatu – koska seuraavat valvojien sukupolvet eivät enää omista suoraan ja kokemusperäistä tietoa alueista, joita vaaditaan vahvistusta.

Väittäen, että tarkastusprosessin monimutkaisuus tai vaikeus ei välttämättä liity tarpeeseen vastuussa kyseisessä prosessissa; monet niistä asioista, joita vaimoni “hyväksyy”, edustavat itsessään triviaaleja ongelmia tai laskelmia, mutta ovat seurauksia virheistä. Ja mitä enemmän oikeudellinen liiketoimintakulttuuri lisääntyy, sitä enemmän vakuuttajat ja sijoittajat vaativat ihmisten vastuuta laajemmasta prosessien kirjosta.

Niinpä siirtymässä vahvistustalouteen voi aiheuttaa erilaisen kriisin kuin se, joka on tällä hetkellä otsikoissa. Ongelmana olisi silloin ei se, voivatko tekoälyjärjestelmät tuottaa enemmän, vaan voivatko instituutiot vahvistaa tarpeeksi tuotosta, jotta koneäly voidaan muuttaa kestäväksi arvoksi.

Koska koneäly voi skaalata ennennäkemättömällä tavalla, ja “tapauskohtaisen” ihmisen ajan saatavuus ei pysty seuraamaan sitä vauhtia, tutkimuksessa esitetyt ongelmat tulevat todennäköisesti esiin hyvin nopeasti – vaikka ne saattavat aluksi hävitä laajempien taloudellisten seurausten alle tekoälyn omaksumisesta.

* Tutkimus on liian pitkä jaksoittaa tavallisella tavalla, ja se ei sovellu sellaiselle analyysille. Päätin siis kommentoida sitä ja tarkastella sen merkitystä, ja viitata lukijaa alkuperäisteokseen, jotta he voivat tehdä samoin.

^† /s

Julkaistu ensimmäisen kerran keskiviikkona, 25. helmikuuta 2026