Transizione verso l’economia della verifica

Verificare il lavoro dell’AI potrebbe diventare un settore significativo nella nuova economia dell’apprendimento automatico; un settore che dovrà necessariamente scalare notevolmente e che non potrà essere automatizzato. Tuttavia, con il passare degli anni, gli “esperti” umani saranno probabilmente di qualità inferiore.

Opinione. Mia moglie è un’architetta in una delle burocrazie più intasate e intense d’Europa. Una parte significativa del valore della sua formazione risiede nell’ottenimento e nel mantenimento del suo diritto di firma – una credenziale costosa che deve essere rinnovata ogni anno e che le consente di firmare letteralmente “via” proposte la cui attuazione potrebbe essere di centinaia di migliaia, se non milioni di euro.

Lei mi dice che non è la parte più difficile del suo lavoro, poiché si tratta solo di formalizzare i suoi calcoli o quelli di altri, e che per questo scopo, il lavoro esterno non è di solito difficile da verificare.

Essenzialmente – come spesso accade anche quando si nomina un amministratore delegato – questo timbro (è letteralmente un timbro) fornisce principalmente ai stakeholder un bersaglio da colpire se le cose vanno male. Assicurando la responsabilità, facilita anche la copertura assicurativa e la fiducia degli investitori, che non sarebbero ottenibili senza tali garanzie.

È la seconda volta nella mia vita che vedo questo processo in azione; 25 anni fa ero fidanzato con un oncologo in un’altra burocrazia notoriamente lenta dell’UE, l’Italia, e ho visto fino a che punto la sua firma di esperto fosse l’ultima fase di una catena di fiducia alla quale molti altri oltre a lei dovevano contribuire con la loro esperienza.

Ho sentito da entrambi la mia ex fidanzata, in quel periodo, e più recentemente mia moglie, che le loro professioni erano/sono piene di “esperti” qualificati che vendono il loro timbro e evitano lavori più originali o utili in quanto meno redditizi. Tali praticanti cinici possono addebitare somme elevate perché rappresentano risorse relativamente rare ed essenziali.

Controlla

Questo argomento mi è venuto in mente quando ho trovato un nuovo e vasto documento oggi, intitolato Alcune semplici economie dell’AGI. In esso, tre ricercatori che coprono MIT, Washington University in St. Louis e UCLA, descrivono un futuro prossimo in cui la spinta terrificante verso l’automazione guidata dall’AI, che distrugge i lavori, collide con la necessità di veri “culi” da calciare in scenari ad alto rischio – portando così a una nuova economia di verifica umana, ratifica e responsabilità*.

Il documento si contrappone all’immaginario attuale dei media di settori aziendali con uffici estesi ridotti a un solo “sorvegliante”, le cui decisioni vengono utilizzate come dati di training per (sperabilmente) licenziare anche questo ultimo brandello di “carne” ^†.

Invece, gli autori ritengono che considerazioni pratiche e requisiti di conformità attireranno un’attenzione enorme sugli esseri umani “di gomma” che placano il dipartimento legale di un’azienda (AI/umano/aiutato da AI):

‘Per le aziende, l’intuizione strategica fondamentale è che la verifica non è più una semplice funzione di conformità, ma una tecnologia di produzione primaria – e sempre più, la loro più difendibile. Ciò impone un cambiamento strutturale: investire pesantemente nell’osservabilità, espandere la verità fondamentale di verifica di grado e riorganizzarsi intorno a una topologia “a sandwich” (intento umano → esecuzione della macchina → verifica umana e sottoscrizione). ‘

‘In un’economia in cui la produzione grezza è commodity, il vantaggio competitivo migra verso il talento e i dati rari in grado di guidare e certificare in modo affidabile i sistemi agente – generando effetti di rete non nella produzione lorda, ma nei risultati affidabili.’

Gli autori ipotizzano che il vincolo di crescita definitivo potrebbe non essere l’intelligenza – che l’AI ha ora “sciolto dalla biologia” – ma la larghezza di banda di verifica.

Il valore si sposta verso la verifica umana

Il documento descrive il passaggio verso AGI come una divergenza crescente tra il costo di produzione dell’output della macchina e il costo di controllo di quell’output – quest’ultimo dei quali rimane legato al tempo umano finito e all’esperienza vissuta.

Generare piani, rapporti, progetti e raccomandazioni diventerebbe a buon mercato e abbondante, mentre determinare quali di essi siano solidi, allineati e sufficientemente sicuri da agire sarebbe diventato la “funzione rara”. Il limite effettivo sulla distribuzione sarebbe quindi non quanto output i sistemi possano produrre, ma quanto di quell’output possa essere verificato in modo credibile.

Quindi, invece di premiare sempre più competenze specializzate in compiti misurabili, il sistema, secondo gli autori, inizia a premiare la misurabilità stessa: il lavoro che può essere parametrizzato si sposterà verso la commodity, poiché il costo di esecuzione si avvicina al costo marginale di calcolo, con il valore che si accumula invece in verità fondamentale di alta qualità, tracce di audit affidabili e meccanismi istituzionali per assegnare e assorbire la responsabilità.

Pertanto, in un’economia di verifica, il vantaggio sarebbe meno nella produzione di contenuti e più nella certificazione dei risultati e nella sottoscrizione dei rischi ad essi connessi.

Se l’automazione continua ad accelerare mentre la verifica rimane limitata dal tempo e dall’attenzione umana, il documento prevede che un’economia svuotata emergerà, in cui, poiché il costo di automazione del lavoro diminuisce, sempre più agenti saranno distribuiti perché ha senso farlo – anche se la capacità di controllare correttamente il loro output non crescerà alla stessa velocità. In quel scenario, la quota di lavoro che è effettivamente verificata diminuirà, con tutte le conseguenze negative che ne derivano.

Al contrario, un’economia potenziata assicurerebbe che la capacità di verifica si espanda in tandem con l’automazione. Ciò richiederebbe un investimento deliberato nella formazione strutturata per preservare l’esperienza, nonché nuovi quadri di responsabilità che possano assorbire il rischio. La distribuzione sarebbe quindi legata a ciò che può effettivamente essere verificato e assicurato – in sostanza, un vecchio collo di bottiglia portato al centro del palco da una scala tecnologica senza precedenti:

‘Nel settore tecnologico, il modello di revenue dominante si sposterà dal monetizzare l’accesso al software (Software-as-a-Service) al monetizzare i risultati (“Software-as-Labor”). Di conseguenza, le aziende saranno valutate principalmente sulla loro capacità di assorbire il rischio di coda attraverso Liability-as-a-Service.

‘L’esecuzione è ora infinitamente scalabile; la capacità legale e finanziaria di assorbire i suoi inevitabili fallimenti è il nuovo collo di bottiglia.’

Ritorni decrescenti

In effetti, la preservazione dell’esperienza di dominio negli esseri umani è fondamentale per il problema, poiché una cultura di controllo industrializzato, secondo gli autori, rischierebbe di degradare la qualità di coloro che eseguono il controllo – poiché le generazioni successive di controllori non possederanno più l’esperienza diretta e vissuta dei domini che richiedono la verifica.

Argomentabile, a quel punto, la qualità del controllo sarebbe veramente suscettibile all’automazione, poiché le nuove decisioni sarebbero formate solo sulla base di decisioni precedenti. Tuttavia, ciò lascerebbe gli stakeholder senza un bersaglio da colpire, o un modello di business valido. Renderà anche tale ruolo così volatile e rischioso da essere poco attraente, anche in un clima di disoccupazione bassa.

Relegare professionisti qualificati come medici e architetti in una posizione di “timbro di gomma” ben pagata ma gravosa è probabile che eroda il loro valore in tale ruolo, nel tempo: più l’esperienza sul campo effettiva recede nel passato, più le loro decisioni potrebbero diventare “teoriche”, poiché il loro dominio abbandonato continua a evolversi in loro assenza.

(Questo è familiare anche nella cultura aziendale pre-AI, nella forma di personale qualificato che progredisce nella gestione e diventa sempre più fuori contatto con gli sviluppi nuovi, alla fine minando il loro valore come controllori e organizzatori. È anche familiare ai fan di Star Trek: TNG , nella forma dei Pakled – una razza che utilizza estensivamente la tecnologia avanzata, ma non sa più come crearla o ripararla.)

L’esecuzione di livello di ingresso ha storicamente servito come campo di addestramento per futuri esperti; ma se l’automazione elimina i compiti di routine attraverso i quali si coltiva il giudizio, la futura fornitura di verificatori capaci diminuirà, suggeriscono gli autori.

Quindi il documento presagisce una paradossale situazione: più i sistemi agente diventano potenti, più la società dipenderà da una scorta di esperienza umana che quegli stessi sistemi potrebbero erodere.

E ricordiamo che questo non è in alcun modo un problema tecnico, né suscettibile di una soluzione tecnologica. In molti modi, questa sindrome suggerisce l’equivalente logistico di collasso del modello di AI – tranne che qui stiamo considerando il logorio di un modello economico.

‘Dal punto di vista delle politiche, la sfida fondamentale è un profondo asimmetria strutturale: i guadagni della distribuzione dell’AI sono aggressivamente privatizzati, mentre i rischi sistemici sono socializzati. Le aziende e gli individui catturano l’upside dell’automazione mentre esternalizzano i rischi di coda catastrofici.

‘Senza un’infrastruttura di verifica condivisa e un prezzo di responsabilità rigoroso, il mercato si sposterà razionalmente verso un’economia vuota – un equilibrio caratterizzato da un’attività misurata esplosiva, ma fondamentalmente svuotata del controllo umano.’

Conclusione: una crisi diversa

Gli autori definiscono la crisi prevista come un divario di misurabilità, in cui i processi quantificabili possono essere automatizzati lontano da ogni contributo umano, lasciando n-hard o n-legali processi che richiedono ancora l’esperienza umana.

Tuttavia, l’esperienza di mia moglie suggerisce che la complessità o la difficoltà di un processo non è necessariamente legata alla necessità di responsabilità in quel processo; molte delle cose che lei “approva” rappresentano problemi o calcoli banali in se stessi, ma sono conseguenziali nella violazione. E più la cultura aziendale diventa litigiosa, più gli assicuratori e gli investitori richiederanno la responsabilità umana in un’ampia gamma di processi.

Quindi, la transizione verso l’economia della verifica potrebbe causare una crisi diversa da quella che attualmente sta ricevendo i titoli. La questione in questo caso non sarebbe se l’AI possa produrre di più, ma se le istituzioni possano verificare abbastanza di ciò che viene prodotto per tradurre l’intelligenza della macchina in valore duraturo.

Poiché l’intelligenza della macchina potrebbe presto scalare senza precedenti, e la disponibilità di tempo umano applicabile non può tenere il passo con quel ritmo, le questioni esposte nel nuovo lavoro sembrano probabili di emergere molto presto – anche se potrebbero essere inizialmente sommerse dalle più ampie ripercussioni economiche dell’adozione dell’AI.

* Il documento è troppo lungo per essere analizzato nel solito modo, e in ogni caso non è adatto a quel tipo di analisi. Pertanto ho deciso di commentarlo e considerarne il significato, e di riferire il lettore al lavoro originale in modo che possa fare lo stesso.

^† /s

Pubblicato per la prima volta mercoledì 25 febbraio 2026