Tranziția către economia verificării

Verificarea lucrării inteligenței artificiale poate deveni un sector semnificativ în noua economie a învățării automate; unul care va trebui să se extindă semnificativ și care nu poate fi automatizat. Dar pe măsură ce trec anii, “experții” umani sunt probabil să se deterioreze calitativ.

Opinie. Soția mea este arhitect într-una dintre birocrațiile cele mai încărcate și intense din Europa. O parte semnificativă a valorii educației sale constă în obținerea și menținerea dreptului de semnătură – o calificare scumpă care trebuie reînnoită anual și care îi permite să “semneze” propuneri ale căror implementare poate fi de sute de mii, chiar milioane de euro.

Îmi spune că aceasta nu este partea cea mai grea a muncii sale, deoarece doar formalizează calculele sale proprii sau ale altor persoane, și că, în acest scop, lucrul extern nu este de obicei dificil de verificat.

În esență – așa cum se întâmplă adesea și atunci când se numesc directori executivi – această ștampilă (este literalmente o ștampilă) oferă, în principal, părților interesate o “parsă” de tras dacă lucrurile merg prost. Asigurând răspunderea, facilitează, de asemenea, acoperirea asigurărilor și încrederea investitorilor, care nu ar fi obținute fără astfel de garanții.

Acesta este al doilea caz în viața mea când am văzut acest proces direct în acțiune; acum 25 de ani eram logodit cu un oncolog într-o altă birocrație notoriu încărcată a UE, Italia, și am văzut în ce măsură semnătura expertă a fost ultima etapă a unei lanțuri de încredere la care au trebuit să contribuie și alți experți.

Am auzit de la fosta mea logodnică, în acea perioadă, și mai recent de la soția mea, că profesiile lor sunt/au fost pline de “experți” calificați care vând semnătura lor și evită lucrul mai original sau mai util, deoarece este mai puțin profitabil. Astfel de practicieni cinici pot cere sume mari, deoarece reprezintă resurse relativ rare și esențiale.

Verifică

Acest subiect mi-a venit în minte când am dat peste o lucrare nouă și vastă științifică astăzi, intitulată Unele simple economii ale AGI. În ea, trei cercetători de la MIT, Universitatea Washington din St. Louis și UCLA descriu un viitor apropiat în care impulsul înspăimântător, care distruge locurile de muncă prin automatizarea condusă de IA, se ciocnește cu nevoia de “părți umane de tras” în scenarii cu risc ridicat – ceea ce conduce la o nouă economie a verificării umane, ratificării și răspunderii*.

Lucrarea se diferențiază de imaginea prezentată de mass-media a sectoarelor de afaceri decimate, cu birouri extinse reduse la un singur “supraveghetor”, ale cărui decizii sunt folosite ca date de antrenament pentru a (sperăm) înlătura și această ultimă “bucată” de “carne” ^†.

În schimb, autorii cred că considerente practice și cerințe de conformitate vor atrage o atenție uriașă asupra “oamenilor care ștampilează” care liniștesc departamentul juridic al unei companii (IA/uman/ajutat de IA):

‘Pentru companii, insightul strategic de bază este că verificarea nu mai este doar o funcție de conformitate, ci o tehnologie de producție principală – și, din ce în ce mai mult, cea mai apărabilă. Acest lucru impune o schimbare structurală: investiții masive în observabilitate, extinderea “adevărului” de verificat și reorganizarea într-o topologie “sandwich” (intenție umană → execuție mașină → verificare și asigurare umană).

‘Într-o economie în care producția brută este comoditizată, avantajul competitiv se mută spre talentele și datele rare capabile să direcționeze și să certifice sisteme agențiale – generând efecte de rețea nu în producția brută, ci în rezultatele de încredere.’

Autorii ipotezează că constrângerile de creștere pot să nu fie inteligenta – pe care IA a “dezlegat-o” de biologie – ci lățimea de bandă a verificării.

Valorile se mută către verificarea umană

Lucrarea descrie mișcarea către AGI ca o divergență tot mai mare între costul de producție a ieșirii mașinii și costul verificării acelei ieșiri – al doilea fiind legat de timpul și experiența umană finită.

Generarea de planuri, rapoarte, proiecte și recomandări ar deveni, în acest scenariu, ieftină și abundentă, în timp ce stabilirea cui dintre acestea sunt solide, alinate și suficient de sigure pentru a fi puse în aplicare ar deveni “funcția rară”. Limita eficientă a implementării ar fi, așadar, nu cât de multă ieșire pot produce sistemele, ci cât din acea ieșire poate fi verificată în mod credibil.

Astfel, în loc să recompenseze abilități tot mai specializate în sarcini măsurabile, sistemul, conform autorilor, va începe să recompenseze măsurabilitatea însăși: munca care poate fi parametrizată va deriva spre comoditizare, pe măsură ce costul de execuție se apropie de costul marginal de calcul, cu valoarea care se acumulează în “adevărul” de înaltă calitate, urme de audit fiabile și mecanisme instituționale pentru atribuirea și absorbția răspunderii.

Prin urmare, într-o economie a verificării, avantajul ar fi mai puțin în producerea de conținut și mai mult în certificarea rezultatelor și în asigurarea riscurilor aferente.

Dacă automatizarea continuă să se accelereze, în timp ce verificarea rămâne limitată de timpul și atenția umană, lucrarea prezice că o economie golită ar apărea, în care, pe măsură ce costul de automatizare a muncii scade, tot mai mulți agenți ar fi implementați, deoarece are sens din punct de vedere economic să se facă acest lucru – chiar dacă capacitatea de a verifica corect ieșirea lor nu ar crește cu aceeași viteză. În acel scenariu, partea muncii care este verificată în mod real ar scădea, cu toate consecințele negative pe care le implică.

În schimb, o economie îmbunătățită ar asigura că capacitatea de verificare ar crește odată cu automatizarea. Acest lucru ar implica o investiție deliberată în pregătirea structurată pentru a păstra expertiza, precum și noi cadre de răspundere care pot absorbi riscul. Implementarea ar fi legată de ceea ce poate fi verificat și asigurat în mod real – efectiv, o gâtușă veche adusă în centrul atenției de o dezvoltare tehnologică fără precedent:

‘În sectorul tehnologiei, modelul de venituri dominant se va schimba de la monetizarea accesului la software (Software-as-a-Service) la monetizarea rezultatelor (“Software-as-Labor”). În consecință, companiile vor fi evaluate în primul rând în funcție de capacitatea lor de a absorbi riscul de coadă prin Liability-as-a-Service.

‘Execuția este acum infinit scalabilă; capacitatea juridică și financiară de a absorbi eșecurile sale inevitabile este noua gâtușă.’

Rezultate descrescătoare

Într-adevăr, păstrarea expertizei în domeniu la oameni este esențială pentru problema în cauză, deoarece o cultură de supraveghere industrializată, conform autorilor, ar risca, în timp, să deterioreze calitatea celor care efectuează supravegherea – deoarece generațiile următoare de supraveghetori nu ar mai poseda experiența directă și trăită a domeniilor care necesită verificare.

Se poate argumenta că, în acel stadiu, calitatea supravegherii ar fi, într-adevăr, susceptibilă la automatizare, deoarece noile decizii ar fi luate doar pe baza deciziilor anterioare. Cu toate acestea, acest lucru ar lăsa părțile interesate fără o “parsă” de tras sau un model de afaceri viabil. De asemenea, ar face ca un astfel de rol să fie atât de volatil și plin de riscuri, încât să devină neatractiv, chiar și într-un climat de șomaj scăzut.

Închiderea unor profesioniști calificați, cum ar fi medicii și arhitecții, într-o poziție bine plătită, dar extrem de încărcată de “ștampilare”, este probabil să erodeze valoarea lor într-un astfel de rol, în timp: cu cât experiența lor reală din domeniu este mai îndepărtată în trecut, cu atât deciziile lor pot deveni “teoretice”, pe măsură ce domeniul lor abandonat continuă să evolueze în absența lor.

(Acest lucru este familiar chiar și în cultura de afaceri pre-IA, sub forma personalului calificat care progresează în management și devine din ce în ce mai în afara noilor dezvoltări, subminând, în cele din urmă, valoarea lor ca supraveghetori și organizatori. Este, de asemenea, familiar fanilor Star Trek: TNG, sub forma Pakleșilor – o rasă care utilizează tehnologia avansată pe scară largă, dar nu mai știe cum să o creeze sau să o repare.)

Intrarea în execuția de nivel de intrare a servit istoric ca teren de antrenament pentru viitorii experți; dar dacă automatizarea elimină sarcinile de rutină prin care se cultivă judecata, aportul viitor de verificatori capabili va scădea, sugerează autorii.

Astfel, lucrarea prezice o paradox: cu cât sistemele agențiale devin mai puternice, cu atât societatea va depinde de un stoc de expertiză umană pe care aceleași sisteme le pot eroda.

Și să ne amintim că acesta nu este în niciun fel un problemă tehnică, nici una care să poată fi soluționată prin tehnologie. În multe feluri, acest sindrom sugerează echivalentul logistic al colapsului modelului IA – cu toate că aici ne referim la subminarea unui model economic.

‘Din perspectivă politică, provocarea de bază este o asimetrie structurală profundă: beneficiile implementării IA sunt privatizate agresiv, în timp ce riscurile sistemice sunt socializate. Companiile și indivizii capturează partea pozitivă a automatizării, în timp ce externalizează riscurile catastrofale de coadă.

‘Fără o infrastructură de verificare comună și o prețuire riguroasă a răspunderii, piața va deriva în mod rațional către o Economie Golită – un echilibru caracterizat prin activitate măsurată exploziv, dar control uman fundamental golit.’

Concluzie: O criză diferită

Autorii definesc criza prezisă ca o lacună de măsurare, în care procesele cuantificabile pot fi automate și eliminate din orice contribuție umană, lăsând procese n-grele sau n-legale care încă necesită expertiză umană.

Cu toate acestea, experiența soției mele sugerează că complexitatea sau dificultatea unui proces nu este neapărat legată de nevoia de răspundere în acel proces; multe dintre lucrurile pe care le “semnează” reprezintă probleme triviale sau calcule în sine, dar sunt consecvente în încălcarea lor. Și cu cât cultura de afaceri devine mai litigioasă, cu atât asigurătorii și investitorii vor cere răspundere umană într-o gamă mai largă de procese.

Prin urmare, trecerea la economia verificării ar putea provoca o criză diferită de cea care este în prezent în atenția mass-mediei. Problema, în acest caz, nu ar fi dacă IA poate produce mai mult, ci dacă instituțiile pot verifica suficient din ceea ce se produce pentru a traduce inteligența mașinilor în valoare durabilă.

Deoarece inteligența mașinilor poate scala în curând fără precedent, iar disponibilitatea timpului uman aplicabil cazului nu poate ține pasul cu acel ritm, problemele prezentate în lucrarea nouă par să apară foarte curând – chiar dacă pot fi inițial înecate de implicațiile economice mai ample ale adoptării IA.

* Lucrarea este prea lungă pentru a fi descompusă în mod obișnuit și, în orice caz, este structural nepotrivită pentru acest tip de analiză. Prin urmare, am decis să comentez asupra ei și să consider semnificația ei, și să trimit cititorul la lucrarea sursă, astfel încât acesta să poată face la fel.

^† /s

Publicat pentru prima dată miercuri, 25 februarie 2026