Przechodzenie do gospodarki weryfikacji

Sprawdzanie pracy sztucznej inteligencji może stać się znaczącym sektorem w nowej gospodarce opartej na maszynowym uczeniu się; sektorem, który będzie musiał znacznie się rozwinąć i który nie może być zautomatyzowany. Jednak z upływem lat ludzie “eksperci” prawdopodobnie będą się pogarszać pod względem jakości.

Opinia. Moja żona jest architektem w jednej z najbardziej zakorkowanych i intensywnych biurokracji w Europie. Znacząca część wartości jej wykształcenia leży w uzyskaniu i utrzymaniu prawa do podpisu – drogiego certyfikatu, który musi być odnawiany co roku i który pozwala jej dosłownie “zaakceptować” propozycje, których wdrożenie może wynieść setki tysięcy, a nawet miliony euro.

Mówi mi, że to nie jest najtrudniejsza część jej pracy, ponieważ tylko formalizuje jej własne obliczenia lub obliczenia innych, i że w tym celu zewnętrzna praca nie jest zwykle trudna do sprawdzenia.

Podstawą – jak to często ma miejsce również w przypadku powoływania CEO – ten znak (jest to dosłownie znak) głównie zapewnia stakeholderom kogoś, kto może ponieść odpowiedzialność, jeśli coś pójdzie nie tak. Zapewniając odpowiedzialność, ułatwia również ubezpieczenie i zaufanie inwestorów, które nie byłoby możliwe bez takich gwarancji.

To jest drugi raz w moim życiu, kiedy widzę ten proces w działaniu; 25 lat temu byłem zaręczony z onkologiem w innej słynnej biurokracji UE, we Włoszech, i widziałem, jak ważne było jej ekspertowe podpisanie jako ostatni etap w łańcuchu zaufania, do którego musieli się przyczynić inni, poza nią.

Słyszałem od mojej byłej narzeczonej w tym okresie i niedawno od mojej żony, że ich zawody są/były pełne wykształconych oszustów, którzy sprzedają swój znak i unikają bardziej oryginalnej lub użytecznej pracy, ponieważ jest mniej opłacalna. Tacy cyniczni praktycy mogą pobierać wysokie sumy, ponieważ reprezentują relatywnie rzadkie i niezbędne zasoby.

Sprawdź to

Ten temat przyszedł mi do głowy, gdy natknąłem się na nowy i rozległy artykuł dzisiaj, zatytułowany Niektóre proste ekonomiczne aspekty AGI. W nim trzej badacze z MIT, Uniwersytetu w St. Louis i UCLA opisują bliską przyszłość, w której straszne, zagrażające miejscu pracy tendencja do automatyzacji napędzanej przez sztuczną inteligencję zderzy się z potrzebą realnych, odpowiedzialnych osób w sytuacjach o wysokich stawkach – prowadząc do nowej gospodarki weryfikacji, ratyfikacji i odpowiedzialności*.

Artykuł różni się od obecnych wyobrażeń mediów o zubożałych sektorach biznesu z rozległymi biurami zmniejszonymi do jednego “nadzorcy”, którego decyzje są wykorzystywane jako dane szkoleniowe, aby (mam nadzieję) zwolnić nawet ten ostatni ślad “mięsa” ^†.

Zamiast tego autorzy uważają, że praktyczne rozważania i wymagania zgodności skupią ogromną uwagę na “ludziach-rubber-stamping”, którzy uspokajają departament prawny firmy (AI/ludzki/pomocny przez AI):

‘Dla firm kluczową intuicją strategiczną jest to, że weryfikacja nie jest już tylko funkcją zgodności, ale podstawową technologią produkcyjną – i coraz bardziej ich najbardziej bronioną. To dyktuje strukturalną zmianę: inwestowanie ciężko w obserwowalność, rozszerzanie weryfikowalnej podstawy prawdy i reorganizowanie wokół topologii “kanapki” (ludzka intencja → wykonanie maszynowe → ludzka weryfikacja i gwarancja).

‘W gospodarce, w której surowy output jest komodyzowany, przewaga konkurencyjna przechodzi do rzadkiego talentu i danych, które mogą niezawodnie kierować i certyfikować systemy agentywne – generując efekty sieciowe nie w samym output, ale w zaufanych wynikach.’

Autorzy hipotezują, że określającym ograniczeniem wzrostu może nie być inteligencja – której sztuczna inteligencja już “odłączyła od biologii” – ale przesiętna weryfikacji.

Wartość przesuwa się w kierunku weryfikacji ludzkiej

Artykuł opisuje przesunięcie w kierunku AGI jako rozszerzającą się różnicę między kosztem produkcji outputu maszynowego a kosztem sprawdzenia tego outputu – który pozostaje związany z ograniczonym czasem i doświadczeniem ludzkim.

Generowanie planów, raportów, projektów i rekomendacji w tym scenariuszu stanie się tanie i obfite, podczas gdy określenie, które z nich są słuszne, wyrównane i wystarczająco bezpieczne do działania, stanie się “rzadką funkcją”. Skuteczna granica wdrożenia nie będzie więc tym, ile output systemy mogą wyprodukować, ale ile z tego outputu może być wiarygodnie zweryfikowane.

Thus, zamiast nagradzać coraz bardziej wyspecjalizowane umiejętności w mierzalnych zadaniach, system, według autorów, zacznie nagradzać mierzalność samą w sobie: praca, która może być parametryzowana, będzie dryfować w kierunku komodyzacji, gdy koszt jej wykonania zbliży się do marginalnego kosztu obliczeń, a wartość będzie się gromadzić w wysokiej jakości podstawie prawdy, niezawodnych śladach audytu i instytucjonalnych mechanizmach przypisywania i absorbowania odpowiedzialności.

Dlatego w gospodarce weryfikacji przewaga będzie leżała nie tyle w produkcji treści, co w certyfikowaniu wyników i gwarantowaniu ryzyka z nimi związanego.

Jeśli automatyzacja będzie nadal przyspieszać, a weryfikacja pozostanie ograniczona przez czas i uwagę ludzką, artykuł przewiduje, że gospodarka pusta powstanie, w której, gdy koszt automatyzacji pracy spada, więcej i więcej agentów będzie wdrożonych, ponieważ ma to ekonomiczny sens – nawet jeśli zdolność do właściwego sprawdzenia ich outputu nie będzie rosła w tym samym tempie. W tym scenariuszu udział pracy, która jest rzeczywiście zweryfikowana, zmniejszy się, a wszystkie negatywne konsekwencje, które się z tym wiążą.

Z drugiej strony, gospodarka uzupełniająca zapewni, że zdolność weryfikacji będzie rosła wraz z automatyzacją. To wymagałoby celowego inwestowania w ustrukturyzowane szkolenia, aby zachować ekspertyzę, a także nowe ramy odpowiedzialności, które mogą absorbować ryzyko. Wdrożenie będzie wtedy związane z tym, co można rzeczywiście sprawdzić i ubezpieczyć – skutecznie, bardzo stara wąska garść, która została przyniesiona do centrum przez bezprecedensowy rozwój technologiczny:

‘W sektorze technologicznym dominujący model przychodu zmieni się z monetyzacji dostępu do oprogramowania (Software-as-a-Service) na monetyzowanie wyników („Software-as-Labor”). W związku z tym firmy będą wyceniane głównie na podstawie ich zdolności do absorbowania ryzyka ogonowego za pomocą Liability-as-a-Service.

‘Wykonanie jest teraz nieograniczone; prawna i finansowa zdolność do absorbowania nieuniknionych awarii jest nowym wąskim gardłem.’

Malejące zwroty

Rzeczywiście, zachowanie ekspertyzy w dziedzinie ludzkiej jest kluczowe dla problemu, ponieważ kultura przemysłowej nadzoru, według autorów, ryzykuje z czasem pogorszeniem jakości tych, którzy wykonują nadzór – ponieważ kolejne pokolenia nadzorców nie będą już posiadali bezpośredniego i doświadczalnego doświadczenia w dziedzinach wymagających weryfikacji.

Można powiedzieć, że w tym stadium jakość nadzoru byłaby naprawdę podatna na automatyzację, ponieważ nowe decyzje byłyby podejmowane wyłącznie na podstawie poprzednich decyzji. Jednak to pozostawiłoby stakeholderów bez kogoś, kto mógłby ponieść odpowiedzialność, lub opłacalnego modelu biznesowego. To również uczyniłoby taką rolę tak niebezpieczną i pełną ryzyka, aby była nieatrakcyjna, nawet w klimacie niskiego zatrudnienia.

Wyłączanie wykwalifikowanych profesjonalistów, takich jak lekarze i architekci, do dobrze płatnej, ale bardzo obciążonej roli “rubber-stamping” prawdopodobnie spowoduje erozję ich wartości w tej roli z czasem: im dalej w przeszłości ich rzeczywiste doświadczenie w dziedzinie maleje, tym bardziej “teoretyczne” mogą się stać ich decyzje, gdy ich porzucona dziedzina będzie nadal ewoluować w ich nieobecności.

(To jest znajome nawet w przed-AI kulturze biznesu, w postaci wykwalifikowanego personelu, który awansuje na stanowiska kierownicze i staje się coraz bardziej nieświadomy nowych rozwojów, ostatecznie podważając swoją wartość jako nadzorców i organizatorów. To również znajome fanom Star Trek: TNG , w postaci Pakledów – rasy, która używa zaawansowanej technologii, ale nie wie już, jak ją stworzyć ani naprawić.)

Wejście na poziom wykonania historycznie służyło jako placówka szkoleniowa dla przyszłych ekspertów; ale jeśli automatyzacja eliminuje rutynowe zadania, przez które kształtuje się osąd, przyszły dostęp do zdolnych weryfikatorów zmniejszy się, sugerują autorzy.

Thus, artykuł zapowiada paradoks: im potężniejsze stają się systemy agentywne, tym bardziej społeczeństwo będzie zależało od zapasu ludzkiej ekspertyzy która te same systemy mogą podważyć.

I pamiętajmy, że to nie jest w żaden sposób problem techniczny, ani taki, który mógłby być rozwiązany za pomocą technologii. W wielu ways ten zespół sugeruje ekonomiczny odpowiednik zawodu modelu AI – z tym, że tutaj rozważamy podważenie modelu ekonomicznego.

‘Z punktu widzenia polityki kluczowym wyzwaniem jest głęboka asymetria strukturalna: zyski z wdrożenia AI są agresywnie prywatyzowane, podczas gdy systemowe ryzyko jest społeczne. Firmy i osoby fizyczne czerpią korzyści z automatyzacji, zewnętrzalalizując katastrofalne ryzyko ogonowe.

‘Bez wspólnej infrastruktury weryfikacji i rygorystycznego cenowania odpowiedzialności rynek będzie racjonalnie dryfował w kierunku gospodarki pustej – równowagi charakteryzującej się eksplozywną mierzalną aktywnością, ale podstawową utratą ludzkiej kontroli.’

Podsumowanie: Inny kryzys

Autorzy definiują przewidywany kryzys jako przerwę w mierzalności, w której procesy ilościowe mogą być zautomatyzowane i pozbawione wszelkiego ludzkiego wkładu, pozostawiając n-trudne lub n-prawne procesy, które nadal wymagają ludzkiej ekspertyzy.

Jednak doświadczenie mojej żony sugeruje, że złożoność lub trudność procesu nie musi być związana z potrzebą odpowiedzialności w tym procesie; wiele rzeczy, które “zaakceptowała”, reprezentuje trywialne problemy lub obliczenia same w sobie, ale są konsekwencjami w przypadku naruszenia. I im bardziej procesy biznesowe stają się skłonne do pozwów, tym więcej ubezpieczycieli i inwestorów będzie wymagało ludzkiej odpowiedzialności w szerszym zakresie procesów.

Thus, przejście do gospodarki weryfikacji może spowodować inny kryzys niż ten, który jest obecnie nagłaśniany. Problemem w tym przypadku nie będzie to, czy sztuczna inteligencja może produkować więcej, ale czy instytucje mogą zweryfikować wystarczająco dużo tego, co jest produkowane, aby przetłumaczyć inteligencję maszynową na trwałą wartość.

Ponieważ inteligencja maszynowa może wkrótce rosnąć bez precedensu, a dostępność odpowiednich ludzkich czasu nie będzie mogła dotrzymać tempa, problemy przedstawione w nowej pracy wydają się prawdopodobne, aby pojawić się bardzo szybko – nawet jeśli mogą być początkowo zagłuszone przez szersze konsekwencje ekonomiczne adopcji sztucznej inteligencji.

* Artykuł jest zbyt długi, aby go rozbić w zwykły sposób, i w każdym razie nie nadaje się strukturalnie do tego rodzaju analizy. Dlatego zdecydowałem się skomentować go i rozważyć jego znaczenie, i odesłać czytelnika do oryginalnego artykułu, aby mógł to zrobić.

^† /s

Pierwotnie opublikowane w środę, 25 lutego 2026