Transisi ke Ekonomi Verifikasi

Memeriksa pekerjaan AI mungkin menjadi sektor yang signifikan dalam ekonomi pembelajaran mesin baru; satu yang harus ditingkatkan secara signifikan, dan yang tidak dapat diotomatisasi. Namun, seiring berjalannya waktu, ‘ahli’ manusia kemungkinan akan menurun dalam kualitas.

Opini. Istri saya adalah seorang arsitek di salah satu birokrasi yang paling tersendat dan intens di Eropa. Sebagian besar nilai pendidikannya terletak pada pemerolehan dan pemeliharaan hak tanda tangan – sebuah kualifikasi yang mahal yang harus diperbarui setiap tahun, dan yang memungkinkan dia untuk secara harfiah ‘menandatangani’ proposal-proposal yang implementasinya mungkin bernilai ratusan ribu, bahkan jutaan euro.

Dia memberitahu saya bahwa ini bukanlah bagian tersulit dari pekerjaannya, karena hanya memformalisasikan perhitungannya sendiri, atau perhitungan orang lain, dan bahwa untuk tujuan ini, pekerjaan luar tidak biasanya sulit untuk diperiksa.

Secara esensial – seperti yang sering terjadi ketika menunjuk CEO – cap (ini adalah cap yang sebenarnya) terutama memberikan pemangku kepentingan dengan seseorang untuk menendang jika sesuatu salah. Dalam memastikan akuntabilitas, juga memfasilitasi perlindungan asuransi dan kepercayaan investor, yang tidak dapat diperoleh tanpa jaminan tersebut.

Ini adalah kali kedua dalam hidup saya saya melihat proses ini secara langsung; 25 tahun yang lalu saya bertunangan dengan seorang onkolog di birokrasi EU yang terkenal lainnya, Italia, dan melihat seberapa jauh tanda tangan ahli dia adalah tahap terakhir dalam rantai kepercayaan yang banyak orang lain selain dia harus berkontribusi keahlian mereka.

Saya mendengar dari mantan tunangan saya, pada saat itu, dan lebih baru istri saya, bahwa profesi mereka dipenuhi dengan ahli yang berkualitas yang menjual cap mereka dan menghindari pekerjaan yang lebih asli atau berguna sebagai kurang menguntungkan. Praktisi yang sinis seperti itu dapat mengenakan biaya tinggi karena mereka mewakili sumber daya yang relatif langka dan penting.

Periksa

Topik ini terlintas dalam pikiran saya ketika saya menemukan sebuah makalah baru dan luas hari ini, berjudul Beberapa Ekonomi Sederhana dari AGI. Di dalamnya, tiga peneliti dari MIT, Universitas Washington di St. Louis, dan UCLA, menggambarkan sebuah dekat-masa depan di mana dorongan yang menakutkan, penghancur pekerjaan menuju otomatisasi yang digerakkan oleh AI, bertabrakan dengan kebutuhan akan orang-orang yang dapat diandalkan dalam skenario dengan taruhan tinggi – sehingga mengarah pada sebuah ekonomi baru dari verifikasi manusia, ratifikasi, dan tanggung jawab*.

Makalah tersebut berbeda dengan bayangan media saat ini tentang sektor bisnis yang telah dikurangi menjadi satu orang ‘pengawas’, yang keputusannya digunakan sebagai data pelatihan untuk (semoga) memecat bahkan sisa ‘daging’ yang terakhir^†.

Sebaliknya, para penulis percaya bahwa pertimbangan praktis dan persyaratan kepatuhan akan memfokuskan perhatian besar pada ‘penanda tangan’ manusia yang memuaskan departemen hukum perusahaan (AI/manusia/bantuan AI):

‘Bagi perusahaan, wawasan strategis inti adalah bahwa verifikasi tidak lagi menjadi fungsi kepatuhan, tetapi teknologi produksi primer – dan semakin banyak, yang paling dapat dipertahankan. Ini menunjukkan pergeseran struktural: berinvestasi besar-besaran dalam keterbacaan, memperluas kebenaran dasar verifikasi, dan mengatur kembali sekitar topologi “sandwich” (niat manusia → eksekusi mesin → verifikasi dan penjaminan manusia).

‘Dalam sebuah ekonomi di mana output mentah dikomoditaskan, keunggulan kompetitif bermigrasi ke bakat dan data yang langka yang mampu mengarahkan dan mensertifikasi sistem agen – menghasilkan efek jaringan tidak dalam output murni, tetapi dalam hasil yang dipercaya.’

Para penulis menghipotesiskan bahwa kendala yang membatasi pertumbuhan mungkin tidak lagi menjadi kecerdasan – yang sekarang telah ‘dilepaskan dari biologi’ oleh AI – tetapi lebar pita verifikasi.

Nilai Bergeser ke Verifikasi Manusia

Makalah tersebut menjelaskan pergeseran menuju AGI sebagai pemisahan yang semakin besar antara biaya produksi output mesin dan biaya memeriksa output tersebut – yang terakhir masih terikat pada waktu dan pengalaman manusia yang terbatas.

Menghasilkan rencana, laporan, desain, dan rekomendasi akan dalam skenario ini menjadi murah dan melimpah, sementara menentukan mana dari mereka yang kuat, selaras, dan aman enough untuk bertindak akan menjadi ‘fungsi yang langka’. Batas efektif pada penerapan akan oleh karena itu tidak menjadi seberapa banyak output yang dapat dihasilkan sistem, tetapi seberapa banyak dari output tersebut dapat diverifikasi dengan kredibel.

Demikian, bukanlah menghargai keterampilan yang semakin spesialis dalam tugas yang dapat diukur, sistem, para penulis memprediksi, akan mulai menghargai pengukuran itu sendiri: pekerjaan yang dapat diparameterkan akan bergeser menuju komoditisasi karena biaya eksekusinya mendekati biaya marjinal komputasi, dengan nilai yang terkumpul di dalam kebenaran dasar yang berkualitas tinggi, jejak audit yang dapat diandalkan, dan mekanisme lembaga untuk mengassign dan menyerap tanggung jawab.

Oleh karena itu, dalam sebuah ekonomi verifikasi, keunggulan akan terletak kurang dalam menghasilkan konten, dan lebih dalam mensertifikasi hasil, dan menjamin risiko yang melekat padanya.

Jika otomatisasi terus mempercepat sementara verifikasi tetap terbatas oleh waktu dan perhatian manusia, makalah tersebut memprediksi bahwa sebuah Ekonomi yang Dikosongkan akan muncul, di mana, ketika biaya mengotomatisasi pekerjaan menurun, lebih dan lebih banyak agen akan dikerahkan karena itu masuk akal secara ekonomi untuk melakukannya – meskipun kemampuan untuk memeriksa output mereka dengan benar tidak akan tumbuh dengan kecepatan yang sama. Dalam skenario tersebut, bagian dari pekerjaan yang benar-benar diverifikasi akan menurun, dengan semua konsekuensi negatif yang menyertainya.

Sebaliknya, sebuah Ekonomi yang Ditingkatkan akan memastikan bahwa kapasitas verifikasi akan berkembang seiring dengan otomatisasi. Ini akan melibatkan investasi yang disengaja dalam pelatihan terstruktur untuk melestarikan keahlian, serta kerangka kerja baru tanggung jawab yang dapat menyerap risiko. Penerapan akan kemudian diikat pada apa yang benar-benar dapat diperiksa dan diasuransikan – secara efektif, sebuah bottleneck yang sangat lama dibawa ke pusat panggung oleh skala teknologi yang belum pernah terjadi sebelumnya:

‘Dalam sektor teknologi, model pendapatan dominan akan bergeser dari memonetisasi akses perangkat lunak (Perangkat Lunak sebagai Layanan) ke memonetisasi hasil (“Perangkat Lunak sebagai Tenaga Kerja”). Akibatnya, perusahaan akan dinilai terutama berdasarkan kemampuan mereka untuk menyerap risiko ekor melalui Liability-as-a-Service.

‘Eksekusi sekarang dapat diskalakan secara tak terbatas; kapasitas hukum dan keuangan untuk menyerap kegagalan yang tak terhindarkan adalah bottleneck baru.’

Hasil yang Menurun

Memang, pelestarian keahlian domain pada manusia sangat penting untuk masalah ini, karena budaya pengawasan industrialisasi, menurut para penulis, akan berisiko seiring waktu untuk merusak kualitas mereka yang melakukan pengawasan – karena generasi berikutnya dari pengawas tidak lagi memiliki pengalaman langsung dan hidup dari domain yang memerlukan verifikasi.

Secara dapat dipercaya, pada tahap itu, kualitas pengawasan akan benar-benar rentan terhadap otomatisasi, karena keputusan baru akan dibentuk hanya berdasarkan keputusan sebelumnya. Namun, itu akan meninggalkan pemangku kepentingan tanpa seseorang untuk menendang, atau model bisnis yang layak. Ini juga akan membuat peran tersebut sangat tidak stabil dan berisiko, bahkan dalam iklim dengan tingkat pengangguran yang rendah.

Mengisolasi profesional yang berkualifikasi seperti dokter dan arsitek ke dalam posisi ‘penanda tangan’ yang terbayar dengan baik tetapi sangat terbebani kemungkinan akan mengikis nilai mereka dalam peran tersebut, seiring waktu: semakin jauh pengalaman lapangan mereka di masa lalu, semakin ‘teoritis’ keputusan mereka bisa menjadi, karena domain yang mereka tinggalkan terus berkembang dalam ketidakhadiran mereka.

(Ini sudah familiar bahkan dalam budaya bisnis sebelum AI, dalam bentuk staf terampil yang maju ke manajemen dan menjadi semakin tidak menyentuh dengan perkembangan baru, akhirnya melemahkan nilai mereka sebagai pengawas dan pengorganisir. Ini juga familiar bagi penggemar Star Trek: TNG , dalam bentuk Pakleds – sebuah ras yang menggunakan teknologi canggih secara luas, tetapi tidak lagi tahu cara membuat atau memperbaikinya.)

Masuk ke eksekusi telah secara historis berfungsi sebagai tempat pelatihan untuk ahli masa depan; tetapi jika otomatisasi menghilangkan tugas-tugas rutin melalui mana penilaian dikembangkan, pasokan pengawas yang mampu akan menurun, para penulis sarankan.

Demikian, makalah tersebut menunjukkan paradoks: semakin kuat sistem agen menjadi, semakin masyarakat akan bergantung pada stok keahlian manusia yang sistem tersebut mungkin merusak.

Dan mari kita ingat bahwa ini bukanlah dalam cara apa pun masalah teknis, atau dapat diselesaikan dengan solusi teknis. Dalam banyak cara sindrom ini menunjukkan ekivalen logistik dari keruntuhan model AI – kecuali bahwa di sini kita mempertimbangkan merusaknya model ekonomi.

‘Dari perspektif kebijakan, tantangan inti adalah asimetri struktural yang mendalam: keuntungan penerapan AI diprivatisasi secara agresif, sementara risiko sistemik disosialisasikan. Perusahaan dan individu menangkap keuntungan dari otomatisasi sementara mengexternalisasi risiko ekor yang menghancurkan.

‘Tanpa infrastruktur verifikasi yang dibagikan dan harga tanggung jawab yang ketat, pasar akan rasional bergeser menuju Ekonomi yang Dikosongkan – kesetimbangan yang ditandai dengan aktivitas yang diukur secara eksplosif, tetapi kontrol manusia yang secara fundamental dikosongkan.’

Kesimpulan: Krisis yang Berbeda

Para penulis mendefinisikan krisis yang diprediksi sebagai kesenjangan pengukuran, di mana proses yang dapat diukur dapat diotomatisasi menjauh dari semua kontribusi manusia, meninggalkan n-keras atau n-hukum proses yang masih memerlukan keahlian manusia.

Namun, pengalaman istri saya menunjukkan bahwa kompleksitas atau kesulitan suatu proses tidak selalu terkait dengan kebutuhan akan akuntabilitas dalam proses tersebut; banyak hal yang dia ‘tandatangani’ mewakili masalah atau perhitungan yang sepele dalam diri mereka sendiri, tetapi memiliki konsekuensi dalam pelanggaran. Dan semakin litigius budaya bisnis menjadi, semakin underwriter dan investor akan memerlukan akuntabilitas manusia di seluruh proses yang lebih luas.

Jadi, transisi ke ekonomi verifikasi dapat menyebabkan krisis yang berbeda dari yang saat ini menjadi sorotan. Masalah dalam hal ini tidak akan menjadi apakah AI dapat menghasilkan lebih banyak, tetapi apakah lembaga dapat memverifikasi cukup dari apa yang dihasilkan untuk menerjemahkan kecerdasan mesin menjadi nilai yang tahan lama.

Karena kecerdasan mesin mungkin segera berkembang tanpa preseden, dan ketersediaan waktu manusia yang sesuai tidak dapat mengikuti dengan kecepatan itu, masalah yang diuraikan dalam karya baru ini tampaknya akan segera muncul – bahkan jika mungkin awalnya tenggelam oleh dampak ekonomi yang lebih luas dari adopsi AI.

* Makalah ini terlalu panjang untuk dipecah dalam cara yang biasa, dan dalam hal ini tidak sesuai untuk analisis tersebut. Oleh karena itu, saya memutuskan untuk mengomentari dan mempertimbangkan signifikansinya, dan merujuk pembaca ke karya sumber sehingga mereka dapat melakukan hal yang sama.

^† /s

Publikasi pertama Rabu, 25 Februari 2026