Chuyển đổi sang nền kinh tế Xác minh

Việc kiểm tra công việc của AI có thể trở thành một lĩnh vực quan trọng trong nền kinh tế học máy mới; một lĩnh vực sẽ phải mở rộng đáng kể, và không thể được tự động hóa. Nhưng khi thời gian trôi qua, các ‘chuyên gia’ con người có thể sẽ suy giảm về chất lượng.

Ý kiến. Vợ tôi là một kiến trúc sư trong một trong những bộ máy quan liêu tắc nghẽn và căng thẳng nhất ở châu Âu. Một phần quan trọng của giá trị giáo dục của cô nằm ở việc có được và duy trì quyền ký tên – một chứng chỉ tốn kém phải được đăng ký lại mỗi năm, và cho phép cô ký tên vào các đề xuất có thể có giá trị lên tới hàng trăm nghìn, thậm chí hàng triệu euro.

Cô ấy nói với tôi rằng đây không phải là phần khó nhất trong công việc của cô, vì nó chỉ chính thức hóa các tính toán của cô hoặc của người khác, và vì mục đích này, công việc bên ngoài không thường khó để kiểm tra.

Về cơ bản – như thường là trường hợp khi bổ nhiệm các CEO – con dấu này (thực sự là một con dấu) chủ yếu cung cấp cho các bên liên quan một người để trách móc nếu mọi thứ đi sai. Trong việc đảm bảo trách nhiệm, nó cũng tạo điều kiện cho bảo hiểm trách nhiệm và sự tự tin của nhà đầu tư, điều này sẽ không thể có được nếu không có những đảm bảo như vậy.

Đây là lần thứ hai trong đời tôi tôi thấy quá trình này hoạt động trực tiếp; 25 năm trước, tôi đã đính hôn với một bác sĩ ung thư trong một bộ máy quan liêu khác nổi tiếng là ì ạch, Ý, và tôi đã thấy mức độ mà chữ ký chuyên môn của cô là giai đoạn cuối cùng trong một chuỗi niềm tin mà nhiều người khác ngoài cô phải đóng góp chuyên môn của họ.

Tôi đã nghe từ cả người bạn cũ của tôi, vào thời điểm đó, và gần đây hơn là vợ tôi, rằng nghề nghiệp của họ bị đầy rẫy những kẻ gian dối có trình độ bán dấu hiệu của họ và tránh những công việc ban đầu hoặc hữu ích hơn vì ít lợi nhuận hơn. Những nhà hành nghề hoài nghi như vậy có thể tính phí cao vì họ đại diện cho các nguồn lực khan hiếm và thiết yếu.

Kiểm tra nó

Chủ đề này đến trong tâm trí tôi khi tôi偶然 gặp một bài báo mới và rộng lớn ngày hôm nay, có tiêu đề Một số Kinh tế học Đơn giản về AGI. Trong đó, ba nhà nghiên cứu từ MIT, Đại học Washington ở St. Louis và UCLA, mô tả một tương lai gần nơi động lực khủng khiếp, giết việc hướng tới tự động hóa AI va chạm với nhu cầu về những người chịu trách nhiệm trong thế giới thực trong các kịch bản có rủi ro cao – từ đó dẫn đến một nền kinh tế mới của xác minh con người, chứng nhận và trách nhiệm*.

Bài báo này trái ngược với cách tưởng tượng hiện tại của truyền thông về các lĩnh vực kinh doanh bị thu hẹp với các văn phòng rộng lớn giảm xuống chỉ còn một người ‘giám sát’, những quyết định của người đó được sử dụng làm dữ liệu đào tạo để (hy vọng) sa thải thậm chí còn sót lại những mảnh thịt cuối cùng^†.

Thay vào đó, các tác giả tin rằng các xem xét thực tế và yêu cầu tuân thủ sẽ tập trung sự chú ý lớn vào những con người ‘đóng dấu’ mà làm hài lòng bộ phận pháp lý của một công ty (AI / con người / AI hỗ trợ):

‘Đối với các công ty, thông tin chiến lược cốt lõi là xác minh không còn là một chức năng tuân thủ đơn thuần, mà là một công nghệ sản xuất chính — và ngày càng trở thành công nghệ phòng thủ nhất của họ. Điều này đòi hỏi một sự thay đổi cấu trúc: đầu tư mạnh mẽ vào khả năng quan sát, mở rộng sự thật cơ bản cấp xác minh, và tái tổ chức xung quanh một cấu trúc ‘sandwich’ (mục đích con người → thực hiện máy → xác minh và bảo hiểm con người).

‘Trong một nền kinh tế mà đầu ra thô được hàng hóa, lợi thế cạnh tranh di chuyển đến tài năng và dữ liệu khan hiếm có khả năng điều khiển và chứng nhận hệ thống đại lý — tạo ra hiệu ứng mạng không ở đầu ra thô, mà ở kết quả đáng tin cậy.’

Các tác giả đưa ra giả thuyết rằng ràng buộc tăng trưởng xác định có thể không phải là trí tuệ — mà AI đã ‘ngắt kết nối khỏi sinh học’ — mà độ rộng xác minh.

Chuyển đổi Giá trị sang Xác minh Con người

Bài báo mô tả sự chuyển dịch hướng tới AGI như một sự phân kỳ ngày càng tăng giữa chi phí sản xuất đầu ra máy và chi phí kiểm tra đầu ra đó — thứ sau vẫn gắn liền với thời gian con người有限 và kinh nghiệm sống.

Sự tạo ra kế hoạch, báo cáo, thiết kế và khuyến nghị sẽ trở nên rẻ và dồi dào, trong khi việc xác định những gì trong số đó là âm thanh, định hướng, và an toàn đủ để hành động sẽ trở thành ‘chức năng khan hiếm’. Giới hạn hiệu quả về triển khai sẽ do đó không phải là bao nhiêu đầu ra hệ thống có thể sản xuất, mà là bao nhiêu đầu ra có thể được xác minh một cách đáng tin cậy.

Do đó, thay vì thưởng cho kỹ năng chuyên môn hóa ngày càng tăng trong các nhiệm vụ có thể đo lường, hệ thống, các tác giả dự đoán, sẽ bắt đầu thưởng cho khả năng đo lường: công việc có thể được tham số hóa sẽ trôi dạt về hàng hóa vì chi phí thực hiện gần với chi phí biên của tính toán, với giá trị tích lũy thay vào đó trong sự thật cơ bản chất lượng cao, đường dẫn kiểm toán đáng tin cậy, và các cơ chế tổ chức để chỉ định và hấp thụ trách nhiệm.

Do đó, trong một nền kinh tế xác minh, lợi thế sẽ nằm ít hơn trong việc sản xuất nội dung, và nhiều hơn trong việc chứng nhận kết quả, và bảo hiểm rủi ro gắn liền với chúng.

Nếu tự động hóa tiếp tục tăng tốc trong khi xác minh vẫn bị giới hạn bởi thời gian và sự chú ý của con người, bài báo dự đoán rằng một Nền kinh tế Rỗng sẽ xuất hiện, nơi, khi chi phí tự động hóa công việc giảm, nhiều tác nhân hơn sẽ được triển khai vì nó có ý nghĩa kinh tế — mặc dù khả năng kiểm tra đầu ra của họ sẽ không tăng với tốc độ tương tự. Trong kịch bản đó, tỷ lệ công việc thực sự được xác minh sẽ giảm, với tất cả các hậu quả tiêu cực mà nó mang lại.

Ngược lại, một Nền kinh tế Tăng cường sẽ đảm bảo rằng khả năng xác minh sẽ mở rộng cùng với tự động hóa. Điều này sẽ liên quan đến việc đầu tư có chủ ý vào đào tạo có cấu trúc để bảo tồn chuyên môn, cũng như các khuôn khổ trách nhiệm mới có thể hấp thụ rủi ro. Triển khai sẽ gắn liền với những gì thực sự có thể được kiểm tra và bảo hiểm — hiệu quả, một nút thắt cổ rất cũ được đưa lên sân khấu bởi một sự phát triển công nghệ chưa từng có:

‘Trong lĩnh vực công nghệ, mô hình doanh thu thống trị sẽ chuyển từ kiếm tiền từ quyền truy cập phần mềm (Phần mềm như một Dịch vụ) sang kiếm tiền từ kết quả (Phần mềm như Lao động). Do đó, các công ty sẽ được đánh giá chủ yếu dựa trên khả năng hấp thụ rủi ro đuôi của họ thông qua Trách nhiệm như một Dịch vụ.

‘Thực hiện hiện đã có thể mở rộng vô hạn; khả năng pháp lý và tài chính để hấp thụ thất bại không thể tránh khỏi của nó là nút thắt cổ mới.’

Sự giảm dần

Thật vậy, việc bảo tồn chuyên môn lĩnh vực trong con người là rất quan trọng đối với vấn đề, vì một văn hóa giám sát công nghiệp hóa, theo các tác giả, sẽ rủi ro suy giảm chất lượng của những người thực hiện việc giám sát — vì các thế hệ giám sát tiếp theo sẽ không còn có kinh nghiệm trực tiếp và sống trong các lĩnh vực yêu cầu xác minh.

Có thể lập luận rằng, tại giai đoạn đó, chất lượng giám sát thực sự sẽ dễ bị tự động hóa, vì các quyết định mới sẽ được hình thành chỉ dựa trên cơ sở các quyết định trước đó. Tuy nhiên, điều đó sẽ để lại các bên liên quan không có người để trách móc, hoặc một mô hình kinh doanh khả thi. Nó cũng sẽ khiến vai trò đó trở nên dễ thay đổi và đầy rủi ro, đến mức không hấp dẫn, ngay cả trong một khí hậu thất nghiệp thấp.

Cô lập các chuyên gia có trình độ như bác sĩ và kiến trúc sư vào một vị trí ‘đóng dấu’ được trả lương cao nhưng gánh nặng nặng nề có thể sẽ làm suy giảm giá trị của họ trong vai trò đó theo thời gian: càng xa trong quá khứ kinh nghiệm thực tế của lĩnh vực, các quyết định của họ có thể trở nên ‘lý thuyết’ hơn, vì lĩnh vực bị bỏ rơi của họ tiếp tục phát triển trong sự vắng mặt của họ.

(Điều này quen thuộc ngay cả trong văn hóa kinh doanh trước AI, dưới dạng nhân viên có kỹ năng tiến bộ vào quản lý và trở nên ngày càng mất liên lạc với các phát triển mới, cuối cùng làm suy giảm giá trị của họ như những người giám sát và tổ chức. Nó cũng quen thuộc với Star Trek: TNG fan, dưới dạng Pakleds — một chủng tộc sử dụng công nghệ tiên tiến rộng rãi, nhưng không còn biết cách tạo ra hoặc sửa chữa nó.)

Thực hiện cấp độ đầu vào đã từng là sân tập cho các chuyên gia tương lai; nhưng nếu tự động hóa loại bỏ các nhiệm vụ thường xuyên mà phán quyết được nuôi dưỡng, nguồn cung cấp các xác minh viên có khả năng sẽ giảm, các tác giả đề xuất.

Do đó, bài báo báo trước một nghịch lý: càng mạnh, các hệ thống đại lý trở nên, xã hội sẽ càng phụ thuộc vào một lượng chuyên môn con người mà những hệ thống đó có thể làm suy giảm.

Và hãy nhớ rằng đây không phải là bất kỳ cách nào một vấn đề kỹ thuật, cũng không dễ bị giải quyết bằng giải pháp công nghệ. Theo nhiều cách, hội chứng này gợi ý đến tương đương hậu cần của sự sụp đổ mô hình AI — ngoại trừ ở đây chúng ta đang xem xét sự suy giảm của một mô hình kinh tế.

‘Từ góc độ chính sách, thách thức cốt lõi là một sự bất đối xứng cấu trúc sâu sắc: lợi ích của việc triển khai AI được tư nhân hóa mạnh mẽ, trong khi rủi ro hệ thống được xã hội hóa. Các công ty và cá nhân nắm bắt lợi thế của tự động hóa trong khi externalizing rủi ro đuôi thảm khốc.

‘Không có cơ sở hạ tầng xác minh được chia sẻ và định giá trách nhiệm nghiêm ngặt, thị trường sẽ trôi dạt một cách hợp lý đến một Nền kinh tế Rỗng — một trạng thái cân bằng được đặc trưng bởi hoạt động đo lường nổ, nhưng kiểm soát con người cơ bản bị rỗng.’

Kết luận: Một Khủng hoảng Khác

Các tác giả định nghĩa khủng hoảng dự đoán là một khoảng cách đo lường, trong đó các quá trình có thể đo lường được tự động hóa khỏi mọi đóng góp của con người, để lại n-hard hoặc n-quy trình pháp lý vẫn yêu cầu chuyên môn con người.

Tuy nhiên, kinh nghiệm của vợ tôi cho thấy rằng độ phức tạp hoặc khó khăn của một quá trình không nhất thiết liên quan đến nhu cầu về trách nhiệm trong quá trình đó; nhiều thứ mà cô ấy ‘ký tên’ đại diện cho các vấn đề hoặc tính toán nhỏ trong chính chúng, nhưng có hậu quả trong trường hợp vi phạm. Và văn hóa kinh doanh càng trở nên đầy rẫy vụ việc, những người bảo hiểm và nhà đầu tư sẽ yêu cầu trách nhiệm con người trên một loạt các quy trình rộng lớn hơn.

Vì vậy, chuyển đổi sang nền kinh tế xác minh có thể gây ra một khủng hoảng khác với khủng hoảng đang thu hút các tiêu đề hiện tại. Vấn đề trong trường hợp đó sẽ không phải là liệu AI có thể sản xuất nhiều hơn, mà liệu các tổ chức có thể xác minh đủ những gì được sản xuất để chuyển đổi trí tuệ máy thành giá trị bền vững.

Kể từ khi trí tuệ máy có thể mở rộng quy mô mà không có tiền lệ, và sự sẵn có của thời gian con người có thể áp dụng không thể theo kịp tốc độ đó, các vấn đề được nêu trong công việc mới dường như sẽ xuất hiện rất nhanh — ngay cả khi chúng có thể bị nhấn chìm ban đầu bởi các ramification kinh tế rộng lớn hơn của việc áp dụng AI.

* Bài báo quá dài để phân tích theo cách thông thường, và trong mọi trường hợp, không phù hợp với loại phân tích đó. Do đó, tôi quyết định bình luận về nó và xem xét ý nghĩa của nó, và đề cập người đọc đến công việc nguồn để họ có thể làm như vậy.

^† /s

Được xuất bản lần đầu vào thứ Tư, ngày 25 tháng 2 năm 2026