Chuyển đổi sang nền kinh tế xác thực

Công việc kiểm tra của AI có thể trở thành một lĩnh vực quan trọng trong nền kinh tế học máy mới; một lĩnh vực sẽ phải mở rộng quy mô đáng kể và không thể được tự động hóa. Nhưng khi thời gian trôi qua, các “chuyên gia” con người có thể sẽ suy giảm chất lượng.

Ý kiến. Vợ tôi là một kiến trúc sư trong một trong những cơ quan hành chính tắc nghẽn và căng thẳng nhất ở châu Âu. Một phần quan trọng của giá trị giáo dục của cô ấy nằm ở việc có được và duy trì quyền ký tên – một chứng chỉ tốn kém phải được đăng ký lại mỗi năm, và cho phép cô ấy ký tên vào các đề xuất có thể có giá trị lên tới hàng trăm nghìn, thậm chí hàng triệu euro.

Cô ấy cho tôi biết rằng đây không phải là phần khó nhất của công việc, vì nó chỉ chính thức hóa các tính toán của cô ấy hoặc của người khác, và đối với mục đích này, công việc bên ngoài không thường khó kiểm tra.

Nguyên tắc là – như thường thấy khi bổ nhiệm các CEO – dấu ấn này (nó thực sự là một dấu ấn) chủ yếu cung cấp cho các bên liên quan một người để trách móc nếu mọi thứ đi sai. Trong việc đảm bảo trách nhiệm, nó cũng tạo điều kiện cho bảo hiểm và sự tự tin của nhà đầu tư, điều mà không thể có được nếu không có những đảm bảo như vậy.

Đây là lần thứ hai trong đời tôi chứng kiến quá trình này trực tiếp; 25 năm trước, tôi đã đính hôn với một bác sĩ ung thư trong một cơ quan hành chính khác của EU, Italy, và thấy được mức độ mà chữ ký chuyên môn của cô ấy là giai đoạn cuối cùng trong một chuỗi tin cậy mà nhiều người khác ngoài cô ấy phải đóng góp chuyên môn của mình.

Tôi nghe từ cả người bạn đời cũ của tôi, trong thời gian đó, và gần đây hơn là vợ tôi, rằng nghề nghiệp của họ bị đầy những kẻ bán chữ ký và tránh những công việc ban đầu hoặc hữu ích hơn vì ít lợi nhuận. Những người thực hành như vậy có thể tính phí cao vì họ đại diện cho nguồn lực khan hiếm và thiết yếu.

Kiểm tra

Chủ đề này đến với tôi khi tôi tình cờ thấy một bài báo mới và rộng lớn, có tiêu đề Một số kinh tế học đơn giản về AGI. Trong đó, ba nhà nghiên cứu từ MIT, Đại học Washington ở St. Louis và UCLA, mô tả một tương lai gần nơi động lực tự động hóa do AI va chạm với nhu cầu về những người chịu trách nhiệm trong các kịch bản có rủi ro cao – dẫn đến một nền kinh tế mới về xác thực, phê chuẩn và trách nhiệm của con người*.

Bài báo này trái ngược với cách tưởng tượng hiện tại của các phương tiện truyền thông về các lĩnh vực kinh doanh bị thu hẹp với các văn phòng rộng lớn giảm xuống chỉ còn một người “giám sát”, những quyết định của người đó được sử dụng làm dữ liệu đào tạo để (hy vọng) sa thải thậm chí còn ít肉 hơn^†.

Thay vào đó, các tác giả tin rằng các yếu tố thực tế và yêu cầu tuân thủ sẽ tập trung sự chú ý lớn vào những người “đóng dấu” con người giúp cho bộ phận pháp lý của một công ty (AI / con người / hỗ trợ AI) yên tâm:

‘Đối với các công ty, thông tin chiến lược cốt lõi là xác thực không còn là một chức năng tuân thủ đơn thuần, mà là một công nghệ sản xuất chính – và ngày càng trở thành công nghệ phòng thủ tốt nhất của họ. Điều này đòi hỏi một sự thay đổi cấu trúc: đầu tư mạnh mẽ vào khả năng quan sát, mở rộng sự thật cơ bản có thể xác thực, và tổ chức lại xung quanh một cấu trúc “sandwich” (ý định con người → thực hiện máy → xác thực và bảo hiểm con người).

‘Trong một nền kinh tế mà đầu ra thô được hàng hóa, lợi thế cạnh tranh di chuyển đến tài năng và dữ liệu khan hiếm có khả năng điều khiển và chứng nhận hệ thống đại lý – tạo ra hiệu ứng mạng không phải trong đầu ra thô, mà trong kết quả được tin cậy.’

Các tác giả đưa ra giả thuyết rằng ràng buộc xác định về tăng trưởng có thể không phải là trí tuệ – mà AI đã “ngắt kết nối khỏi sinh học” – mà là độ rộng xác thực.

Giá trị chuyển dịch sang xác thực con người

Bài báo mô tả sự chuyển dịch sang AGI như một sự phân kỳ ngày càng tăng giữa chi phí sản xuất đầu ra máy và chi phí kiểm tra đầu ra đó – thứ sau vẫn gắn liền với thời gian và kinh nghiệm sống hữu hạn của con người.

Sản xuất kế hoạch, báo cáo, thiết kế và đề xuất sẽ trong kịch bản này trở nên rẻ và dồi dào, trong khi việc xác định xem những thứ đó có hợp lý, đồng bộ và an toàn đủ để hành động sẽ trở thành ‘chức năng khan hiếm’. Giới hạn hiệu quả về triển khai sẽ do đó không phải là số lượng đầu ra mà hệ thống có thể sản xuất, mà là bao nhiêu đầu ra có thể được xác thực một cách đáng tin cậy.

Vậy, thay vì thưởng cho kỹ năng chuyên sâu trong các nhiệm vụ có thể đo lường, hệ thống, theo các tác giả, sẽ bắt đầu thưởng cho khả năng đo lường: công việc có thể được tham số hóa sẽ trôi dạt về phía hàng hóa, với giá trị tích lũy thay vào đó trong sự thật cơ bản chất lượng cao, hồ sơ kiểm toán đáng tin cậy và các cơ chế tổ chức để phân bổ và hấp thụ trách nhiệm.

Do đó, trong một nền kinh tế xác thực, lợi thế sẽ nằm ít hơn trong việc sản xuất nội dung, và nhiều hơn trong việc chứng nhận kết quả, và bảo hiểm rủi ro gắn liền với chúng.

Nếu tự động hóa tiếp tục tăng tốc trong khi xác thực vẫn bị giới hạn bởi thời gian và chú ý của con người, bài báo dự đoán rằng một Nền kinh tế rỗng sẽ xuất hiện, nơi, khi chi phí tự động hóa công việc giảm, nhiều tác nhân hơn sẽ được triển khai vì nó có ý nghĩa kinh tế – mặc dù khả năng kiểm tra đầu ra của chúng sẽ không tăng với tốc độ như vậy. Trong kịch bản đó, tỷ trọng công việc thực sự được xác thực sẽ giảm, với tất cả các hậu quả tiêu cực mà nó mang lại.

Ngược lại, một Nền kinh tế tăng cường sẽ đảm bảo rằng khả năng xác thực sẽ mở rộng cùng với tự động hóa. Điều này sẽ liên quan đến việc đầu tư có chủ ý vào đào tạo có cấu trúc để bảo tồn chuyên môn, cũng như các khung pháp lý trách nhiệm mới có thể hấp thụ rủi ro. Triển khai sẽ sau đó được gắn với những gì thực sự có thể được kiểm tra và bảo hiểm – hiệu quả, một nút thắt cổ chai rất cũ được đưa lên sân khấu bởi một sự phát triển công nghệ chưa từng có:

‘Trong lĩnh vực công nghệ, mô hình doanh thu thống trị sẽ chuyển từ việc kiếm tiền từ việc truy cập phần mềm (Phần mềm như một Dịch vụ) sang việc kiếm tiền từ kết quả (“Phần mềm như Lao động”). Do đó, các công ty sẽ được đánh giá chủ yếu dựa trên khả năng hấp thụ rủi ro đuôi thông qua Trách nhiệm như một Dịch vụ.

‘Thực hiện hiện đã có thể mở rộng vô hạn; khả năng pháp lý và tài chính để hấp thụ thất bại không thể tránh khỏi là nút thắt cổ chai mới.’

Hiệu ứng giảm dần

Thực tế, việc bảo tồn chuyên môn trong lĩnh vực của con người là rất quan trọng đối với vấn đề, vì một văn hóa giám sát công nghiệp hóa, theo các tác giả, sẽ có nguy cơ suy giảm chất lượng của những người thực hiện việc giám sát – vì các thế hệ giám sát viên sau này sẽ không còn kinh nghiệm trực tiếp và sống trong các lĩnh vực yêu cầu xác thực.

Được tranh luận, tại giai đoạn đó, chất lượng giám sát sẽ thực sự dễ bị tự động hóa, vì các quyết định mới sẽ được hình thành chỉ dựa trên các quyết định trước đó. Tuy nhiên, điều đó sẽ để lại các bên liên quan không có người để trách móc, hoặc một mô hình kinh doanh khả thi. Nó cũng sẽ khiến vai trò như vậy trở nên dễ bị tổn thương và đầy rủi ro, đến mức không hấp dẫn, ngay cả trong một khí hậu thất nghiệp thấp.

Đưa các chuyên gia có chứng chỉ như bác sĩ và kiến trúc sư vào một vị trí “đóng dấu” được trả lương cao nhưng gánh nặng nặng nề có thể sẽ làm xói mòn giá trị của họ trong vai trò đó theo thời gian: càng xa trong quá khứ kinh nghiệm thực tế của họ, các quyết định của họ có thể trở nên “lý thuyết” hơn, vì lĩnh vực bị bỏ rơi của họ tiếp tục phát triển trong sự vắng mặt của họ.

(Điều này quen thuộc ngay cả trong văn hóa kinh doanh trước AI, dưới dạng nhân viên có kỹ năng tiến bộ vào quản lý và trở nên ngày càng mất liên lạc với các phát triển mới, cuối cùng làm suy giảm giá trị của họ như những người giám sát và tổ chức. Nó cũng quen thuộc với Star Trek: TNG những người hâm mộ, dưới dạng Pakleds – một chủng tộc sử dụng công nghệ tiên tiến rộng rãi, nhưng không còn biết cách tạo ra hoặc sửa chữa nó.)

Công việc thực hiện cấp độ đầu vào đã từng là nơi đào tạo cho các chuyên gia tương lai; nhưng nếu tự động hóa loại bỏ các nhiệm vụ thường xuyên thông qua đó phán quyết được nuôi dưỡng, nguồn cung cấp các trình xác thực có khả năng sẽ giảm, theo các tác giả.

Vậy, bài báo báo trước một nghịch lý: càng hệ thống đại lý mạnh mẽ, xã hội sẽ càng phụ thuộc vào một lượng chuyên môn con người mà những hệ thống đó có thể làm xói mòn.

Và hãy nhớ rằng đây không phải là bất kỳ cách nào một vấn đề kỹ thuật, cũng không dễ bị ảnh hưởng bởi một giải pháp kỹ thuật. Trong nhiều cách, hội chứng này gợi ý đến sự tương đương về hậu cần của sự sụp đổ của mô hình AI – ngoại trừ ở đây chúng ta đang xem xét sự suy yếu của một mô hình kinh tế.

‘Từ góc độ chính sách, thách thức cốt lõi là một bất đối xứng cấu trúc sâu sắc: lợi ích của việc triển khai AI được tư nhân hóa mạnh mẽ, trong khi rủi ro hệ thống được xã hội hóa. Các công ty và cá nhân nắm bắt lợi ích của tự động hóa trong khi externalizing rủi ro đuôi thảm khốc.

‘Không có cơ sở hạ tầng xác thực chung và định giá trách nhiệm nghiêm ngặt, thị trường sẽ trôi dạt một cách hợp lý đến một Nền kinh tế rỗng – một trạng thái cân bằng được đặc trưng bởi hoạt động đo lường nổ, nhưng kiểm soát của con người cơ bản bị rỗng.’

Kết luận: Một cuộc khủng hoảng khác

Các tác giả định nghĩa cuộc khủng hoảng dự đoán là một khoảng cách đo lường, nơi các quy trình có thể đo lường được có thể được tự động hóa khỏi mọi đóng góp của con người, để lại các quy trình n-hard hoặc n-pháp lý vẫn đòi hỏi chuyên môn con người.

Tuy nhiên, kinh nghiệm của vợ tôi cho thấy rằng sự phức tạp hoặc khó khăn của một quy trình không nhất thiết liên quan đến nhu cầu về trách nhiệm trong quy trình đó; nhiều thứ mà cô ấy ‘ký tên’ đại diện cho các vấn đề hoặc tính toán nhỏ nhặt, nhưng có hậu quả trong trường hợp vi phạm. Và văn hóa kinh doanh càng trở nên kiện tụng, các nhà đầu tư và bảo hiểm sẽ yêu cầu trách nhiệm con người trên một loạt các quy trình rộng lớn hơn.

Vậy, việc chuyển đổi sang nền kinh tế xác thực có thể gây ra một cuộc khủng hoảng khác với cuộc khủng hoảng đang thu hút các tiêu đề hiện tại. Vấn đề trong trường hợp đó sẽ không phải là liệu AI có thể sản xuất nhiều hơn, mà liệu các tổ chức có thể xác thực đủ những gì được sản xuất để chuyển đổi trí tuệ máy thành giá trị bền vững.

Kể từ khi trí tuệ máy có thể sẽ mở rộng quy mô không có tiền lệ, và sự sẵn có của thời gian áp dụng trường hợp con người không thể theo kịp tốc độ đó, các vấn đề được nêu trong công việc mới dường như sẽ xuất hiện rất nhanh – ngay cả khi chúng có thể bị nhấn chìm ban đầu bởi các tác động kinh tế rộng lớn hơn của việc áp dụng AI.

* Bài báo quá dài để phân tích theo cách thông thường, và trong mọi trường hợp, không phù hợp với loại phân tích đó. Do đó, tôi quyết định bình luận về nó và xem xét ý nghĩa của nó, và giới thiệu người đọc đến công việc nguồn để họ có thể làm như vậy.

^† /s

Được xuất bản lần đầu vào thứ Tư, ngày 25 tháng 2 năm 2026