Human-in-the-Loop Thực Sự Có Nghĩa Là Gì?

Vào đầu thế kỷ 20, nhà triết học người Anh Gilbert Ryle đã tạo ra thuật ngữ “ghost in the machine”. Khi viết trong The Concept of Mind, Ryle sử dụng ẩn dụ này để phản đối sự phân chia giữa tâm trí và cơ thể, cho rằng tâm trí và cơ thể tồn tại như những chất riêng biệt. Đối với Ryle, sự phân chia này là một sai lầm vì nhận thức và hành động vật lý là không thể tách rời, là một phần của một hệ thống duy nhất chứ không phải là hai phần tương tác.

Với sự xuất hiện của AI, một ẩn dụ tương tự hiện ra khi nói về người dùng các công cụ AI để tăng năng suất: “human-in-the-loop” thường được sử dụng. Nếu con người và hệ thống thông minh hiện nay đang kết hợp chặt chẽ hơn bao giờ hết, chúng ta đang xây dựng một sự kết hợp liền mạch hay tạo ra một ảo tưởng thuận tiện về kiểm soát?

Các công ty khởi nghiệp dựa nặng vào khái niệm này để nói về các công cụ của họ. Mặc dù nó hứa hẹn cả sự đổi mới và sự an tâm, nhưng thực tế thường phức tạp hơn. Trách nhiệm có thể dễ dàng trở nên模糊 và trách nhiệm giải trình trở nên khó theo dõi hơn.

Khi các hệ thống AI đi sâu vào các lĩnh vực nhạy cảm – từ giáo dục đến chiến tranh – các став không còn là trừu tượng. Human-in-the-loop thực sự có nghĩa là gì và liệu đây chỉ là một cách nói tránh để khi họ biến mất hoàn toàn?

1. Human-in-the-loop như một lá chắn cho trách nhiệm

Nếu sử dụng một cách cẩu thả, thuật ngữ human-in-the-loop có thể là một cách dễ dàng để chuyển trách nhiệm mà không thực sự tham gia vào nó. Như nhiều người đã nhận thấy, một chữ ký của con người ở cuối quá trình không đảm bảo tính toàn vẹn đạo đức, đặc biệt nếu hệ thống cơ bản được thiết kế kém hoặc không được hiểu đầy đủ.

Maysa Hawwash, người sáng lập và CEO của Scale X, đã viết về sự trượt khỏi trách nhiệm và thẳng thắn về cách khái niệm này thường được triển khai. “Thực sự không giống với các cách khác của việc chuyển gánh nặng.” Hawwash nói với Startup Beat, sử dụng ví dụ về cách các nhà quản lý nhân sự thường sử dụng chính sách ký tên để di chuyển công ty khỏi trách nhiệm. “Nếu bạn có chính sách này và mọi người đọc và ký vào nó, thì như một công ty, kỹ thuật bạn không phải chịu trách nhiệm, đúng không?” cô nói.

Điều gì xuất hiện là một mẫu quen thuộc trên các hệ thống doanh nghiệp nơi trách nhiệm được chuyển giao chứ không bị loại bỏ. Hawwash xem đây là cách thoát khỏi trách nhiệm mà tránh suy nghĩ nghiêm túc hoặc hiểu biết về các lĩnh vực nơi nó có thể ảnh hưởng đến người dân hoặc cộng đồng. “Vì vậy bạn đang chuyển gánh nặng, và sau đó nó không quan trọng nếu mọi người hiểu chính sách, nó không quan trọng nếu chính sách có ý nghĩa.”

Trong khuôn khổ này, “human-in-the-loop” rủi ro trở thành ít hơn về sự can thiệp có ý nghĩa và nhiều hơn về sự che đậy thủ tục. Nguy cơ ở đây không chỉ là ngữ nghĩa. Khi giám sát được giảm xuống thành một chữ ký, vai trò của con người trở nên biểu tượng hơn là thực chất.

Hawwash tham khảo một tội ác quân sự gần đây – trường học ở Minab, Iran – nơi con người đã phê duyệt một cuộc tấn công nhưng sự hiện diện của người quyết định không nhất thiết tương đương với sự rõ ràng về đạo đức hoặc sự suy nghĩ kỹ lưỡng. “Khi bạn đang trong chiến tranh hoặc bạn đang thực hiện một phẫu thuật phức tạp, bạn không có sự sang trọng của thời gian để sử dụng human-in-the-loop như một lá chắn.”

2. Thiết kế cho trách nhiệm, không chỉ giám sát

Giải pháp thay thế không phải là từ bỏ hệ thống human-in-the-loop, mà là xem xét chúng một cách nghiêm túc như các cam kết thiết kế. Điều này có nghĩa là di chuyển vượt ra ngoài giám sát biểu tượng hướng tới các cấu trúc trách nhiệm có chủ đích.

“Có một cuộc đua lớn để đưa nhiều AI hơn vào thị trường. Không có nhiều suy nghĩ về mặt thiết kế, như ảnh hưởng hạ lưu đến cộng đồng, đến người dân hoặc người dùng cuối,” Hawwash nói.

Tốc độ đã trở thành biến cạnh tranh thống trị. Trong cuộc đua đó, trách nhiệm thường bị hoãn lại chứ không phải được nhúng. Kết quả là một mô hình đạo đức phản ứng nơi việc sửa chữa vấn đề xảy ra sau khi triển khai thay vì dự đoán chúng trong quá trình phát triển.

Khả năng tiếp cận có thể tăng tốc việc áp dụng, nhưng nó cũng dẫn đến hậu quả được khuếch đại hơn. Hệ thống không còn bị giới hạn trong người dùng kỹ thuật vì chúng có thể định hình quyết định cho những người có mức độ hiểu biết và ngữ cảnh khác nhau. Trong môi trường như vậy, trách nhiệm không thể được ủy thác cho người dùng cuối.

3. Human-in-the-loop như độ chính xác và trách nhiệm giải trình

Abhay Gupta, đồng sáng lập của Frizzle, cung cấp một quan điểm hoạt động – một quan điểm dựa trên việc xây dựng một hệ thống nơi giám sát của con người là cả thực tế và cần thiết.

Công ty của ông xuất hiện từ một vấn đề cụ thể: giáo viên làm việc quá giờ. “Trong thành phố bạn nghe về các nhà băng và tư vấn làm việc 70 giờ một tuần, nhưng bạn không nghe về giáo viên làm việc nhiều như vậy. Vì vậy, vì tò mò, chúng tôi đã phỏng vấn hàng trăm giáo viên và trên toàn bảng, việc chấm điểm là việc làm tốn thời gian nhất của họ.”

Tự động hóa việc chấm điểm có vẻ như là một việc đơn giản, nhưng sự phức tạp của toán viết tay giới thiệu những hạn chế thực sự cho AI. “Có vấn đề về độ chính xác. AI không phải là hoàn hảo, vì vậy chúng tôi đã xây dựng một hệ thống human-in-the-loop. Nếu AI không tự tin – như với chữ viết tay lộn xộn – nó sẽ đánh dấu nó để giáo viên xem xét và phê duyệt hoặc từ chối.”

Ở đây, vai trò của con người không chỉ là trang trí. Hệ thống rõ ràng xác định sự không chắc chắn của nó và định tuyến các trường hợp đó đến con người. “Đối với chúng tôi, đó là về độ chính xác. Sẽ luôn có các trường hợp biên – có thể 1-3% – nơi AI gặp khó khăn, vì vậy con người cần phải can thiệp.”

Cách tiếp cận này định hình lại human-in-the-loop như một cơ chế kiểm soát chất lượng. Nhưng Gupta đẩy mạnh hơn: “Ở cốt lõi, AI không phải là 100% chính xác – nó có thể ảo giác hoặc sản xuất đầu ra sai. Human-in-the-loop hoạt động như kiểm tra chất lượng cuối cùng trước khi kết quả đến người dùng cuối. Đó cũng là về trách nhiệm. Ai đó phải chịu trách nhiệm về đầu ra, và hiện tại vẫn phải là con người.”

Quan trọng là, vai trò của con người cũng bảo tồn một điều gì đó ít có thể lượng hóa hơn: khía cạnh quan hệ của việc giảng dạy. “Đó cũng là về việc bảo tồn khía cạnh con người của việc giảng dạy. Giáo viên có các phong cách khác nhau, vì vậy chúng tôi cho phép họ tùy chỉnh cách thức phản hồi được giao tiếp”

Định nghĩa lại Human-in-the-loop

Cụm từ “human in the loop” mang một sự đơn giản an tâm. Nó gợi ý rằng không matter hệ thống của chúng ta trở nên tiên tiến như thế nào, con người vẫn kiểm soát và chúng ta không chỉ là “ghosts in the machine”. Nhưng khi các công ty khởi nghiệp ngày càng triển khai AI trong các môi trường có rủi ro cao, sự an tâm đó đòi hỏi sự xem xét kỹ lưỡng.

Vấn đề sâu hơn là thiết kế. Nếu rủi ro của một hệ thống không được hiểu rõ hoặc bị giảm thiểu một cách cố ý, việc chèn một con người vào cuối không làm gì để sửa chữa các khiếm khuyết cơ bản. Quan trọng là, nó cũng có nghĩa là định nghĩa vai trò của con người không phải là một sự cố, mà là một phần không thể thiếu của hoạt động của hệ thống. Một con người trong vòng lặp không chỉ phê duyệt kết quả. Các công ty khởi nghiệp nên tìm cách trao quyền cho nhân viên của họ để định hình chúng, thách thức chúng, và khi cần, vượt qua chúng với thẩm quyền.