Human-in-the-loop Actually Có Nghĩa Là Gì?

Vào đầu thế kỷ 20, nhà triết học người Anh Gilbert Ryle đã tạo ra thuật ngữ “ghost in the machine”. Viết trong The Concept of Mind, Ryle sử dụng ẩn dụ này để phản đối sự phân chia giữa tâm trí và cơ thể, cho rằng nhận thức và hành động vật lý là không thể tách rời, là một phần của một hệ thống duy nhất chứ không phải là hai phần tương tác.

Với sự ra đời của trí tuệ nhân tạo, một ẩn dụ tương tự hiện ra khi nói về người dùng các công cụ trí tuệ nhân tạo để tăng năng suất: thuật ngữ “human-in-the-loop” thường được sử dụng. Nếu con người và hệ thống thông minh giờ đây gắn kết hơn bao giờ hết, chúng ta đang xây dựng một sự kết hợp liền mạch hay tạo ra một ảo tưởng thuận tiện về kiểm soát?

Các công ty khởi nghiệp dựa rất nhiều vào khái niệm này để nói về các công cụ của họ. Mặc dù nó hứa hẹn mang lại sự đổi mới và an tâm, nhưng thực tế thường phức tạp hơn. Trách nhiệm có thể dễ dàng trở nên模糊 và trách nhiệm giải trình trở nên khó theo dõi hơn.

Khi các hệ thống trí tuệ nhân tạo đi sâu vào các lĩnh vực nhạy cảm – từ giáo dục đến chiến tranh – các став không còn là trừu tượng. Human-in-the-loop thực sự có nghĩa là gì và liệu đây chỉ là một cách nói tránh để khi họ biến mất hoàn toàn?

1. Human-in-the-loop như một lá chắn cho trách nhiệm

Nếu sử dụng một cách cẩn thận, thuật ngữ human-in-the-loop có thể là một cách dễ dàng để chuyển trách nhiệm mà không thực sự tham gia vào nó. Nhiều người nhận thấy rằng một chữ ký của con người ở cuối quá trình không đảm bảo tính toàn vẹn đạo đức, đặc biệt nếu hệ thống cơ bản được thiết kế kém hoặc không được hiểu đầy đủ.

Maysa Hawwash, người sáng lập và CEO của Scale X, đã viết về sự trượt dốc khỏi trách nhiệm và thẳng thắn về cách khái niệm này thường được triển khai. “Thực sự không khác gì so với các cách khác của việc chuyển gánh nặng.” Hawwash nói với Startup Beat, sử dụng ví dụ về cách các nhà quản lý nhân sự thường sử dụng chính sách ký tên để chuyển gánh nặng trách nhiệm của công ty. “Nếu bạn có chính sách này và mọi người đọc và ký vào nó, thì về mặt kỹ thuật, công ty không phải chịu trách nhiệm, đúng không?” cô nói.

Điều gì nổi lên là một mẫu quen thuộc trên các hệ thống doanh nghiệp, nơi trách nhiệm được chuyển giao thay vì bị loại bỏ. Hawwash xem đây là cách thoát dễ dàng, tránh suy nghĩ nghiêm túc hoặc hiểu các lĩnh vực mà nó có thể ảnh hưởng đến người dân hoặc cộng đồng. “Vì vậy, bạn đang chuyển gánh nặng, và sau đó không quan trọng nếu mọi người hiểu chính sách, không quan trọng nếu chính sách có ý nghĩa.”

Trong khuôn khổ này, “human-in-the-loop” có nguy cơ trở thành ít hơn về sự can thiệp có ý nghĩa và nhiều hơn về sự che chắn thủ tục. Nguy cơ ở đây không chỉ là ngữ nghĩa. Khi giám sát bị giảm xuống thành một chữ ký, vai trò của con người trở nên biểu tượng hơn là thực chất.

Hawwash tham khảo một tội ác chiến tranh gần đây – trường học ở Minab, Iran – nơi con người đã phê duyệt một cuộc tấn công nhưng sự hiện diện của một người quyết định không nhất thiết tương đương với sự rõ ràng đạo đức hoặc sự xem xét đầy đủ. “Khi bạn đang trong chiến tranh hoặc bạn đang thực hiện một cuộc phẫu thuật phức tạp, bạn không có sự sang trọng của thời gian để sử dụng human-in-the-loop như một lá chắn.”

2. Thiết kế cho trách nhiệm, không chỉ giám sát

Giải pháp thay thế không phải là từ bỏ các hệ thống human-in-the-loop, mà là xem xét chúng một cách nghiêm túc như các cam kết thiết kế. Điều này có nghĩa là di chuyển vượt ra ngoài giám sát biểu tượng hướng tới các cấu trúc trách nhiệm có chủ ý.

“Có một cuộc đua lớn để đưa nhiều trí tuệ nhân tạo hơn vào thị trường. Không có nhiều suy nghĩ về thiết kế, như ảnh hưởng hạ游 đến cộng đồng, đến người dân hoặc người dùng cuối,” Hawwash nói.

Tốc độ đã trở thành biến cạnh tranh thống trị. Trong cuộc đua đó, trách nhiệm thường bị hoãn lại thay vì được nhúng vào. Kết quả là một mô hình đạo đức phản ứng, nơi giải quyết vấn đề xảy ra sau khi triển khai thay vì dự đoán chúng trong quá trình phát triển.

Khả năng tiếp cận có thể tăng tốc việc áp dụng, nhưng nó cũng dẫn đến hậu quả được khuếch đại. Các hệ thống không còn bị giới hạn trong người dùng kỹ thuật, vì chúng có thể định hình quyết định cho những người có mức độ hiểu biết và ngữ cảnh khác nhau. Trong môi trường như vậy, trách nhiệm không thể được chuyển giao cho người dùng cuối.

3. Human-in-the-loop như độ chính xác và trách nhiệm giải trình

Abhay Gupta, người đồng sáng lập Frizzle, cung cấp một quan điểm hoạt động – dựa trên việc xây dựng một hệ thống mà giám sát của con người là thực tế và cần thiết.

Công ty của ông xuất phát từ một vấn đề cụ thể: giáo viên làm việc quá giờ. “Trong thành phố, bạn nghe về các nhà băng và tư vấn làm việc 70 giờ một tuần, nhưng bạn không nghe về giáo viên làm việc nhiều như vậy. Vì vậy, xuất于 sự tò mò, chúng tôi đã phỏng vấn hàng trăm giáo viên và trên toàn bộ, việc chấm điểm là việc tiêu tốn thời gian lớn nhất của họ.”

Tự động hóa việc chấm điểm có thể seem như một việc đơn giản, nhưng sự phức tạp của toán viết tay giới thiệu các hạn chế thực sự cho trí tuệ nhân tạo. “Có vấn đề về độ chính xác. Trí tuệ nhân tạo không hoàn hảo, vì vậy chúng tôi đã xây dựng một hệ thống human-in-the-loop. Nếu trí tuệ nhân tạo không tự tin – như với chữ viết tay lộn xộn – nó sẽ đánh dấu nó để giáo viên xem xét và phê duyệt hoặc từ chối.”

Ở đây, vai trò của con người không chỉ là trang trí. Hệ thống rõ ràng xác định sự không chắc chắn của nó và chuyển các trường hợp đó đến con người. “Đối với chúng tôi, đó là về độ chính xác. Luôn sẽ có các trường hợp biên – có thể 1-3% – nơi trí tuệ nhân tạo gặp khó khăn, vì vậy con người cần phải can thiệp.”

Cách tiếp cận này định hình lại human-in-the-loop như một cơ chế kiểm soát chất lượng. Nhưng Gupta đẩy mạnh hơn: “Ở cốt lõi, trí tuệ nhân tạo không phải là 100% chính xác – nó có thể ảo giác hoặc tạo ra đầu ra sai. Human-in-the-loop hoạt động như kiểm tra chất lượng cuối cùng trước khi kết quả đến người dùng cuối. Nó cũng về trách nhiệm. Ai đó phải chịu trách nhiệm về đầu ra, và hiện tại, đó vẫn phải là con người.”

Quan trọng là, vai trò của con người cũng bảo tồn một thứ gì đó ít có thể lượng hóa hơn: khía cạnh quan hệ của việc giảng dạy. “Nó cũng về việc bảo tồn khía cạnh con người của việc giảng dạy. Các giáo viên có phong cách khác nhau, vì vậy chúng tôi cho phép họ tùy chỉnh cách thức phản hồi được giao tiếp”

Redefining Human-in-the-loop

Thuật ngữ “human in the loop” mang một sự đơn giản an tâm. Nó gợi ý rằng không论 hệ thống của chúng ta trở nên tiên tiến như thế nào, con người vẫn kiểm soát và chúng ta không chỉ là “ghosts in the machine”. Nhưng khi các công ty khởi nghiệp ngày càng triển khai trí tuệ nhân tạo trong các môi trường có rủi ro cao, sự an tâm đó đòi hỏi sự kiểm tra.

Vấn đề sâu xa là thiết kế. Nếu rủi ro của một hệ thống không được hiểu rõ hoặc bị giảm thiểu một cách cố ý, việc chèn một con người vào cuối không làm gì để sửa chữa các khiếm khuyết cơ bản. Quan trọng là, nó cũng có nghĩa là định nghĩa vai trò của con người không phải là một sự cố, mà là một phần không thể thiếu của hoạt động của hệ thống. Con người trong vòng lặp không nên chỉ phê duyệt kết quả. Các công ty khởi nghiệp nên tìm cách trao quyền cho nhân viên của họ để định hình chúng, thách thức chúng, và khi cần, vượt qua chúng với thẩm quyền.