AI Vẫn Cần Một Huấn Luyện Viên và Giám Sát Con Người Cần Một Sổ Hướng Dẫn

AI hiện diện ở khắp mọi nơi, và bóng đá chuyên nghiệp cũng không ngoại lệ.

NFL đã giới thiệu Digital Athlete, công cụ sử dụng dữ liệu và AI để giúp các đội xác định các tình huống mà cầu thủ có thể đối mặt với nguy cơ chấn thương cao hơn. Nó kết hợp video và dữ liệu từ buổi tập luyện, thực hành và trận đấu với hàng triệu mô phỏng, cung cấp cho cả 32 đội quyền truy cập vào thông tin xu hướng toàn giải. Các huấn luyện viên và nhân viên đào tạo sau đó dùng thông tin này để phát triển các chương trình phòng ngừa chấn thương, đào tạo và phục hồi cá nhân hoá.

Trong khi công nghệ đang quan sát sân, các huấn luyện viên vẫn chịu trách nhiệm đưa ra quyết định. Khi các tổ chức mở rộng việc sử dụng AI trong các quy trình kinh doanh, bao gồm tuân thủ và điều tra tại nơi làm việc, tiềm năng tự động hoá dường như vô hạn. Nhưng những nhiệm vụ nào AI nên thực hiện, dưới những điều kiện nào, và với mức độ giám sát con người như thế nào?

Đó là nơi một sổ hướng dẫn tổ chức có thể đặt ra tiêu chuẩn: cung cấp cho các huấn luyện viên cách tận dụng các công cụ AI đồng thời duy trì giám sát con người ở những điểm quan trọng.

Đặt AI Vào Một Vị Trí Thay Vì Toàn Bộ Sân

Các cuộc điều tra bao gồm các mức độ rủi ro khác nhau. AI có thể giúp sắp xếp thông tin từ các báo cáo ban đầu và:

• Xác định các chi tiết còn thiếu
• Tóm tắt thông tin thành báo cáo cuối cùng
• Xây dựng dòng thời gian
• Phát hiện các mẫu mà các nhà điều tra có thể muốn xem xét sâu hơn

Những trường hợp sử dụng này có thể giảm việc sắp xếp thủ công và giải phóng thời gian để tập trung vào công việc đòi hỏi phán đoán của con người.

Hãy xem xét rằng AI có thể tóm tắt một cáo buộc, nhưng không thể quyết định liệu nó có đáng tin cậy hay không. AI có thể phát hiện một sự không nhất quán, nhưng không thể xác định lý do tồn tại của nó. Đây là nơi các tổ chức có thể gặp rắc rối khi chỉ sử dụng AI mà không có các biện pháp kiểm soát.

Để duy trì giám sát, AI cần một vai trò được xác định. Các tổ chức nên quyết định:

• Các nhiệm vụ mà hệ thống dự kiến thực hiện
• Thông tin mà nó có thể truy cập
• Ranh giới của những gì nó được phép làm
• Các tình huống mà một người cần can thiệp điều khiển

Viện Tiêu Chuẩn và Công Nghệ Quốc Gia (NIST) cung cấp một tiêu chuẩn hữu ích. National Institute of Standards and Technology’s AI Risk Management Framework mô tả các Hồ sơ AI RMF như một cách để chứng minh cách khung này có thể được áp dụng cho các ngành, công nghệ, bối cảnh hoặc các thiết lập khác. Nói cách khác, quản trị AI có trách nhiệm trở nên khả thi hơn khi các tổ chức chuyển các nguyên tắc rộng rãi thành thực tiễn của một trường hợp sử dụng cụ thể.

Một sổ hướng dẫn AI có thể thực hiện điều tương tự ở mức độ vận hành. Nó xác định vai trò, tình huống và hành động một cách cụ thể.

Giám Sát Con Người Là Vấn Đề Thiết Kế Hệ Thống

Cụm từ “human in the loop” đã trở nên phổ biến trong các cuộc thảo luận về AI có trách nhiệm. Tuy nhiên, việc có một người xuất hiện ở đâu đó trong quy trình làm việc không tự động khiến một hệ thống AI được quản trị tốt.

NIST đã xác định human-AI teaming là một lĩnh vực quan trọng cho nghiên cứu và hướng dẫn quản lý rủi ro AI. Trong số các vấn đề mà nó nêu bật là cách con người diễn giải các kết quả do AI tạo ra và cách con người giám sát các hệ thống AI hoạt động trong môi trường thực tế.

Giám sát con người không nên được coi là một giải pháp tạm thời cho đến khi AI trở nên đủ tinh vi để hoạt động độc lập. Trong nhiều môi trường có rủi ro cao, nó là một phần của kiến trúc cần thiết để sử dụng AI một cách có trách nhiệm trong dài hạn.

Một nghiên cứu được bình duyệt bởi các chuyên gia về giám sát con người trong quản trị AI cho thấy các nhà giám sát con người được kỳ vọng sẽ nâng cao độ chính xác và an toàn để duy trì các giá trị con người và xây dựng niềm tin. Tuy nhiên, con người không phải lúc nào cũng là những người giám sát đáng tin cậy. Giám sát hiệu quả phụ thuộc vào năng lực, động cơ và thiết kế của vai trò giám sát.

Đối với một nhà điều tra, việc được yêu cầu phê duyệt một khuyến nghị do AI tạo ra là không đủ nếu họ thiếu thông tin hoặc quyền hạn cần thiết để thách thức nó. Sổ hướng dẫn phải xác định không chỉ rằng một con người tham gia, mà còn cách thức và thời điểm người đó có thể can thiệp.

Quá Trình Bàn Giao Quan Trọng Cũng Như Mô Hình

Có một thách thức khác: ngay cả khi con người có quyền cuối cùng, cách AI trình bày thông tin cũng có thể ảnh hưởng đến quyết định tiếp theo.

Một nghiên cứu tiền in năm 2025 từ các nhà nghiên cứu tại Đại học California, Santa Barbara minh họa tại sao thiết kế giao diện lại quan trọng. Trong một thí nghiệm có kiểm soát với 108 người tham gia trong kịch bản quyết định y tế, các nhà nghiên cứu đã thử nghiệm sáu dạng hỗ trợ quyết định của AI. Họ phát hiện rằng các cơ chế, bao gồm thông tin độ tin cậy của AI, giải thích bằng văn bản và hình ảnh minh họa hiệu suất, đã cải thiện độ chính xác của quyết định giữa con người và AI trong thí nghiệm của họ.

Nghiên cứu cũng nêu bật rủi ro của thiên lệch tự động hoá: con người có thể dựa quá mức vào các đề xuất của AI, kể cả những đề xuất sai.

Thí nghiệm này chứng minh lý do tại sao quá trình bàn giao giữa máy và con người cần thiết kế và kiểm thử có chủ đích.

Khi chúng ta mở rộng điều này hơn nữa và đưa khái niệm điều tra vào, một số câu hỏi nảy sinh:

• Nhà điều tra chỉ nhìn thấy kết luận do AI tạo ra, hay họ có thể xem xét thông tin phía sau nó?

• Hệ thống có thể truyền đạt sự không chắc chắn không?

• Có rõ ràng khi thông tin bị thiếu không?

• Các nhà điều tra có thể từ chối một kết quả và ghi lại lý do không?

Đó là những câu hỏi về quản trị cũng như kỹ thuật.

Năm Câu Hỏi Mỗi Sổ Hướng Dẫn AI Nên Trả Lời

Một sổ hướng dẫn AI hữu ích nên biến các nguyên tắc trừu tượng như “AI có trách nhiệm” và “giám sát con người” thành các quy tắc vận hành cụ thể.

1. AI được phép làm gì? Các tổ chức nên ủy quyền cho các nhiệm vụ cụ thể thay vì cấp quyền rộng rãi cho việc sử dụng AI trong toàn bộ quy trình.
2. AI có thể sử dụng thông tin nào? Đối với các cuộc điều tra và tố cáo, các tổ chức cần có ranh giới rõ ràng về thông tin mà hệ thống AI có thể truy cập và cách xử lý thông tin đó.
3. Con người sẽ đánh giá kết quả của AI như thế nào? Các nhà đánh giá cần đủ ngữ cảnh để hiểu những gì hệ thống đã tạo ra, các hạn chế liên quan và thông tin cần thiết để đặt câu hỏi về kết quả.
4. Khi nào con người phải can thiệp? Sổ hướng dẫn nên thiết lập các điểm kích hoạt leo thang thay vì dựa vào từng nhân viên quyết định khi AI đã vượt quá giới hạn.
5. Quyền hạn của AI kết thúc ở đâu? Một số quyết định cần phán đoán của con người, và những người chịu trách nhiệm cần có thẩm quyền thực sự để bỏ qua, ghi đè hoặc dừng công nghệ.

Những ý tưởng này được phản ánh trong một trong những quy định AI quan trọng nhất trên thế giới. Article 14 of the EU AI Act thiết lập các yêu cầu giám sát con người cho các hệ thống AI thuộc danh mục rủi ro cao của Đạo luật. Nó quy định các biện pháp giám sát phải tỷ lệ với rủi ro, mức độ tự chủ và bối cảnh sử dụng của hệ thống. Nó cũng yêu cầu các nhà giám sát có khả năng hiểu các năng lực và hạn chế liên quan, giải thích đúng các đầu ra, cảnh giác với thiên lệch tự động, bỏ qua hoặc ghi đè các đầu ra, và can thiệp hoặc dừng một hệ thống.
Điều đó không có nghĩa là mọi công cụ AI được sử dụng trong một cuộc điều tra đều tự động là hệ thống có rủi ro cao. Khung này minh họa một nguyên tắc quan trọng cho quản trị AI. Giám sát con người phải cung cấp cho con người các khả năng có ý nghĩa, không chỉ là một vị trí trong quy trình làm việc.

AI Không Thay Thế Huấn Luyện Viên. Nó Thay Đổi Những Gì Huấn Luyện Viên Có Thể Nhìn Thấy.

Digital Athlete của NFL hấp dẫn không phải vì nó chứng minh AI có thể thay thế các huấn luyện viên, mà vì nó cho thấy công nghệ tinh vi có thể mở rộng thông tin có sẵn cho các chuyên gia giàu kinh nghiệm.

AI có thể giúp con người xử lý thông tin, phát hiện những gì đáng chú ý và tạo ra sự nhất quán cao hơn trong các nhiệm vụ lặp lại. Tuy nhiên, những khoảnh khắc quan trọng nhất trong một cuộc điều tra thường đòi hỏi một điều khác: bối cảnh, hoài nghi, diễn giải và trách nhiệm.

Do đó, những tổ chức có vị thế tốt nhất để hưởng lợi từ AI sẽ đặt ra nhiều yêu cầu hơn những gì công nghệ có thể tự động hoá. Họ sẽ xác định AI nên làm gì, không nên làm gì, và cách con người và AI nên hợp tác với nhau.