Con người trong vòng lặp không phải là Quản trị

Câu trả lời rõ ràng cho rủi ro AI là “đặt con người vào vòng lặp.” Nhưng cụm từ này che giấu phần khó.

Con người trong vòng lặp chỉ hoạt động nếu vòng lặp được thiết kế. Nếu không, con người trở thành một trong ba thất bại:

• Một nút thắt, vì việc xem xét đầu ra AI mất nhiều thời gian như làm việc thủ công.
• Một con dấu cao su, vì người xem xét bị quá tải, không thể thấy bằng chứng, không hiểu ngữ cảnh kinh doanh và nhấp chuột phê duyệt để giữ cho hàng đợi di chuyển.
• Hoặc thất bại thứ ba: vùng crumple. Bằng cách thêm con người vào vòng lặp, tổ chức đặt tên cho một người chịu trách nhiệm nhưng không cho người đó bất kỳ quyền kiểm soát thực sự, thời gian, thẩm quyền, khả năng dừng hệ thống hoặc đường dẫn để thay đổi lần chạy tiếp theo.

Đây là nơi mà nhiều cuộc trò chuyện xung quanh AI doanh nghiệp đi sai. Chúng ta nói về việc liệu con người có nên xem xét công việc hay không, nhưng không về cách thiết kế việc xem xét đó. Quản trị phụ thuộc vào việc người xem xét có quyền kiểm soát có ý nghĩa, tầm nhìn có ý nghĩa và khả năng cải thiện hệ thống sau khi quyết định đã được đưa ra.

Việc xem xét của con người có giá trị, nhưng chỉ khi nó được đặt ở nơi mà phán quyết quan trọng và được hỗ trợ bởi đủ ngữ cảnh để đưa ra phán quyết có ý nghĩa.

Cổng Xác thực Là Hơn Một Bước Xem xét

Cổng không phải là nút pause. Đó là giao diện xác thực.

Khi một tác nhân hoặc tự động hóa tạo ra một đề xuất – bản nháp phản hồi, hành động được đề xuất, phân loại, ủy quyền thanh toán, tuyến đường trường hợp, gói trả lại hoặc thư từ chối – người xem xét nên ngay lập tức hiểu được điều gì sắp xảy ra và tại sao.

Cổng xác thực thực sự phải hiển thị những gì quan trọng: hành động được đề xuất; nguồn gốc đằng sau nó; quy tắc được kiểm tra; chuyển đổi kinh doanh sẽ xảy ra; thẩm quyền được sử dụng; bản ghi kiểm toán sẽ được viết; sự không chắc chắn hoặc ngoại lệ đã kích hoạt xem xét; và các lựa chọn có sẵn: phê duyệt, chỉnh sửa, từ chối hoặc nâng cấp.

Mỗi yếu tố này tồn tại vì một lý do. Hành động được đề xuất giải thích hệ thống định làm gì. Bằng chứng hỗ trợ giải thích tại sao. Quy tắc và thẩm quyền cho thấy liệu đề xuất có phù hợp với chính sách tổ chức hay không. Sự không chắc chắn cho người xem xét biết tại sao công việc đã đến với con người lần đầu tiên. Cùng nhau, chúng biến việc xem xét từ việc đoán mò thành xác thực.

Nếu người xem xét phải xây dựng lại tất cả những điều này một cách thủ công, cổng không được xây dựng.

Mục đích của cổng không chỉ là ngăn chặn sai lầm trước khi chúng xảy ra. Mục đích thứ hai quan trọng hơn. Nó thu thập phán quyết của tổ chức.

Đây là nơi triển khai doanh nghiệp bắt đầu tích lũy. Mỗi quyết định phê duyệt, chỉnh sửa, từ chối hoặc nâng cấp thực sự thu thập phán quyết của tổ chức – nhưng chỉ khi cổng thu thập lý do.

Phê duyệt không phải là dữ liệu, nhưng xác thực là.

Một nhấp chuột được đóng dấu cao su không thu thập gì hữu ích. Một quyết định được kiểm tra, chỉnh sửa, từ chối hoặc nâng cấp với mã lý do thu thập một tín hiệu mà phiên bản tiếp theo của hệ thống có thể học hỏi từ đó. Nếu người xem xét nhấp chuột phê duyệt mà không nhìn, hệ thống không học hỏi gì. Nếu người xem xét chỉnh sửa, từ chối, nâng cấp và đưa ra lý do, tổ chức thu thập phán quyết.

Theo thời gian, những phán quyết này trở thành một trong những tài sản quý giá nhất của tổ chức. Chúng tiết lộ nơi chính sách không rõ ràng, nơi quy trình làm việc thường xuyên bị hỏng, nơi ngoại lệ xảy ra thường nhất và nơi tự động hóa nên trở nên tự tin hơn – hoặc bị hạn chế hơn. Mục tiêu không chỉ là tự động hóa nhiều công việc hơn. Đó là cải thiện chất lượng của các quyết định trong tương lai bằng cách thu thập cách những người có kinh nghiệm thực hiện phán quyết ngày nay.

Trách nhiệm Yêu cầu Hơn Một Chủ sở hữu Được Đặt tên

Sự khác biệt đó thay đổi cách các tổ chức nên nghĩ về trách nhiệm cũng như.

Cổng không đủ. Một chủ sở hữu được đặt tên không đủ. Một nhật ký kiểm toán không đủ.

Trách nhiệm yêu cầu việc nhận hậu quả: sai lầm phải hạ cánh ở nơi có thể thay đổi hành vi trong tương lai.

Trước khi triển khai AI vào công việc có hậu quả, các tổ chức nên hỏi năm câu hỏi:

1. Ai nhận hậu quả nếu hành động này sai?
2. Người đó hoặc hệ thống có quyền kiểm soát có ý nghĩa trước khi hành động không?
3. Chủ sở hữu có trách nhiệm có thể kiểm tra, hạn chế, ghi đè hoặc dừng tác nhân hoặc tự động hóa không?
4. Trách nhiệm có tương xứng với quyền kiểm soát mà chủ sở hữu thực sự có không?
5. Thay đổi gì trước lần chạy tiếp theo: kỹ năng, quy tắc, quyền, quy trình làm việc, tự động hóa, cổng xác thực, mã lý do, đào tạo hoặc lớp tin cậy?

Cổng người mà không có quyền kiểm soát có ý nghĩa không phải là quản trị. Đó là vùng crumple.

Vòng lặp không được đóng cho đến khi phán quyết thu thập thay đổi điều gì: kỹ năng, quy tắc, quyền, ngưỡng nâng cấp, tự động hóa, kiểm tra, giao diện xem xét, kế hoạch đào tạo, mẫu kiểm toán hoặc lớp tin cậy. Một hậu quả không thay đổi lần chạy tiếp theo chỉ là một sự cố, không phải là học hỏi. Các tổ chức cải thiện khi mỗi xem xét có ý nghĩa thay đổi phiên bản tiếp theo của hệ thống, cho dù bằng cách tinh chỉnh chính sách, thắt chặt quyền, cải thiện tự động hóa hoặc tăng cường trải nghiệm xác thực itself.

Thanh chắn Phòng ngừa Sự cố. Đánh giá Xây dựng Niềm tin.

Các tổ chức cũng cần phân biệt giữa thanh chắn và đánh giá. Chúng giải quyết các vấn đề khác nhau cần giải quyết.

1. Thanh chắn thực thi hành vi tại thời gian chạy. Kiểm tra lược đồ, ngăn chặn tham số không an toàn, kiểm tra quyền, xóa thông tin nhận dạng cá nhân, phòng thủ tiêm lệnh và giới hạn công cụ tồn tại để ngăn chặn hành vi không an toàn trước khi nó xảy ra.
2. Đánh giá đo lường hiệu suất theo thời gian. Chúng kiểm tra chất lượng, trôi, lựa chọn công cụ, chất lượng nâng cấp, chi phí, độ trễ và tuân thủ chính sách. Chúng cho tổ chức biết liệu hệ thống vẫn xứng đáng được tin cậy.

Một bảo vệ quyết định hiện tại. Cái khác cải thiện quyết định trong tương lai.

Thanh chắn và đánh giá phục vụ các mục đích khác nhau, và những người chịu trách nhiệm cũng vậy. Nền tảng thực thi chính sách. Các nhà vận hành đánh giá kết quả. Cùng nhau, họ tạo ra vòng lặp phản hồi cho phép hệ thống cải thiện mà không hy sinh quản trị.

Hệ thống thu thập chính sách, hồ sơ yêu cầu, tài liệu hỗ trợ, các trường hợp trước, và cuốn sách chơi của tổ chức. Nó chuẩn bị gói phân loại, đề xuất mức độ nghiêm trọng, xác định bằng chứng thiếu, và mở một trường hợp gian lận nếu quy tắc yêu cầu. Người điều chỉnh thấy chuyển động được đề xuất, bằng chứng hỗ trợ, mã lý do, bản ghi kiểm toán và hậu quả của việc phê duyệt. Thay vì xây dựng lại trường hợp từ nhiều hệ thống, người xem xét có thể tập trung vào việc xác thực bản thân đề xuất.

Một quy trình yêu cầu chứng minh cách thức hoạt động này trong thực tế. Tác nhân không ghi nhớ một quy trình. Nó hành động trong một bản đồ được xuất bản.

Kiến trúc Nên Theo sau Công việc

Nguyên tắc tương tự áp dụng bất kể công việc được tổ chức như thế nào. Không mọi vấn đề doanh nghiệp đều có cùng hình dạng, và quản trị nên phản ánh điều đó. Một số công việc bắt đầu với một mục tiêu. Một số bắt đầu với một trường hợp; một số bắt đầu với một quy trình làm việc ổn định. Kiến trúc nên theo sau công việc, không phải ngược lại.

Triển khai dẫn đầu bằng mục tiêu bắt đầu với kết quả thay vì con đường được quy định. Giải quyết trường hợp khách hàng này. Giảm rủi ro chuyển đổi trên tài khoản này. Điều tra tín hiệu gian lận này. Chuẩn bị kế hoạch gia hạn này. Điểm đến rõ ràng, nhưng con đường có thể thay đổi khi thông tin mới trở nên có sẵn. Một tác nhân chính phân rã công việc, sử dụng tác nhân và công cụ được phê duyệt, kích hoạt tự động hóa được phê duyệt và giao nhiệm vụ cho con người trong ranh giới được quản lý. Điểm mạnh của nó là khả năng thích ứng. Rủi ro của nó là khả năng thích ứng mà không có ràng buộc rõ ràng trở thành không thể đoán trước.

Đó là lý do các hệ thống linh hoạt yêu cầu quản trị mạnh mẽ hơn, không ít. Các ranh giới quy trình làm việc rõ ràng, quyền tự động hóa, quyền quyết định, bản ghi kiểm toán và quy tắc nâng cấp trở nên quan trọng hơn khi AI trở nên mạnh mẽ hơn. Khả năng tự do mà tác nhân có để xác định con đường của nó, tổ chức phải định nghĩa cẩn thận ranh giới trong đó nó có thể hoạt động.

AI doanh nghiệp sẽ không thành công vì mọi quyết định đều có con người ở đâu đó trong vòng lặp.

Nó sẽ thành công vì các tổ chức học cách xây dựng vòng lặp itself.