Tương tác Máy với Con người: Vấn đề “Dặm cuối” Cản trở Sự phát triển của Trí tuệ Nhân tạo Doanh nghiệp

Cho đến rất gần đây, các cuộc thảo luận trong phòng họp về Trí tuệ Nhân tạo (AI) tập trung vào các mô hình chính nó. Liệu đầu ra của chúng có chính xác không? Dữ liệu đào tạo có sạch không? Làm thế nào chúng ta có thể giảm thiểu thiên vị? Liệu các ảo giác có được kiểm soát không? Những câu hỏi đó vẫn rất quan trọng, nhưng đầu ra không còn là điều duy nhất mà các hội đồng quản trị và cổ đông đang quan tâm. Thay vào đó, họ đang trở nên quan tâm đến điều gì đó khó đo lường hơn – liệu các hệ thống AI có thực sự hoạt động với con người một cách hiệu quả trong các tương tác hàng ngày hay không.

Điều đó là một phần lý do tại sao IBM gần đây phải đối mặt với một đề xuất từ cổ đông yêu cầu công ty cung cấp thêm minh bạch về cách họ quản lý thiên vị AI và quản trị. Đề xuất tập trung cụ thể vào việc giảm thiểu thiên vị, nhưng ý nghĩa rộng hơn là khi AI trở nên sâu sắc hơn trong các quy trình ra quyết định, nó đang được đánh giá dựa trên trách nhiệm giải trình hoạt động và kết quả kinh doanh có thể đo lường được, chứ không chỉ là khả năng cơ bản của nó.

Điều tôi thấy trong các cuộc thảo luận với các doanh nghiệp là rất ít người vẫn đang tranh luận về việc liệu các mô hình chính nó có khả năng hay không. Hầu hết các tổ chức đã biết rằng những hệ thống này có thể tạo ra đầu ra, tự động hóa các quy trình làm việc và đưa ra thông tin chi tiết với tốc độ phi thường. Câu hỏi khó hơn là liệu bất kỳ điều gì trong số đó có cải thiện một cách nhất quán kết quả bên trong doanh nghiệp hay không. Liệu nhân viên có thực sự sử dụng những hệ thống này một cách có ý nghĩa không? Liệu họ có tin tưởng vào các khuyến nghị họ nhận được không? Liệu quyết định có trở nên rõ ràng, nhanh chóng hoặc nhất quán hơn không? Hay các tổ chức chỉ tạo ra nhiều nội dung, nhiều phân tích và nhiều tiếng ồn hơn mà không thay đổi cách con người hoạt động? Khoảng cách giữa khả năng AI và việc con người áp dụng là điều tôi coi là “dặm cuối” của AI doanh nghiệp. Đó là nơi ROI, niềm tin, trách nhiệm giải trình và tính nhất quán hoạt động hội tụ, và đó là nơi nhiều triển khai bắt đầu bị đình trệ.

Khả năng không phải là nút thắt – bối cảnh con người là

Đề xuất cổ đông của IBM tập trung vào thiên vị, một vấn đề quen thuộc và ngày càng tăng trong ngành. Nghị quyết kêu gọi IBM sản xuất báo cáo thêm về các phương pháp họ sử dụng để xác định và giảm thiểu thiên vị trên các mô hình AI của mình, bao gồm cả các rủi ro tiềm ẩn liên quan đến những nỗ lực giảm thiểu đó. IBM phản đối, cho rằng hầu hết thông tin này đã được công khai thông qua thẻ mô hình, tài liệu quản trị, báo cáo minh bạch và các bản gửi đến Chỉ số Minh bạch Mô hình Cơ sở của Stanford. Hầu hết các nhà quan sát thừa nhận IBM đã làm nhiều hơn hầu hết các nhà cung cấp để hoạt động hóa các thực hành AI có trách nhiệm, đồng thời cũng nhận ra rằng quản trị và thiên vị vẫn còn là những thách thức chưa được giải quyết trong toàn ngành.

Điều thú vị với tôi không phải là liệu phản hồi của IBM có đúng hay không. Đó là điều mà toàn bộ tình huống nói về nơi các cuộc thảo luận AI doanh nghiệp đang đi tới. Các hội đồng quản trị đã cơ bản chuyển vào một giai đoạn mới của việc đánh giá AI tập trung vào chất lượng quyết định, tác động hoạt động, niềm tin của nhân viên và việc áp dụng lâu dài bên trong doanh nghiệp.

Đây là nơi một ống kính khoa học thần kinh dẫn tôi đến một kết luận khác với phần lớn cuộc thảo luận AI doanh nghiệp hiện tại. Con người không phải là máy nhập xuất hợp lý. Chúng ta tiếp cận quyết định với sự chú ý有限, sự tự tin thay đổi, quá tải nhận thức và ý định thay đổi liên tục. Khi tương tác cảm thấy chậm, khi phản hồi sẵn có bỏ lỡ điều mà chúng ta thực sự muốn, hoặc khi người dùng phải chiến đấu với hệ thống để đến được điều gì đó hữu ích, sự tham gia sẽ sụp đổ lâu trước khi các chỉ số áp dụng bắt kịp. Rủi ro ảo giác, không nhất quán và thiên vị chỉ làm tăng vấn đề, tạo ra ma sát trong các quy trình làm việc ban đầu được thiết kế để cải thiện năng suất và quyết định. “Dặm cuối” này là điều mà hầu hết các tổ chức vẫn chưa đánh giá thấp: giá trị AI không được tạo ra khi một mô hình tạo ra câu trả lời, mà khi nó cung cấp câu trả lời đúng vào đúng thời điểm và con người có thể tin tưởng nó đủ để hành động dựa trên những gì nó tạo ra.

Tại sao chúng ta lại bỏ qua “con người trong vòng lặp” thực sự – người dùng?

Chúng ta đã nghe rất nhiều gần đây về “con người trong vòng lặp” và tầm quan trọng của việc có một người hiện diện để phê duyệt đầu ra được thúc đẩy bởi AI. Nhưng nếu con người quan trọng nhất – người dùng – không được hiểu đúng? Tương tác giữa con người với con người là phức tạp và đa diện, nhưng lý do giao tiếp trực tiếp hoạt động rất tốt là vì không có sắc thái nào bị mất. Nếu ai đó do dự, mất tự tin, trở nên bực tức hoặc bị nhầm lẫn, hoặc ý định của họ thay đổi, điều đó sẽ được truyền đạt trong quá trình tương tác và cuộc trò chuyện sẽ thay đổi theo. Hầu hết các hệ thống AI vẫn còn khó khăn trong việc nhận ra những tín hiệu đó vì chúng基本上 vẫn “trên đường ray” trong việc chỉ phản hồi lại lời nhắc cuối cùng từ người dùng.

Theo quan điểm của tôi, đây đang trở thành một trong những hạn chế xác định của các triển khai AI doanh nghiệp hiện tại. Chúng ta đã xây dựng các hệ thống cực kỳ tốt trong việc tạo ra thông tin trong khi vẫn còn hạn chế trong khả năng nhận ra liệu thông tin đó có giúp ai đó đưa ra quyết định tốt hơn hay không.

Một tổ chức có thể triển khai các công cụ AI doanh nghiệp cho hàng nghìn nhân viên và vẫn không đạt được sự liên kết có ý nghĩa trong cách những hệ thống đó thực sự được sử dụng. Các khuôn khổ như Khung quản lý rủi ro AI của NIST, ISO/IEC 42001 và Đạo luật AI của EU đang thúc ép các tổ chức hướng tới sự trưởng thành về quản trị và trách nhiệm giải trình hoạt động. Nhưng quản trị trên giấy chỉ đi được đến một mức độ nhất định nếu sự tham gia của nhân viên với AI vẫn còn phân mảnh. Nếu các đội khác nhau tin tưởng và sử dụng AI theo những cách hoàn toàn khác nhau, việc đo lường ROI một cách nhất quán trở nên gần như không thể, và đó là một vấn đề mà không có lượng lời nhắc nào có thể sửa chữa.

Chi phí của sự quá tải AI

Chúng ta hiện đang bước vào một giai đoạn mà AI trở nên hoàn toàn phổ biến trong các quy trình làm việc của AI. Có các phi công được nhúng vào các bộ ứng dụng năng suất, tóm tắt cuộc họp được tạo bởi AI đến sau mỗi cuộc gọi, bảng điều khiển đưa ra thông tin dự đoán theo thời gian thực, các động cơ khuyến nghị cung cấp cho nhân viên các gợi ý liên tục và phân tích tự động xuất hiện nhanh hơn so với hầu hết các đội có thể xử lý thực tế. Trên giấy, điều này trông giống như tiến bộ – các doanh nghiệp đang tạo ra nhiều thông tin hơn bao giờ hết. Nhưng khoa học nhận thức đã rõ ràng về điều này trong nhiều thập kỷ: nhiều thông tin không tự động tạo ra quyết định tốt hơn.

Con người chỉ có thể hấp thụ một lượng thông tin nhất định trước khi quá tải bắt đầu xảy ra. Quá nhiều khuyến nghị tạo ra sự do dự. Quá nhiều cảnh báo trở thành tiếng ồn nền. Quá nhiều tùy chọn tạo bởi AI có thể khiến nhân viên nghi ngờ thay vì hành động tự tin. Điều thú vị là các hệ thống AI đang trở nên cực kỳ tốt trong việc tạo ra thông tin trong khi vẫn còn tương đối kém trong việc hiểu cách con người nhận, diễn giải và phản hồi thông tin đó trong bối cảnh. Các hội đồng quản trị cuối cùng không quan tâm đến việc hệ thống có thể tạo ra bao nhiêu tóm tắt, khuyến nghị hoặc thông tin được tạo ra. Họ quan tâm đến việc liệu quyết định có trở nên rõ ràng và đáng tin cậy hơn trên toàn doanh nghiệp hay không.

AI đã bước vào giai đoạn trách nhiệm giải trình

Đề xuất cổ đông của IBM có thể bắt nguồn từ lo ngại về thiên vị, nhưng tôi nghĩ nó phản ánh điều gì đó rộng hơn đang xảy ra trên toàn bộ AI doanh nghiệp. Sự mới mẻ của AI đã qua, và các doanh nghiệp đang tìm kiếm sự đầu tư AI có thể tạo ra lợi nhuận vững chắc không còn có thể nhìn vào khả năng của mô hình alone. Công nghệ đã chứng minh bản thân, nhưng bây giờ nó cần một mức độ trách nhiệm giải trình. Liệu nhân viên có sử dụng những hệ thống này một cách nhất quán không? Liệu quyết định có cải thiện không? Liệu niềm tin và sự tham gia có tăng lên theo thời gian, hay dần dần bị xói mòn? Khi AI trở nên được nhúng vào các quy trình làm việc hàng ngày, thế hệ hệ thống tiếp theo có thể cần phải trở nên nhận thức hơn về hành vi con người, sự chú ý, tự tin và ý định nếu các doanh nghiệp muốn áp dụng lâu dài và ROI có thể đo lường được. Cho đến lúc đó, “dặm cuối” sẽ có khả năng vẫn là một trong những thách thức lớn nhất trong việc áp dụng AI doanh nghiệp.