Quản trị AI: Vấn đề của đa số, lợi thế của ít người

Trí tuệ nhân tạo doanh nghiệp đang tích lũy rủi ro nhanh hơn bất kỳ ai có thể tính toán được. Các tác nhân AI đang bắt đầu chạm vào dữ liệu khách hàng, mã sản xuất và quyết định kinh doanh quan trọng, và trong hầu hết các tổ chức, chúng được quản lý bởi các kiểm soát được thiết kế cho một kỷ nguyên công nghệ rất khác. Đồng thời, các hỗ trợ bên ngoài mà các doanh nghiệp có thể dựa vào đang trở nên mỏng hơn. Các phòng thí nghiệm AI hàng đầu đã giảm cam kết an toàn tự nguyện, và quy định vẫn còn phân mảnh trên các khu vực pháp lý. Gánh nặng niềm tin đang đặt lên các công ty triển khai AI, vì cuối cùng họ sẽ là những người phải gánh chịu hậu quả tiêu cực khi và nếu chúng xuất hiện.

Tôi làm việc chiến lược AI với các công ty trên gần như mọi ngành công nghiệp, và tôi nói chuyện với các CEO và hội đồng quản trị hàng ngày. Mẫu nhất quán mà tôi thấy là như sau: triển khai tăng tốc trong khi cơ sở hạ tầng kiểm soát đơn giản không theo kịp. Mẫu này nhất quán đến mức tôi coi nó là cấu trúc hơn là thất bại của một công ty nào đó, và tôi sẽ đưa ra một dự đoán: chúng ta không còn xa so với việc một CEO phải giải thích rằng một sai lầm lớn đã khiến doanh nghiệp mất hàng triệu đô la, và họ sẽ đổ lỗi cho AI. Tôi sẽ đề xuất một cách lịch sự rằng đó không phải là một lời biện minh.

Tin tốt là tôi may mắn được chứng kiến tận mắt một số công ty đối xử với quản trị khác biệt, và tôi tin rằng những công ty này đang xây dựng một lợi thế lâu dài đang tích lũy theo thời gian, trong khi những công ty khác đang chờ đợi trên đường phố có nguy cơ trở nên lỗi thời. Việc hiểu những gì một số công ty nhìn thấy bắt đầu từ việc hiểu nơi mà quỹ đạo hiện tại dẫn đến.

Chúng ta đang đi tới một vấn đề

Các triển khai ngày nay vẫn còn nhỏ đến mức giám sát của con người có thể hấp thụ rủi ro. Nghiên cứu Trạng thái AI trong doanh nghiệp của Deloitte cho thấy chỉ có một phần tư số tổ chức được khảo sát đã di chuyển ít nhất 40% số thí nghiệm AI vào sản xuất. Hầu hết các doanh nghiệp vẫn còn ở giai đoạn đầu của đường cong, chạy một số tác nhân trong các trường hợp sử dụng hẹp với người theo dõi mọi đầu ra.

Quỹ đạo là điều quan trọng. Khi triển khai tăng từ hai tác nhân lên 20, lên 200, lên 2.000 và hơn thế, sự phức tạp tăng lên. Mỗi tác nhân mới mang lại hành vi của nó, cộng với các tương tác với mọi hệ thống nó chạm vào và mọi tác nhân khác nó làm việc cùng. Ở hai tác nhân, niềm tin là dễ dàng: bạn biết đội ngũ, và bạn xem xét các đầu ra của mình. Ở 20, niềm tin phải trở thành một quá trình, với các chủ sở hữu được xác định, thử nghiệm và đường dẫn leo thang. Nó vẫn có thể hoạt động, nhưng nó đang trở nên khó khăn hơn để duy trì. Ở 200, xem xét không chính thức trở thành một vở kịch, vì không có đội ngũ lãnh đạo nào có thể xem xét tất cả các hoạt động đó. Và ở 2.000, con người trong vòng lặp hầu như vô dụng, vì các tương tác giữa các tác nhân, dữ liệu và quy trình kinh doanh tạo thành một mạng lưới vượt quá khả năng giám sát của con người. Ở quy mô đó, niềm tin cần phải tồn tại ở quy mô và được nhúng vào kiến trúc kỹ thuật của công ty.

Chi phí của việc chờ đợi

Cơ sở hạ tầng niềm tin thiếu sót cũng là một trong những lý do cho lợi nhuận đáng thất vọng. Trong Khảo sát CEO Toàn cầu của PwC, 56% số CEO cho biết AI đã không tạo ra doanh thu tăng hoặc chi phí giảm trong năm qua. Trong kinh nghiệm của tôi, thậm chí lợi nhuận được báo cáo còn ít thuyết phục hơn khi bạn xem xét các yếu tố kinh tế cơ bản. Hầu hết các công ty tính giờ tiết kiệm và gọi đó là lợi nhuận đầu tư. Giờ tiết kiệm trở thành lợi nhuận tài chính chỉ khi tổ chức chuyển đổi khả năng đó thành một thứ gì đó có giá trị hơn: sản lượng lớn hơn, chất lượng tốt hơn, chi phí tránh được, tăng trưởng nhanh hơn, v.v.

Điều đó đòi hỏi niềm tin. Một tổ chức có thể chuyển phán quyết của con người sang công việc có giá trị cao hơn chỉ khi lãnh đạo tin tưởng vào các hệ thống tiếp quản công việc có giá trị thấp hơn. Thiếu niềm tin, các công ty tích lũy nợ kỹ thuật không thể mở rộng, và theo thời gian, nó ảnh hưởng đáng kể đến năng suất. Đó là điều tồi tệ nhất của cả hai thế giới: chi tiêu tăng với ít thành果 để chỉ ra. Niềm tin là nền tảng mà các lợi nhuận đó tích lũy.

Vấn đề thang máy

Mối liên hệ giữa niềm tin và việc áp dụng không phải là mới, và chúng ta có thể quay lại giữa thế kỷ 20 để có một điểm tham chiếu hợp lý. Thang máy không người lái đã tồn tại nhiều thập kỷ trước khi bất kỳ ai sẽ đi chúng. Công nghệ đã hoạt động, nhưng hành khách sẽ bước vào một chiếc xe, nhìn thấy không có người vận hành, và bước ra ngoài. Điều gì thay đổi không phải là thang máy, mà là các kiểm soát an toàn xung quanh nó. Sau một cuộc đình công của các nhà điều hành vào năm 1945 đã đóng cửa các tòa nhà văn phòng trên toàn New York, ngành công nghiệp đã thiết kế niềm tin vào chính máy: nút dừng khẩn cấp, đường dây điện thoại, cửa mở lại khi gặp kháng cự, và một giọng nói ghi âm giải thích những gì cần làm. Trong một thế hệ, đi thang máy mà không có người vận hành trở nên bình thường đến mức đi vào thang máy có người vận hành cảm giác lỗi thời. Rào cản để loại bỏ con người khỏi vòng lặp không bao giờ là khả năng. Đó là niềm tin, và ngành công nghiệp đã giải quyết nó bằng cách xây dựng các kiểm soát có thể nhìn thấy và có thể xác minh vào hệ thống và đặt chúng ở nơi mọi hành khách có thể nhìn thấy.

AI doanh nghiệp đang ở giai đoạn bước vào, bước ra. Các đội ngũ lãnh đạo nhìn thấy các tác nhân hoạt động mà không có người vận hành và do dự, và sự do dự là hợp lý: hầu hết các tổ chức chưa xây dựng được các kiểm soát tương đương như nút dừng, đường dây điện thoại và cửa không đóng lại. Các công ty xây dựng các kiểm soát đó vào hệ thống của họ sẽ là những công ty mà mọi người, khách hàng và các nhà quản lý bước vào và ở lại.

Những nhà cung cấp chỉ có thể mang một phần của điều này

Nhiều nhà lãnh đạo hy vọng nhà cung cấp AI của họ sẽ mang gánh nặng niềm tin. Các nhà cung cấp có thể cung cấp các biện pháp an toàn và kiểm soát bảo mật ở cấp độ mô hình, và những nhà cung cấp tốt làm điều đó. Việc quyết định liệu một triển khai cụ thể có phù hợp với dữ liệu của bạn, nghĩa vụ pháp lý của bạn, khách hàng của bạn và mức độ chấp nhận rủi ro của bạn vẫn là công việc của bạn, vì nhà cung cấp của bạn thiếu bối cảnh để làm điều đó. Họ không bao giờ nhìn thấy các nghĩa vụ của bạn, và họ không có cách nào để định giá chi phí của một kết quả tiêu cực.

Cam kết an toàn của nhà cung cấp bao gồm mô hình của họ, không phải việc sử dụng của bạn. Nó cũng không phải là vĩnh viễn: như năm qua đã cho thấy, những cam kết đó có thể được sửa đổi hoặc rút lại. Các ngành công nghiệp được quản lý đã giải quyết câu hỏi này từ lâu đối với các mô hình của bên thứ ba, và tiêu chuẩn họ đã thống nhất là đúng: tổ chức triển khai mô hình sở hữu rủi ro.

Điều mà ít người đang làm

Các công ty đang vượt lên đang thực hiện ba động thái:

1. Họ đang xây dựng cơ sở hạ tầng kiểm soát ngay bây giờ, được thiết kế cho quy mô họ dự định đạt được chứ không phải quy mô họ đang ở, vì các kiểm soát phải tồn tại trước khi các tác nhân cần chúng.
2. Họ đang nhúng phân loại rủi ro và giảm thiểu vào đầu quá trình triển khai thay vì như một cổng xem xét ở cuối, vì vậy mọi trường hợp sử dụng được phân loại và các kiểm soát là tương xứng với rủi ro từ ngày đầu tiên.
3. Và họ đang thiết lập quản trị độc lập với thẩm quyền thực sự để xác minh những hệ thống này hoạt động như dự định, được giữ linh hoạt đủ để phát triển cùng với công nghệ. Sự độc lập làm cho việc xác minh trở nên đáng tin cậy. Sự linh hoạt giữ cho nó cập nhật.

Điều đáng chú ý là ít quy định đã thiết lập rõ ràng các quy tắc xung quanh việc sử dụng và giám sát AI tạo ra, nhưng điều đó không có nghĩa là chúng ta không có gì để tìm kiếm hướng dẫn. Các quy định đã thiết lập các quy tắc rõ ràng để quản lý các mô hình truyền thống, và chúng ta có thể sử dụng chúng làm hướng dẫn. Vào tháng 4, Cục Dự trữ Liên bang, OCC và FDIC đã phát hành hướng dẫn rủi ro mô hình sửa đổi phản ánh nhiều thập kỷ thực hành, một cách tiếp cận dựa trên nguyên tắc bao gồm các kho mô hình, kiểm soát rủi ro dựa trên phơi nhiễm, xác thực độc lập, giám sát liên tục và trách nhiệm của tổ chức đối với sản phẩm của nhà cung cấp, và họ chỉ đạo các tổ chức áp dụng các thực hành này cho AI trên chính họ. Thông điệp là rõ ràng: các nguyên tắc hoạt động đã được biết, và các quy tắc AI chính thức không đến sớm. Các doanh nghiệp chờ đợi sự rõ ràng của quy định sẽ chờ đợi trong khi ít người hành động. Đây là lý do tại sao các ngành công nghiệp được quản lý chặt chẽ, thường được mô tả là chậm, bước vào kỷ nguyên này với một lợi thế. Họ đã dành nhiều thập kỷ để xây dựng chính xác máy móc tin cậy mà mọi người khác hiện cần, và họ không chờ đợi sự cho phép để sử dụng nó.

Câu hỏi quan trọng

Sự phân chia đã hình thành. Hầu hết các công ty đối xử với quản trị như một chi phí: một thứ gì đó được hấp thụ, chịu đựng và giảm thiểu. Ít người đối xử với nó như cơ sở hạ tầng cho phép họ di chuyển người đến công việc có giá trị cao hơn và mở rộng với sự tự tin. Mỗi đội ngũ lãnh đạo đang ở một bên hoặc bên kia, cho dù họ đã chọn có chủ ý hay không, và khoảng cách đang tích lũy im lặng trước khi quy mô sẽ lộ ra nó. Không ai nghĩ hai lần về việc bước vào thang máy ngày nay, vì niềm tin đã được xây dựng vào nó. Các công ty làm điều tương tự cho AI sẽ mở rộng quá mọi người vẫn đang quyết định liệu có bước vào hay không.