Trí tuệ nhân tạo doanh nghiệp vượt ra ngoài thử nghiệm: Những gì cần thiết để mở rộng quy mô an toàn

Trong nhiều doanh nghiệp, trí tuệ nhân tạo (AI) đã chuyển từ công cụ tìm kiếm đơn giản sang các công cụ như chatbot và đồng pilot đang được sử dụng tích cực, và các dự án thí điểm đang chạy trong lĩnh vực phân tích và dịch vụ khách hàng. Tuy nhiên, chỉ một số ít đã thành công trong việc chuyển đổi những sáng kiến này thành các giải pháp ổn định, có thể quản lý và được tích hợp vào các quy trình kinh doanh cốt lõi. Quá thường, quản lý coi công nghệ này như một sự thay thế cho các nhà quản lý hoặc vai trò cá nhân, thay vì thiết kế nó từ đầu như một phần của kiến trúc quy trình, quản lý rủi ro và ra quyết định.

Những rủi ro lớn nhất nằm ở nơi sai lầm có giá. Chúng ta đang nói về tài chính, thanh toán, chống rửa tiền và quyết định pháp lý. Trí tuệ nhân tạo có thể nghe có vẻ tự tin nhưng vẫn có thể sai. Một sai lầm duy nhất có thể lan truyền trong hệ thống như một vết nứt trên kính. Sai lầm trong các quy trình quản lý cũng rất nguy hiểm: công nghệ không cảm nhận được ngữ cảnh hoặc hiểu được chính trị nội bộ của đội – hoặc cách những động lực đó thay đổi theo thời gian.

Đạo luật Trí tuệ nhân tạo của châu Âu phân loại các hệ thống ảnh hưởng đến an toàn, quyền cơ bản và cơ sở hạ tầng quan trọng là có rủi ro cao. Điều này áp đặt các yêu cầu đặc biệt đối với các công ty về quản trị, minh bạch và giám sát của con người. Logic cơ bản là bạn đầu tiên cần định nghĩa rõ ngữ cảnh, và chỉ sau đó quyết định mức độ tự chủ phù hợp và loại mô hình.

Ở đâu trí tuệ nhân tạo phải được kiểm soát chặt chẽ

Những hậu quả quan trọng nhất phát sinh từ sai lầm trong các quy trình tài chính và pháp lý. Một bước sai trong logic thanh toán có thể ngay lập tức ảnh hưởng đến lợi nhuận và tổn thất, kích hoạt các vấn đề quy định và làm tổn hại đến danh tiếng. Các cơ quan quản lý đã cảnh báo rõ ràng rằng những thất bại như vậy có thể trở thành nguồn gốc của rủi ro hệ thống.

Các hệ thống trí tuệ nhân tạo hiện đại thậm chí còn phức tạp và gắn kết chặt chẽ hơn với phần còn lại của cơ sở hạ tầng doanh nghiệp, điều này có nghĩa là chi phí của những thất bại hiếm hoi tiếp tục tăng. Các quy trình quản lý cũng rất nguy hiểm – đánh giá hiệu suất, quyết định nhân sự và phân bổ ngân sách. Khi trí tuệ nhân tạo được chèn vào loại công việc đó mà không có thiết kế cẩn thận, nó tối ưu hóa cho các chỉ số có thể nhìn thấy trong khi bỏ qua ngữ cảnh con người, động lực nội bộ và thỏa thuận không chính thức.

Ở đâu trí tuệ nhân tạo nên được hạn chế và quản lý

Các dấu hiệu cảnh báo chính rất đơn giản: trí tuệ nhân tạo cần kiểm soát chặt chẽ ở bất kỳ nơi nào quyết định không thể đảo ngược, ở bất kỳ nơi nào các cơ quan quản lý và kiểm toán tham gia, và ở bất kỳ nơi nào danh tiếng quan trọng hơn tốc độ quy trình. Trong tất cả các lĩnh vực này, việc hạn chế trí tuệ nhân tạo vào vai trò trợ lý để chuẩn bị các lựa chọn, đánh dấu những gì cần kiểm tra và hỗ trợ quy trình làm việc là hợp lý, nhưng không bao giờ nhấn nút cuối cùng.

Nó cũng cần có quản trị chặt chẽ hơn khi không ai có thể giải thích rõ ràng cách quyết định được đưa ra từ đầu. Trong môi trường như vậy, trí tuệ nhân tạo hoạt động như một bộ khuếch đại nhiễu: nó không giải quyết vấn đề cơ bản, nó làm cho vấn đề trở nên lớn hơn. Các khảo sát gần đây cho thấy rằng các tổ chức mở rộng quy mô trí tuệ nhân tạo mà không có kiến trúc và trách nhiệm rõ ràng cuối cùng phải đối mặt với cả tổn thất kinh doanh và phản ứng từ quy định.

Biến thể mô hình: thực tập sinh bạn phải kiểm tra lại

Một yếu tố rủi ro ít trực quan nhưng rất thực là biến thể. Ngày nay, trí tuệ nhân tạo trả lời tốt. Ngày mai, nó trả lời khác nhau ngay cả khi câu hỏi là相同. Đôi khi nó nghe có vẻ thông minh nhưng nói vô nghĩa. Nó giống như một thực tập sinh không có kinh nghiệm ngữ cảnh: tốt bụng và cố gắng, nhưng luôn cần được xem xét lại.

Các công ty coi trọng điều này xây dựng cơ chế kiểm soát. Họ so sánh đầu ra trên cùng một nhiệm vụ theo thời gian và đánh giá không chỉ chất lượng của câu trả lời, mà còn sự nhất quán của nó. Khi mô hình bắt đầu trôi dạt hoặc rung lắc, các đội có thể phát hiện sớm.

Trong các quy trình quan trọng, logic rất đơn giản – trí tuệ nhân tạo chuẩn bị và đánh dấu nhưng con người quyết định và xác nhận. Hành động cuối cùng luôn phải nằm trong tay người. Đối với các hoạt động có rủi ro cao, việc xem xét 100% là cần thiết; đối với các hoạt động đơn giản hơn, việc lấy mẫu có thể đủ vì trách nhiệm không thể được tự động hóa.

Cùng những vai trò vẫn giữ trách nhiệm như trước khi có trí tuệ nhân tạo: các sĩ quan chống rửa tiền, tài chính và tuân thủ. Trí tuệ nhân tạo không thay đổi trách nhiệm; nó thay đổi tốc độ. Các công ty công nghệ lớn đã lâu thành lập các tiêu chuẩn nội bộ – ví dụ, Tiêu chuẩn Trí tuệ nhân tạo có trách nhiệm của Microsoft yêu cầu rõ ràng định nghĩa các bên liên quan chịu trách nhiệm giám sát và kiểm soát các hệ thống trí tuệ nhân tạo và đảm bảo giám sát của con người có ý nghĩa trong điều kiện hoạt động thực tế.

An ninh như một cài đặt cơ bản

Quy tắc đầu tiên ở đây rất đơn giản: dữ liệu cá nhân không được gửi đến các mô hình bên ngoài. Tất cả hành động trí tuệ nhân tạo nên được ghi lại, để bạn luôn có thể theo dõi ai đã làm gì và khi nào. Trí tuệ nhân tạo nên hoạt động trong phạm vi doanh nghiệp – bây giờ đây là một yêu cầu được thúc đẩy bởi sự tuân thủ quy định và an ninh mạng.

Phản ứng của nhân viên đối với trí tuệ nhân tạo thường theo một mẫu dự đoán. Đầu tiên là tò mò, sau đó là sợ bị thay thế, và sau đó là sự an tâm nếu mọi thứ đều minh bạch. Đó là lý do tại sao đào tạo nên được nhắm mục tiêu, ngắn gọn và thực tế. Không cần dạy cách các mô hình hoạt động – điều quan trọng là dạy trí tuệ nhân tạo giúp đỡ ở đâu và ở đâu nó phải được kiểm soát.

Xu hướng trong vài năm tới: từ bot đến nền tảng

Nhìn vào vài năm tới, hình dạng đã rõ ràng. Thứ nhất, các doanh nghiệp sẽ chuyển sang các nền tảng trí tuệ nhân tạo thống nhất thay vì hàng chục bot không kết nối. Thứ hai, trí tuệ nhân tạo sẽ ngày càng được kết hợp với quy tắc và tự động hóa truyền thống. Kiểm soát chất lượng và ghi nhật ký theo mặc định cũng sẽ trở thành tiêu chuẩn. Trí tuệ nhân tạo sẽ trở thành một công cụ nền tảng: nó sẽ soạn thảo, xác minh và đề xuất. Nói cách khác, trí tuệ nhân tạo sẽ hoạt động như một trợ lý tốt. Nó tăng tốc công việc, nhưng nó không ký tài liệu.

Các xu hướng này chắc chắn là tin tốt cho các công ty có quy trình được ghi chép rõ ràng, trách nhiệm rõ ràng và rủi ro được công nhận và lượng hóa. Họ sẽ có thể mở rộng quy mô trí tuệ nhân tạo một cách bình tĩnh và nhanh chóng.