Làm thế nào các ngành công nghiệp được quản lý đang tạo ra các quyết định AI có trách nhiệm

Trong thập kỷ qua, việc áp dụng AI trong doanh nghiệp đã theo một mô hình dự đoán được: đầu tư mạnh, thử nghiệm đầy hứa hẹn và tác động hoạt động không đồng đều. Tuy nhiên, trong lĩnh vực ngân hàng và bảo hiểm, AI không còn là một công nghệ thử nghiệm. Nó hiện đang định hình các quyết định quan trọng liên quan đến phát hiện gian lận, phê duyệt tín dụng, underwriting và giải quyết yêu cầu. Các vấn đề tài chính, danh tiếng và quy định trong các quyết định này là rất lớn. Ngày càng nhiều, những quyết định này không chỉ bị ảnh hưởng bởi các mô hình riêng lẻ mà còn bởi các quy trình công việc do đại lý điều khiển và các đường ống quyết định tự động hóa bao gồm nhiều hệ thống và giai đoạn của một quy trình.

Thách thức đã thay đổi. Nó không còn là về việc tạo ra các thông tin chi tiết. Nó là về việc đưa ra các quyết định chiến lược và bảo vệ chúng.

Khi AI trở nên tích hợp vào các quy trình quan trọng, các doanh nghiệp và cơ quan chính phủ phải có thể giải thích cách một kết quả được đạt được, chứng minh các kiểm soát phù hợp và bảo vệ kết quả đó cho các cơ quan quản lý, khách hàng và hội đồng quản trị. Đối với các nhà lãnh đạo trong lĩnh vực rủi ro, tuân thủ, dữ liệu và công nghệ, câu hỏi trung tâm không còn là AI có thể làm gì. Nó là liệu các quyết định được hỗ trợ bởi AI có thể chịu được sự kiểm tra.

Sự thay đổi này đang thúc đẩy sự phát triển của Trí tuệ quyết định, một kỷ luật hoạt động tập trung không chỉ vào các mô hình riêng lẻ mà còn vào cách các quyết định được thiết kế, quản lý, giám sát và cải thiện trong các môi trường thực tế.

Đánh giá thực tế của AI

AI tạo ra đã tăng tốc thí nghiệm và dân chủ hóa việc tiếp cận kiến thức, và cải thiện trải nghiệm người dùng. Tuy nhiên, nhiều sáng kiến bị đình trệ khi chúng va chạm với sự phức tạp của tích hợp, quyền sở hữu phân mảnh và yêu cầu quản lý.

Trong các lĩnh vực được quản lý, những khoảng trống này xuất hiện nhanh chóng. Một từ chối tín dụng, một giao dịch bị chặn hoặc một yêu cầu bị từ chối mang lại các ý nghĩa pháp lý và tuân thủ. Ngay cả khi AI chỉ đóng góp một phần vào quyết định, các tổ chức vẫn phải chịu trách nhiệm về kết quả. Họ phải chứng minh cách các đầu vào được kết hợp, các ràng buộc và rào cản được áp dụng và nơi can thiệp của con người can thiệp.

Các chỉ số hiệu suất kỹ thuật như độ chính xác, độ nâng cao và tỷ lệ phát hiện là cần thiết nhưng không đủ. Các cơ quan quản lý và giám đốc điều hành quan tâm đến tính toàn vẹn của quyết định.

Từ thành phần tập trung đến quyết định tập trung

Hầu hết các chương trình AI tối ưu hóa các thành phần riêng lẻ. Nhưng các quyết định thực tế hiếm khi bắt nguồn từ một mô hình điểm số duy nhất.

Một cảnh báo gian lận có thể kết hợp nhiều tín hiệu, ngưỡng chính sách và xem xét thủ công trước khi một giao dịch bị dừng. Các quyết định underwriting thường kết hợp các mô hình dự đoán, yêu cầu quản lý, hướng dẫn khẩu vị rủi ro và chuyên môn của con người. Trách nhiệm bao gồm các đội khoa học dữ liệu, sản phẩm, hoạt động và tuân thủ.

Trí tuệ quyết định định hình lại vấn đề. Thay vì hỏi liệu một mô hình hoạt động tốt, nó hỏi:

• Chúng ta có thể theo dõi cách quyết định này được đưa ra?
• Chúng ta có thể giải thích nó vài tháng hoặc vài năm sau?
• Chúng ta có thể cải thiện nó một cách hệ thống và liên tục mà không tăng rủi ro?

Trong các môi trường được quản lý, những câu hỏi đó quan trọng hơn các lợi ích mô hình tăng dần.

Trách nhiệm giải trình hiện là một kỳ vọng quản lý

Thái độ quản lý đã thay đổi. Các cơ quan giám sát ngày càng coi AI không phải là công nghệ thử nghiệm, mà là một yếu tố quyết định hành vi thị trường và kết quả của người tiêu dùng.

Ở Hoa Kỳ, các cơ quan quản lý ngân hàng tiếp tục củng cố các kỳ vọng xung quanh quản lý mô hình, xác thực và tài liệu, bất kể sự tinh vi về mặt kỹ thuật. Các tổ chức vẫn phải chịu trách nhiệm về kiểm soát và giám sát, ngay cả khi tự động hóa tăng lên.

Ở châu Âu, các yêu cầu được quy định rõ ràng hơn. Đạo luật AI của EU giới thiệu các nghĩa vụ được xác định cho các hệ thống AI có rủi ro cao, bao gồm cả những hệ thống được sử dụng trong dịch vụ tài chính và bảo hiểm. Quản lý, tài liệu và khả năng kiểm toán không phải là các tính năng tùy chọn; chúng là các yêu cầu quản lý.

Trên các khu vực pháp lý, thông điệp là nhất quán: nếu AI ảnh hưởng đến kết quả của người tiêu dùng hoặc thị trường, các tổ chức phải có thể giải thích và bảo vệ các quy trình quyết định đã dẫn đến những kết quả đó.

Tại sao Ngân hàng và Bảo hiểm đang dẫn đầu

Mặc dù nhiều lĩnh vực phải đối mặt với thách thức quản lý AI, ngân hàng và bảo hiểm đang ở vị trí hàng đầu vì các vấn đề ở đây rõ ràng và giám sát chặt chẽ.

Các hệ thống chống gian lận phải cân bằng giữa tốc độ và tác động của khách hàng. Các quyết định tín dụng và underwriting phải nhất quán và không phân biệt đối xử. Các kết quả yêu cầu phải chịu được sự xem xét của các cơ quan quản lý và thách thức của người nắm giữ chính sách. Trong mỗi trường hợp, các quyết định xuất hiện từ sự kết hợp của dữ liệu, quy tắc, phân tích và phán quyết của con người.

Các cơ quan quản lý cũng đang tập trung vào việc kiểm tra AI tiên tiến trong các dịch vụ tài chính bán lẻ, liên kết rõ ràng việc triển khai AI với kết quả của người tiêu dùng và tiêu chuẩn quản lý.

Tín hiệu là không thể nhầm lẫn: AI hiện được coi là cơ sở hạ tầng tài chính cốt lõi.

Trí tuệ quyết định như một kỷ luật hoạt động

Trí tuệ quyết định thường bị hiểu lầm là một lớp tự động hóa khác. Trong các ngành công nghiệp được quản lý, tự động hóa đầy đủ thường không khả thi hoặc không mong muốn. Các ràng buộc chính sách và khả năng chấp nhận rủi ro đảm bảo rằng con người vẫn nằm trong vòng lặp.

Mục tiêu là thực tế hơn: làm cho các quyết định minh bạch, có thể xem xét và cải thiện liên tục.

Trong thực tế, điều này có nghĩa là external hóa logic quyết định thay vì chôn nó trong mã, mô hình hoặc bảng tính. Nó có nghĩa là xác định rõ ràng:

• Dữ liệu nào đã thông tin cho kết quả
• Các chính sách và ràng buộc nào được áp dụng
• Can thiệp của con người xảy ra ở đâu
• Ai sở hữu quyết định cuối cùng

Theo thời gian, điều này tạo ra bộ nhớ tổ chức. Một doanh nghiệp có thể kiểm tra không chỉ liệu một mô hình hoạt động tốt, mà liệu quy trình quyết định đã sản xuất ra các kết quả nhất quán, tuân thủ và hoạt động trong điều kiện thực tế.

Sự minh bạch đó không loại bỏ sự phức tạp. Nó làm cho nó có thể quản lý và xây dựng niềm tin.

Ở đâu các triển khai AI truyền thống bị phá vỡ

Nhiều sáng kiến AI bị đình trệ tại các mối nối tổ chức. Các đội dữ liệu tối ưu hóa mô hình. Các đội kinh doanh sở hữu kết quả. Các đội rủi ro và tuân thủ quản lý giám sát. Khi các quyết định bao gồm cả ba, trách nhiệm bị phân mảnh.

Không có đội nào có thể giải thích rõ ràng cách một quyết định được xây dựng, những sự đánh đổi nào được nhúng và làm thế nào nó nên phát triển.

Sự phân mảnh này đặc biệt rõ ràng trong các ngành công nghiệp được quản lý, nơi các quyết định là đa bước và đa chủ sở hữu. Không có khuôn khổ quyết định tập trung, việc cải thiện kết quả thường tăng rủi ro vì các tương tác giữa mô hình, quy tắc và phán quyết của con người vẫn còn mờ ràng.

Trí tuệ quyết định giải quyết vấn đề này bằng cách đối xử với các quyết định như các sản phẩm được quản lý. Chúng có thể được thiết kế, thử nghiệm, giám sát và tinh chỉnh với khả năng hiển thị được chia sẻ trên các bên liên quan. Điều này tạo ra một ngôn ngữ chung liên kết hiệu suất kỹ thuật với kết quả kinh doanh và kỳ vọng quản lý.

Ngày càng nhiều, các tổ chức cũng đang xây dựng các quy trình quyết định của chính họ trong các cấu trúc ngữ cảnh hoặc dựa trên đồ thị, nơi các đầu vào, mối quan hệ và kết quả có thể được theo dõi theo thời gian. Lớp ngữ cảnh này giúp các đội hiểu không chỉ quyết định nào được đưa ra, mà tại sao và làm thế nào nó nên phát triển khi các điều kiện thay đổi.

Đối với các tổ chức đang bị giám sát, sự thay đổi này ít hơn về sự đổi mới và nhiều hơn về kiểm soát.

Chuyển đổi rủi ro AI thành lợi thế chiến lược

Đối với các CIO, CDO, CRO và các nhà lãnh đạo kinh doanh triển khai AI trên quy mô lớn, nhiệm vụ là rõ ràng: thành công không còn được đo lường bởi số lượng mô hình được triển khai, mà bởi mức độ các quyết định mà chúng ảnh hưởng được quản lý.

Các tổ chức lập bản đồ luồng quyết định, làm rõ quyền sở hữu, ghi lại các điểm chạm AI và nhúng xem xét cấu trúc vào các quy trình công việc sẽ di chuyển nhanh hơn và với sự phục hồi lớn hơn. Trong các môi trường được quản lý, kỷ luật hoạt động vượt trội so với sự mới mẻ về mặt kỹ thuật.

Trí tuệ quyết định đang nổi lên không phải là một loại công nghệ khác, mà là cấu trúc hoạt động làm cho AI có thể bảo vệ. Nó cho phép các tổ chức chứng minh trách nhiệm giải trình, liên kết các đội chức năng chéo và mở rộng AI với sự tự tin.

Trong các thị trường được quản lý chặt chẽ, khả năng đó không chỉ là vệ sinh tuân thủ; nó là một lợi thế cạnh tranh.