Thiếu sự tin cậy của Trí tuệ nhân tạo (AI) có thể kìm hãm sự đổi mới và giá trị kinh doanh

Một cuộc khảo sát gần đây среди các nhà lãnh đạo kinh doanh toàn cầu cho thấy trí tuệ nhân tạo đáng tin cậy là một ưu tiên hàng đầu, nhưng nhiều người không thực hiện đủ biện pháp để đạt được điều đó, nhưng với chi phí gì?

Thực tế, khảo sát của IBM đã tiết lộ rằng 85% người được hỏi đồng ý rằng người tiêu dùng có nhiều khả năng chọn một công ty minh bạch về cách xây dựng, quản lý và sử dụng mô hình AI của họ.

Tuy nhiên, đa số thừa nhận họ chưa thực hiện các bước quan trọng để đảm bảo AI của họ đáng tin cậy và có trách nhiệm, chẳng hạn như giảm thiểu thiên vị (74%), theo dõi sự thay đổi hiệu suất và mô hình trôi (68%), và đảm bảo họ có thể giải thích quyết định được hỗ trợ bởi AI (61%). Điều này đáng lo ngại, đặc biệt khi bạn xem xét việc sử dụng AI đang ngày càng tăng – với 35% cho biết họ hiện đang sử dụng AI trong kinh doanh, tăng từ 31% một năm trước.

Tôi gần đây đã tham dự Hội nghị Đổi mới Doanh nghiệp chỉ mời tại Toronto, nơi các tham dự viên trao đổi ý tưởng đổi mới và giới thiệu các công nghệ sẵn sàng định hình tương lai. Tôi đã có đặc ân tham gia vào ba cuộc thảo luận tròn trong các phân khúc dịch vụ tài chính, bảo hiểm và bán lẻ với ba lĩnh vực chính xuất hiện: nhu cầu minh bạch hơn để tạo niềm tin vào AI, dân chủ hóa AI thông qua không mã / mã thấp và phát triển để cung cấp thời gian nhanh hơn để tạo giá trị và giảm thiểu rủi ro thông qua các phương pháp hay nhất về quản trị AI.

Tăng cường niềm tin vào các công nghệ AI. COVID-19 đã khuếch đại và tăng tốc xu hướng ủng hộ các rô-bốt trò chuyện AI, trợ lý tài chính ảo và tích hợp khách hàng không cần chạm. Xu hướng này sẽ tiếp tục như được xác nhận trong nghiên cứu của Cap Gemini, cho thấy 78% người tiêu dùng được hỏi đang lên kế hoạch tăng cường sử dụng các công nghệ AI, bao gồm cả quản lý danh tính kỹ thuật số trong các tương tác của họ với các tổ chức tài chính.

Thật vậy, những lợi ích vốn có không thể phủ nhận, nhưng một số thách thức phát sinh. Trước hết là sự thiếu tin cậy của người tiêu dùng vào các công nghệ AI và cách bản chất phổ biến của chúng ảnh hưởng đến quyền riêng tư và bảo mật của họ. 30% người tiêu dùng cho biết họ sẽ thoải mái hơn khi chia sẻ thông tin sinh trắc học của mình nếu nhà cung cấp dịch vụ tài chính của họ cung cấp nhiều minh bạch hơn trong việc giải thích cách họ thu thập, quản lý và bảo mật thông tin của mình.

Các CIO phải áp dụng các nguyên tắc AI đáng tin cậy và thiết lập các biện pháp nghiêm ngặt để bảo vệ quyền riêng tư và bảo mật. Họ có thể đạt được điều này thông qua mã hóa, tối ưu hóa dữ liệu và xác thực an toàn hơn, bao gồm cả việc xem xét các tiêu chuẩn danh tính kỹ thuật số phân quyền mới nổi. Kết quả là, các nỗ lực tự động hóa thông minh và các dịch vụ tự phục vụ của bạn sẽ thấy nhiều sự áp dụng hơn và cần ít can thiệp của con người hơn.

Loại bỏ các rào cản đối với việc dân chủ hóa AI. Có một sự chuyển dịch ngày càng tăng hướng tới phát triển ứng dụng AI không mã / mã thấp, điều này nghiên cứu dự báo sẽ đạt 45,5 tỷ USD vào năm 2025. Nguyên nhân chính là thời gian nhanh hơn để tạo giá trị với sự cải thiện về năng suất phát triển ứng dụng 10 lần.

Ví dụ, 56% tổ chức dịch vụ tài chính được khảo sát coi thu thập dữ liệu từ người vay là một trong những bước khó khăn và không hiệu quả nhất trong quy trình申请 khoản vay, dẫn đến tỷ lệ bỏ cuộc cao. Trong khi công nghệ nhận dạng và thu thập dữ liệu sinh trắc học hỗ trợ bởi AI đã được chứng minh là cải thiện hiệu quả trong quy trình ứng dụng khoản vay, chúng cũng có thể tạo ra rủi ro tuân thủ, đặc biệt là quyền riêng tư dữ liệu, bảo mật và thiên vị thuật toán AI.

Để giảm thiểu và khắc phục những rủi ro như vậy, các ứng dụng không mã / mã thấp phải bao gồm thử nghiệm toàn diện để đảm bảo rằng chúng hoạt động theo các mục tiêu thiết kế ban đầu, loại bỏ thiên vị tiềm ẩn trong tập dữ liệu đào tạo có thể bao gồm thiên vị lấy mẫu, nhãn mác và bảo mật khỏi các cuộc tấn công AI đối thủ có thể ảnh hưởng tiêu cực đến kết quả thuật toán AI. Việc xem xét các nguyên tắc khoa học dữ liệu có trách nhiệm về công bằng, chính xác, bảo mật và bảo mật là rất quan trọng.

Phát triển một khuôn khổ quản trị và quy định AI. Quản trị AI không còn là một sáng kiến tốt mà là một yêu cầu. Theo dõi chính sách AI quốc gia của OECD, có hơn 700 sáng kiến quy định AI đang được phát triển ở hơn 60 quốc gia. Tuy nhiên, có các mã hành vi tự nguyện và các nguyên tắc AI đạo đức được phát triển bởi các tổ chức tiêu chuẩn hóa quốc tế như Viện Kỹ sư Điện và Điện tử (IEEE) và Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST).

Các lo ngại từ các tổ chức bao gồm việc giả định rằng các quy định AI sẽ áp đặt nhiều nghĩa vụ tuân thủ nghiêm ngặt hơn đối với họ, được hỗ trợ bởi các cơ chế thực thi nghiêm ngặt, bao gồm cả hình phạt cho việc không tuân thủ. Tuy nhiên, quy định AI là không thể tránh khỏi.

Châu Âu và Bắc Mỹ đang có những bước đi chủ động sẽ yêu cầu các CIO hợp tác với các đối tác công nghệ và kinh doanh của họ để hình thành các chính sách hiệu quả. Ví dụ, Ủy ban Châu Âu đã đề xuất một Đạo luật Trí tuệ nhân tạo nhằm đề xuất các nghĩa vụ dựa trên rủi ro đối với các nhà cung cấp AI để bảo vệ quyền của người tiêu dùng, đồng thời thúc đẩy sự đổi mới và cơ hội kinh tế liên quan đến các công nghệ AI.

Ngoài ra, vào tháng 6 năm 2022, Chính phủ Liên bang Canada đã phát hành Đạo luật Thực thi Hiến chương Số được chờ đợi nhiều, bảo vệ chống lại các tác động bất lợi của các hệ thống AI có rủi ro cao. Hoa Kỳ cũng đang tiến hành các sáng kiến quy định AI, mặc dù trên cơ sở từng lĩnh vực. Ủy ban Thương mại Liên bang (FTC), Văn phòng Bảo vệ Tài chính Người tiêu dùng (CFPB) và Hội đồng Dự trữ Liên bang đều đang thể hiện các cơ chế quản lý của họ thông qua các cơ chế thực thi để bảo vệ người tiêu dùng khỏi các tác động bất lợi phát sinh từ việc ứng dụng AI ngày càng tăng có thể dẫn đến các kết quả phân biệt, dù không cố ý. Một khuôn khổ quản lý AI là điều cần thiết cho bất kỳ công ty đổi mới nào.

Đạt được Trí tuệ nhân tạo đáng tin cậy đòi hỏi phải có thông tin dựa trên dữ liệu

Việc thực hiện trí tuệ nhân tạo đáng tin cậy không thể đạt được nếu không có một cách tiếp cận dựa trên dữ liệu để xác định nơi ứng dụng các công nghệ AI có thể có tác động lớn nhất trước khi tiếp tục thực hiện. Liệu đó là để cải thiện sự tham gia của khách hàng, hay để thực hiện hiệu quả hoạt động hoặc để giảm thiểu rủi ro tuân thủ?

Mỗi một trong những yếu tố kinh doanh này đòi hỏi phải hiểu rõ về cách các quy trình được thực hiện, cách các sự cố và ngoại lệ được xử lý và xác định các biến thể trong việc thực hiện các chướng ngại vật và nguyên nhân gốc rễ của chúng. Dựa trên phân tích dựa trên dữ liệu như vậy, các tổ chức có thể đưa ra các quyết định kinh doanh sáng suốt về tác động và kết quả liên quan đến việc thực hiện các giải pháp dựa trên AI để giảm ma sát khi tích hợp khách hàng và cải thiện hiệu quả hoạt động. Một khi các tổ chức đã có lợi thế của thông tin dựa trên dữ liệu, thì họ có thể tự động hóa các quy trình đòi hỏi nhiều lao động như đáp ứng các yêu cầu tuân thủ AI, kiểm toán tuân thủ, KYC và AML trong dịch vụ tài chính.

Điều quan trọng cần lưu ý là một phần không thể tách rời của tự động hóa quy trình được hỗ trợ bởi AI là việc thực hiện các phương pháp hay nhất về AI đáng tin cậy. Sử dụng AI một cách có đạo đức không nên được coi là một nghĩa vụ pháp lý và đạo đức mà là một yêu cầu kinh doanh. Điều đó có ý nghĩa kinh doanh tốt để minh bạch trong việc áp dụng AI. Nó tạo ra niềm tin và tạo ra lòng trung thành với thương hiệu.