Thiếu Tin Cậy Trong Trí Tuệ Nhân Tạo Có Thể Ngăn Chặn Sáng Tạo và Giá Trị Kinh Doanh

Một cuộc khảo sát gần đây giữa các nhà lãnh đạo kinh doanh toàn cầu cho thấy trí tuệ nhân tạo đáng tin cậy là một ưu tiên lớn, nhưng nhiều người trong số họ không thực hiện đủ bước để đạt được điều đó, nhưng với chi phí gì?

Thực tế, khảo sát của IBM đã tiết lộ rằng 85% người được hỏi đồng ý rằng người tiêu dùng có nhiều khả năng chọn một công ty minh bạch về cách xây dựng, quản lý và sử dụng mô hình trí tuệ nhân tạo của họ.

Tuy nhiên, đa số thừa nhận họ chưa thực hiện các bước quan trọng để đảm bảo trí tuệ nhân tạo của họ đáng tin cậy và có trách nhiệm, chẳng hạn như giảm thiểu thiên vị (74%), theo dõi sự thay đổi hiệu suất và trôi mô hình (68%), và đảm bảo họ có thể giải thích quyết định được hỗ trợ bởi trí tuệ nhân tạo (61%). Điều này đáng lo ngại, đặc biệt khi bạn xem xét việc sử dụng trí tuệ nhân tạo đang tăng trưởng – với 35% cho biết họ hiện đang sử dụng trí tuệ nhân tạo trong kinh doanh, tăng từ 31% vào năm trước.

Tôi gần đây đã tham dự hội nghị thượng đỉnh đổi mới doanh nghiệp chỉ mời, Hội nghị thượng đỉnh đổi mới doanh nghiệp tại Toronto, nơi các tham dự viên trao đổi ý tưởng đổi mới và giới thiệu các công nghệ có khả năng định hình tương lai. Tôi đã có đặc quyền tham gia vào ba cuộc thảo luận trong lĩnh vực dịch vụ tài chính, bảo hiểm và bán lẻ với ba lĩnh vực chính nổi lên: nhu cầu minh bạch hơn để tạo niềm tin vào trí tuệ nhân tạo, dân chủ hóa trí tuệ nhân tạo thông qua không mã/ mã thấp, và phát triển để cung cấp thời gian nhanh hơn để tạo giá trị và giảm thiểu rủi ro thông qua các nguyên tắc quản trị và quy định tốt nhất về trí tuệ nhân tạo.

Tăng cường niềm tin vào công nghệ trí tuệ nhân tạo. COVID-19 đã khuếch đại và tăng tốc xu hướng sử dụng các công nghệ trí tuệ nhân tạo hỗ trợ, chẳng hạn như rô-bốt trò chuyện, trợ lý tài chính ảo và tích hợp khách hàng không cần chạm. Xu hướng này sẽ tiếp tục như được xác nhận trong nghiên cứu của Cap Gemini, cho thấy 78% người tiêu dùng được khảo sát đang lên kế hoạch tăng cường sử dụng các công nghệ trí tuệ nhân tạo, bao gồm cả quản lý danh tính số trong các tương tác với các tổ chức tài chính.

Mặc dù có những lợi ích固 có, nhưng một số thách thức vẫn còn. Trong số đó, sự thiếu tin cậy của người tiêu dùng đối với các công nghệ trí tuệ nhân tạo và cách chúng ảnh hưởng đến quyền riêng tư và bảo mật của họ là nổi bật. 30% người tiêu dùng cho biết họ sẽ cảm thấy thoải mái hơn khi chia sẻ thông tin sinh trắc học của mình nếu các nhà cung cấp dịch vụ tài chính của họ cung cấp thêm minh bạch về cách họ thu thập, quản lý và bảo mật thông tin.

Các giám đốc công nghệ thông tin phải áp dụng các nguyên tắc trí tuệ nhân tạo đáng tin cậy và thiết lập các biện pháp nghiêm ngặt để bảo vệ quyền riêng tư và bảo mật. Họ có thể đạt được điều này thông qua mã hóa, tối ưu hóa dữ liệu và xác thực an toàn, bao gồm cả việc xem xét các tiêu chuẩn danh tính số phân quyền mới nổi.

Loại bỏ rào cản đối với việc dân chủ hóa trí tuệ nhân tạo. Có một xu hướng ngày càng tăng đối với việc phát triển các ứng dụng trí tuệ nhân tạo không mã/ mã thấp, điều này nghiên cứu dự đoán sẽ đạt 45,5 tỷ đô la vào năm 2025. Nguyên nhân chính là thời gian nhanh hơn để tạo giá trị với sự cải thiện trong năng suất phát triển ứng dụng tăng 10 lần.

Ví dụ, 56% các tổ chức dịch vụ tài chính được khảo sát coi thu thập dữ liệu từ người vay là một trong những bước khó khăn và không hiệu quả nhất trong quá trình申请 vay, dẫn đến tỷ lệ bỏ cuộc cao. Trong khi công nghệ nhận dạng sinh trắc học và thu thập dữ liệu hỗ trợ bởi trí tuệ nhân tạo đã được chứng minh là cải thiện hiệu quả trong quá trình vay, chúng cũng có thể tạo ra rủi ro tuân thủ, đặc biệt là bảo mật dữ liệu, bí mật và thiên vị thuật toán.

Để giảm thiểu và khắc phục những rủi ro này, các ứng dụng không mã/ mã thấp phải bao gồm thử nghiệm toàn diện để đảm bảo rằng chúng hoạt động theo các mục tiêu thiết kế ban đầu, loại bỏ sự thiên vị trong tập dữ liệu đào tạo có thể bao gồm thiên vị lấy mẫu, thiên vị nhãn và bảo mật khỏi các cuộc tấn công trí tuệ nhân tạo có thể ảnh hưởng tiêu cực đến kết quả thuật toán. Việc xem xét các nguyên tắc khoa học dữ liệu có trách nhiệm về công bằng, chính xác, bảo mật và bảo mật là rất quan trọng.

Phát triển một khuôn khổ quản trị và quy định về trí tuệ nhân tạo. Quản trị trí tuệ nhân tạo không còn là một sáng kiến tốt đẹp mà là một yêu cầu bắt buộc. Theo dõi các chính sách quốc gia về trí tuệ nhân tạo của OECD, có hơn 700 sáng kiến quy định về trí tuệ nhân tạo đang được phát triển ở hơn 60 quốc gia. Tuy nhiên, có các mã hành vi tự nguyện và các nguyên tắc trí tuệ nhân tạo có trách nhiệm được phát triển bởi các tổ chức tiêu chuẩn hóa quốc tế như Viện Kỹ sư Điện và Điện tử (IEEE) và Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST).

Các lo ngại từ các tổ chức xoay quanh giả định rằng các quy định về trí tuệ nhân tạo sẽ áp đặt thêm các nghĩa vụ tuân thủ nghiêm ngặt đối với họ, được hỗ trợ bởi các cơ chế thực thi nghiêm ngặt, bao gồm cả các hình phạt đối với việc không tuân thủ. Tuy nhiên, quy định về trí tuệ nhân tạo là điều không thể tránh khỏi.

Châu Âu và Bắc Mỹ đang采取 các lập trường chủ động sẽ yêu cầu các giám đốc công nghệ thông tin hợp tác với các đối tác công nghệ và kinh doanh của họ để hình thành các chính sách hiệu quả. Ví dụ, đề xuất Đạo luật Trí tuệ Nhân tạo của Ủy ban Châu Âu đang đề xuất thiết lập các nghĩa vụ dựa trên rủi ro đối với các nhà cung cấp trí tuệ nhân tạo để bảo vệ quyền của người tiêu dùng, đồng thời thúc đẩy sự đổi mới và các cơ hội kinh tế liên quan đến các công nghệ trí tuệ nhân tạo.

Ngoài ra, vào tháng 6 năm 2022, chính phủ Liên bang Canada đã phát hành Đạo luật Thực hiện Sứ mệnh Số, bảo vệ chống lại các tác động bất lợi của các hệ thống trí tuệ nhân tạo có rủi ro cao. Hoa Kỳ cũng đang tiếp tục với các sáng kiến quy định về trí tuệ nhân tạo, mặc dù trên cơ sở từng lĩnh vực. Ủy ban Thương mại Liên bang (FTC), Cơ quan Bảo vệ Tài chính Người tiêu dùng (CFPB) và Hội đồng Dự trữ Liên bang đều đang thể hiện các cơ chế thực thi của họ để bảo vệ người tiêu dùng chống lại các tác động bất lợi phát sinh từ việc tăng cường sử dụng trí tuệ nhân tạo, có thể dẫn đến các kết quả phân biệt, mặc dù không cố ý. Một khuôn khổ quy định về trí tuệ nhân tạo là điều cần thiết cho bất kỳ công ty đổi mới nào.

Đạt được Trí tuệ Nhân tạo Đáng tin cậy Yêu cầu Thông tin Driven bởi Dữ liệu

Việc thực hiện trí tuệ nhân tạo đáng tin cậy không thể đạt được nếu không có một cách tiếp cận dựa trên dữ liệu để xác định nơi các ứng dụng của công nghệ trí tuệ nhân tạo có thể có tác động lớn nhất trước khi tiếp tục thực hiện. Liệu đó là để cải thiện sự tham gia của khách hàng, hay để thực hiện các hiệu quả hoạt động hoặc để giảm thiểu rủi ro tuân thủ?

Mỗi một trong những yếu tố kinh doanh này yêu cầu sự hiểu biết về cách các quy trình được thực hiện, cách các sự cố và ngoại lệ được xử lý, và xác định các biến thể trong việc thực hiện các chướng ngại vật và nguyên nhân gốc rễ của chúng. Dựa trên phân tích dữ liệu như vậy, các tổ chức có thể đưa ra các quyết định kinh doanh sáng suốt về tác động và kết quả liên quan đến việc thực hiện các giải pháp dựa trên trí tuệ nhân tạo để giảm ma sát khi tích hợp khách hàng và cải thiện hiệu quả hoạt động. Khi các tổ chức đã có lợi ích của thông tin dựa trên dữ liệu, thì họ có thể tự động hóa các quy trình lao động nặng nhọc như đáp ứng các yêu cầu tuân thủ trí tuệ nhân tạo, kiểm toán tuân thủ, KYC và AML trong dịch vụ tài chính.

Điều quan trọng nhất là một phần không thể thiếu của tự động hóa quy trình hỗ trợ bởi trí tuệ nhân tạo là việc thực hiện các nguyên tắc tốt nhất về trí tuệ nhân tạo đáng tin cậy. Việc sử dụng trí tuệ nhân tạo một cách có đạo đức không nên được coi là một nghĩa vụ pháp lý và đạo đức mà là một yêu cầu kinh doanh. Điều đó có ý nghĩa kinh doanh tốt để minh bạch trong việc áp dụng trí tuệ nhân tạo. Nó tạo ra niềm tin và tạo ra lòng trung thành với thương hiệu.