Cầu nối khoảng cách niềm tin về Trí tuệ nhân tạo

Sự áp dụng trí tuệ nhân tạo đang đạt đến một điểm chuyển đổi quan trọng. Các doanh nghiệp đang nhiệt tình áp dụng trí tuệ nhân tạo, được thúc đẩy bởi lời hứa mang lại sự cải thiện đáng kể về hiệu quả hoạt động.

Một cuộc khảo sát gần đây của Slack cho thấy việc áp dụng trí tuệ nhân tạo vẫn tiếp tục tăng tốc, với việc sử dụng trí tuệ nhân tạo trong nơi làm việc tăng 24% gần đây và 96% các giám đốc điều hành được khảo sát tin rằng “nó rất quan trọng để tích hợp trí tuệ nhân tạo vào toàn bộ hoạt động kinh doanh của họ.”

Tuy nhiên, có một khoảng cách ngày càng rộng giữa lợi ích của trí tuệ nhân tạo và lo ngại ngày càng tăng về tác động tiêu cực tiềm ẩn của nó. Chỉ 7% các nhân viên văn phòng tin rằng kết quả từ trí tuệ nhân tạo đủ đáng tin cậy để hỗ trợ họ trong các nhiệm vụ liên quan đến công việc.

Khoảng cách này rõ ràng trong sự tương phản mạnh mẽ giữa sự nhiệt tình của các giám đốc điều hành đối với việc tích hợp trí tuệ nhân tạo và sự hoài nghi của nhân viên liên quan đến các yếu tố như:

• Th偏見 và Công bằng: Các hệ thống trí tuệ nhân tạo có thể duy trì hoặc thậm chí làm trầm trọng thêm các thành kiến hiện có dẫn đến kết quả không công bằng.
• Quyền riêng tư và An ninh: Nhân viên lo lắng về cách dữ liệu cá nhân của họ được thu thập, lưu trữ và sử dụng bởi các hệ thống trí tuệ nhân tạo.
• Quyết định không minh bạch: Các hệ thống trí tuệ nhân tạo thường hoạt động như “hộp đen”, đưa ra quyết định mà khó cho con người hiểu hoặc giải thích.
• Lo lắng về Tự động hóa: Có một nỗi sợ hãi rộng rãi rằng trí tuệ nhân tạo sẽ thay thế công việc của con người, dẫn đến thất nghiệp và bất ổn kinh tế.

Vai trò của Lập pháp trong Xây dựng Niềm tin

Để giải quyết những vấn đề đa diện này, các biện pháp lập pháp đang ngày càng được coi là một bước cần thiết. Lập pháp có thể đóng vai trò then chốt trong việc điều chỉnh sự phát triển và triển khai trí tuệ nhân tạo, do đó tăng cường niềm tin. Các phương pháp lập pháp chính bao gồm:

• Luật Bảo vệ Dữ liệu và Quyền riêng tư: Thực hiện các luật bảo vệ dữ liệu nghiêm ngặt đảm bảo rằng các hệ thống trí tuệ nhân tạo xử lý dữ liệu cá nhân một cách có trách nhiệm. Các quy định như Quy định Bảo vệ Dữ liệu Chung (GDPR) của Liên minh Châu Âu thiết lập một tiền lệ bằng cách yêu cầu minh bạch, tối ưu hóa dữ liệu và sự đồng ý của người dùng. Đặc biệt, Điều 22 của GDPR bảo vệ các chủ thể dữ liệu khỏi các tác động tiêu cực tiềm ẩn của việc ra quyết định tự động. Các quyết định gần đây của Tòa án Công lý của Liên minh Châu Âu (CJEU) khẳng định quyền của một người không bị đưa ra quyết định tự động. Trong trường hợp của Schufa Holding AG, nơi một cư dân Đức bị từ chối cho vay bởi một hệ thống quyết định tín dụng tự động, tòa án cho rằng Điều 22 yêu cầu các tổ chức thực hiện các biện pháp để bảo vệ quyền riêng tư liên quan đến việc sử dụng công nghệ trí tuệ nhân tạo.
• Quy định Trí tuệ nhân tạo: Liên minh Châu Âu đã thông qua Đạo luật Trí tuệ nhân tạo của EU (EU AIA), nhằm điều chỉnh việc sử dụng các hệ thống trí tuệ nhân tạo dựa trên mức độ rủi ro của chúng. Đạo luật này bao gồm các yêu cầu bắt buộc đối với các hệ thống trí tuệ nhân tạo có rủi ro cao, bao gồm các lĩnh vực như chất lượng dữ liệu, tài liệu, minh bạch và giám sát của con người. Một trong những lợi ích chính của quy định trí tuệ nhân tạo là việc thúc đẩy minh bạch và giải thích các hệ thống trí tuệ nhân tạo. Hơn nữa, EU AIA thiết lập các khuôn khổ trách nhiệm rõ ràng, đảm bảo rằng các nhà phát triển, nhà vận hành và thậm chí người dùng các hệ thống trí tuệ nhân tạo đều chịu trách nhiệm về hành động và kết quả của việc triển khai trí tuệ nhân tạo. Điều này bao gồm cơ chế khiếu nại nếu một hệ thống trí tuệ nhân tạo gây ra thiệt hại. Khi các cá nhân và tổ chức được giữ trách nhiệm, điều đó xây dựng niềm tin rằng các hệ thống trí tuệ nhân tạo được quản lý một cách có trách nhiệm.

Sáng kiến Tiêu chuẩn để thúc đẩy Văn hóa Trí tuệ nhân tạo đáng tin cậy

Các công ty không cần phải chờ đợi các luật mới được thực thi để xác định xem quy trình của họ có nằm trong các hướng dẫn đạo đức và đáng tin cậy hay không. Các quy định về trí tuệ nhân tạo hoạt động cùng với các sáng kiến tiêu chuẩn về trí tuệ nhân tạo đang nổi lên, cho phép các tổ chức thực hiện quản trị trí tuệ nhân tạo có trách nhiệm và các phương pháp hay nhất trong suốt vòng đời của các hệ thống trí tuệ nhân tạo, bao gồm thiết kế, thực hiện, triển khai và cuối cùng là loại bỏ.

Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) tại Hoa Kỳ đã phát triển một Khung quản lý Rủi ro Trí tuệ nhân tạo để hướng dẫn các tổ chức trong việc quản lý các rủi ro liên quan đến trí tuệ nhân tạo. Khung này được cấu trúc xung quanh bốn chức năng cốt lõi:

• Hiểu hệ thống trí tuệ nhân tạo và bối cảnh trong đó nó hoạt động. Điều này bao gồm việc xác định mục đích, các bên liên quan và các tác động tiềm ẩn của hệ thống trí tuệ nhân tạo.
• Định lượng các rủi ro liên quan đến hệ thống trí tuệ nhân tạo, bao gồm cả các khía cạnh kỹ thuật và phi kỹ thuật. Điều này liên quan đến việc đánh giá hiệu suất, độ tin cậy và các thành kiến tiềm ẩn của hệ thống.

• Thực hiện các chiến lược để giảm thiểu các rủi ro đã xác định. Điều này bao gồm việc phát triển các chính sách, thủ tục và kiểm soát để đảm bảo hệ thống trí tuệ nhân tạo hoạt động trong các mức rủi ro chấp nhận được.
• Thiết lập các cấu trúc quản trị và cơ chế trách nhiệm để giám sát hệ thống trí tuệ nhân tạo và các quy trình quản lý rủi ro của nó. Điều này liên quan đến việc xem xét và cập nhật thường xuyên chiến lược quản lý rủi ro.

Để đáp ứng những tiến bộ trong công nghệ trí tuệ nhân tạo tạo sinh NIST cũng đã xuất bản Khung quản lý Rủi ro Trí tuệ nhân tạo: Hồ sơ Trí tuệ nhân tạo Tạo sinh, cung cấp hướng dẫn để giảm thiểu các rủi ro cụ thể liên quan đến các Mô hình nền tảng. Những biện pháp này bao gồm việc bảo vệ chống lại việc sử dụng sai (ví dụ: thông tin sai lệch, nội dung xuống cấp, ngôn từ căm thù), và các ứng dụng trí tuệ nhân tạo tập trung vào các giá trị của con người như công bằng, quyền riêng tư, bảo mật thông tin, quyền sở hữu trí tuệ và tính bền vững.

Hơn nữa, Tổ chức Tiêu chuẩn hóa Quốc tế (ISO) và Ủy ban Kỹ thuật Điện Quốc tế (IEC) đã cùng phát triển ISO/IEC 23894, một tiêu chuẩn toàn diện về quản lý rủi ro trí tuệ nhân tạo. Tiêu chuẩn này cung cấp một cách tiếp cận hệ thống để xác định và quản lý rủi ro trong suốt vòng đời của trí tuệ nhân tạo, bao gồm xác định rủi ro, đánh giá mức độ nghiêm trọng của rủi ro, điều trị để giảm thiểu hoặc tránh rủi ro, và giám sát liên tục và xem xét lại.

Tương lai của Trí tuệ nhân tạo và Niềm tin Công chúng

Khi nhìn về phía trước, tương lai của trí tuệ nhân tạo và niềm tin công chúng sẽ có khả năng phụ thuộc vào một số yếu tố quan trọng mà tất cả các tổ chức cần tuân theo:

• Thực hiện một đánh giá rủi ro toàn diện để xác định các vấn đề tuân thủ tiềm ẩn. Đánh giá các ý nghĩa đạo đức và các thành kiến tiềm ẩn trong các hệ thống trí tuệ nhân tạo của bạn.
• Thiết lập một đội ngũ đa chức năng bao gồm các chuyên gia pháp lý, tuân thủ, CNTT và khoa học dữ liệu. Đội ngũ này nên chịu trách nhiệm theo dõi các thay đổi quy định và đảm bảo rằng các hệ thống trí tuệ nhân tạo của bạn tuân thủ các quy định mới.
• Thực hiện một cấu trúc quản trị bao gồm các chính sách, thủ tục và vai trò để quản lý các sáng kiến trí tuệ nhân tạo. Đảm bảo tính minh bạch trong hoạt động và quy trình ra quyết định của trí tuệ nhân tạo.
• Thực hiện các cuộc kiểm toán nội bộ thường xuyên để đảm bảo tuân thủ các quy định về trí tuệ nhân tạo. Sử dụng các công cụ giám sát để theo dõi hiệu suất của hệ thống trí tuệ nhân tạo và tuân thủ các tiêu chuẩn quy định.
• Giáo dục nhân viên về đạo đức trí tuệ nhân tạo, yêu cầu quy định và các phương pháp hay nhất. Cung cấp các phiên đào tạo liên tục để giữ cho nhân viên thông tin về các thay đổi trong quy định về trí tuệ nhân tạo và chiến lược tuân thủ.
• Giữ hồ sơ chi tiết về các quy trình phát triển trí tuệ nhân tạo, sử dụng dữ liệu và tiêu chí ra quyết định. Chuẩn bị để tạo báo cáo có thể được gửi đến các cơ quan quản lý nếu cần.
• Xây dựng mối quan hệ với các cơ quan quản lý và tham gia vào các cuộc tham vấn công khai. Cung cấp phản hồi về các quy định được đề xuất và tìm kiếm sự làm rõ khi cần thiết.

Liên kết Trí tuệ nhân tạo để đạt được Trí tuệ nhân tạo đáng tin cậy

Cuối cùng, trí tuệ nhân tạo đáng tin cậy phụ thuộc vào tính toàn vẹn của dữ liệu. Sự phụ thuộc của trí tuệ nhân tạo tạo sinh vào các tập dữ liệu lớn không tương đương với độ chính xác và độ tin cậy của đầu ra; nếu có gì, nó trái ngược với cả hai tiêu chuẩn. Tạo sinh Tăng cường Trích xuất (RAG) là một kỹ thuật sáng tạo cho phép “kết hợp các mô hình ngôn ngữ tĩnh với dữ liệu cụ thể theo ngữ cảnh. Và nó có thể được coi là một trợ lý rất am hiểu. Một người trợ lý khớp ngữ cảnh truy vấn với dữ liệu cụ thể từ một cơ sở kiến thức toàn diện.” RAG cho phép các tổ chức cung cấp các ứng dụng cụ thể theo ngữ cảnh tuân thủ các kỳ vọng về quyền riêng tư, bảo mật, độ chính xác và độ tin cậy. RAG cải thiện độ chính xác của các phản hồi được tạo bằng cách trích xuất thông tin liên quan từ một cơ sở kiến thức hoặc kho lưu trữ tài liệu. Điều này cho phép mô hình dựa trên thông tin chính xác và cập nhật để tạo ra.

RAG trao quyền cho các tổ chức xây dựng các ứng dụng trí tuệ nhân tạo được thiết kế cho mục đích, có độ chính xác cao, nhận thức ngữ cảnh và có khả năng thích ứng để cải thiện việc ra quyết định, nâng cao trải nghiệm khách hàng, tối ưu hóa hoạt động và đạt được lợi thế cạnh tranh đáng kể.

Cầu nối khoảng cách niềm tin về trí tuệ nhân tạo liên quan đến việc đảm bảo tính minh bạch, trách nhiệm và sử dụng đạo đức của trí tuệ nhân tạo. Mặc dù không có câu trả lời đơn giản để duy trì các tiêu chuẩn này, các doanh nghiệp có chiến lược và công cụ trong tầm tay. Thực hiện các biện pháp bảo vệ quyền riêng tư dữ liệu mạnh mẽ và tuân thủ các tiêu chuẩn quy định xây dựng niềm tin của người dùng. Kiểm toán thường xuyên các hệ thống trí tuệ nhân tạo để tìm kiếm sự thiên vị và không chính xác đảm bảo công bằng. Tăng cường các Mô hình Ngôn ngữ Lớn (LLM) với trí tuệ nhân tạo được thiết kế cho mục đích bằng cách kết hợp các cơ sở kiến thức và nguồn dữ liệu độc quyền mang lại niềm tin bằng cách kết hợp các cơ sở kiến thức và nguồn dữ liệu độc quyền. Việc tham gia các bên liên quan về khả năng và giới hạn của trí tuệ nhân tạo cũng thúc đẩy niềm tin và chấp nhận

Trí tuệ nhân tạo đáng tin cậy không dễ đạt được, nhưng đó là một cam kết quan trọng đối với tương lai của chúng ta.