Trí tuệ nhân tạo: Vì người dân, do người dân và của người dân

Được viết bởi: Balakrishna (Bali) D R, Phó Chủ tịch cấp cao, Trưởng bộ phận Cung cấp Dịch vụ – ECS, AI và Tự động hóa tại Infosys.

Chúng ta may mắn sống trong thời đại công nghệ nơi Trí tuệ nhân tạo (AI) làm việc chăm chỉ để làm cho cuộc sống của chúng ta dễ dàng hơn – điện thoại của chúng ta hiện nhận ra chúng ta và sẽ mở khóa khi chúng “nhìn thấy” chúng ta, chúng ta có bản đồ nói chuyện giúp chúng ta tìm đường ngắn nhất, ít đông đúc nhất để đến nơi chúng ta muốn đi, thiết bị thông minh làm ấm và làm mát nhà chúng ta thậm chí trước khi chúng ta nói từ, ứng dụng thông minh dự đoán và ngăn chặn gian lận, và nhiều hơn nữa.

Tuy nhiên, chúng ta cũng đã có những trường hợp mà những hệ thống thông minh được hỗ trợ bởi AI đã thất bại chúng ta từ góc độ công bằng và đạo đức. Ví dụ, một ngân hàng uy tín làm việc với chúng tôi nghi ngờ rằng các mô hình AI mà họ sử dụng để đánh giá giá trị tín dụng trước khi cấp khoản vay có thể bị thiên vị, và họ đã gọi cho chúng tôi để giúp họ. Trong một dịp khác, một nhà sản xuất máy móc đã làm việc với chúng tôi để phân tích mẫu yêu cầu bảo hành để loại bỏ thiên vị, từ tập dữ liệu và quy trình, trước khi tái thiết và tự động hóa quy trình phê duyệt yêu cầu của họ. Các mô hình AI liên quan đến tuyển dụng, chúng tôi thường tìm thấy, bị ảnh hưởng bởi thiên vị về tuổi, giới tính, chủng tộc, thậm chí mã zip đôi khi, trong tập dữ liệu của chúng – đưa ra kết quả không công bằng nếu không được kiểm soát.

Do tác động khổng lồ của thiên vị AI có thể có trên toàn doanh nghiệp, các câu hỏi đạo đức đã trở thành trung tâm trong việc phát triển, triển khai và sử dụng các hệ thống AI. Các hệ thống AI là sự kết hợp của nhiều quyết định con người, vốn cũng dựa trên thiên vị của con người. Sự bảo vệ quyền tự chủ và quyền riêng tư của nhân viên, rủi ro của thiên vị ảnh hưởng đến sự phát triển và cơ hội nghề nghiệp, phân biệt chủng tộc, màu da hoặc giới tính, sự thiếu giải thích của các lựa chọn được thực hiện bởi giải pháp AI, và do đó, trách nhiệm của việc ra quyết định AI, đang được tranh luận nóng khi nói đến việc thảo luận về AI và những ưu điểm của nó.

Tạo ra Trí tuệ nhân tạo có trách nhiệm

Thiên vị AI có thể có hiệu ứng domino trên toàn tổ chức. Do đó, các nhà lãnh đạo CNTT phải đảm bảo rằng họ đang triển khai AI một cách có đạo đức, phù hợp với và không chống lại nhân viên. Để làm điều này, các tổ chức nên xem xét việc bao gồm các yếu tố sau trong việc triển khai AI của họ.

Quản lý Dữ liệu: Sử dụng AI một cách có đạo đức cũng dựa trên việc sử dụng dữ liệu có quản lý, bắt đầu từ việc thu thập dữ liệu một cách minh bạch và công bằng. Để làm điều này, các nhà lãnh đạo CNTT nên thiết lập một khuôn khổ quản lý rõ ràng sẽ đảm bảo an ninh, tính toàn vẹn và quyền riêng tư của dữ liệu, cũng như ngăn chặn sự tham nhũng và mất mát dữ liệu – tất cả đều cần thiết.

Trách nhiệm: Các mô hình Học máy cần phải công bằng, không thiên vị, đối xử với mọi người một cách bình đẳng và cũng chia sẻ lợi ích một cách công bằng (tương tự như tỷ lệ chấp nhận và từ chối) trên tất cả các thuộc tính như chủng tộc, tôn giáo, giới tính, v.v. Chúng cần đạt được độ chính xác chấp nhận được không chỉ trên tổng thể mà còn trên các lớp thiểu số. Những mô hình này nên có thể giải thích được khi nói đến việc phác thảo cách đạt được kết quả. Ví dụ, có thể giải thích tại sao mô hình từ chối một khoản vay từ người nộp đơn A nhưng chấp nhận cùng một khoản vay từ người nộp đơn B. Các nhà lãnh đạo CNTT đang phát triển các giải pháp AI cần làm cho logic cơ bản mà thúc đẩy những quyết định này rõ ràng cho các bên liên quan kinh doanh để có sự minh bạch tổng thể trong doanh nghiệp.

Sự Robustness Đối lập: Toàn bộ hệ sinh thái AI cần phải đồng ý về nhu cầu kiểm tra và tấn công các mô hình AI thông qua mô phỏng để nghiên cứu các kết quả tiêu cực tiềm ẩn. Ví dụ, các nhà lãnh đạo CNTT có thể sử dụng các thử nghiệm sau để kiểm tra hệ thống AI của họ và chuẩn bị cho các chướng ngại vật tiềm năng.

• Thay đổi Dữ liệu: thay đổi trực tiếp tập dữ liệu được sử dụng cho quá trình đào tạo bằng cách tiêm, sửa đổi và làm hỏng logic
• Thay đổi Mô hình: kiểm tra sự giảm độ tin cậy và phân loại sai
• Công cụ Phụ trợ: sử dụng công cụ để ảnh hưởng hoặc làm hỏng kết quả

Con người trong Vòng lặp: Các mô hình AI cần phải được giảm thiểu rủi ro bằng cách có con người trong vòng lặp cho tất cả các điểm quyết định chính và có một cơ chế dự phòng hiệu quả hoặc một con đường thay thế nếu hệ thống AI cần phải được rút lại.

Phát triển sự đồng ý xã hội cho AI

Ngoài những hướng dẫn này, chúng ta cần thúc đẩy các cuộc thảo luận và tranh luận bao gồm giữa tất cả các nhà lãnh đạo trên toàn doanh nghiệp, về lợi ích, lợi ích, chi phí và hậu quả của bất kỳ việc triển khai AI lớn nào. Chỉ những quá trình bao gồm như vậy, liên quan đến tất cả các bên liên quan, để thảo luận và quyết định kết quả có thể chấp nhận được, và cân nhắc giữa rủi ro và lợi ích, có thể giúp công nghệ AI nhận được giấy phép hoạt động trên toàn doanh nghiệp. trên toàn doanh nghiệp, về lợi ích, lợi ích, chi phí và hậu quả của bất kỳ việc triển khai AI lớn nào. Chỉ những quá trình bao gồm như vậy, liên quan đến tất cả các bên liên quan, để thảo luận và quyết định kết quả có thể chấp nhận được, và cân nhắc giữa rủi ro và lợi ích, có thể giúp công nghệ AI nhận được giấy phép hoạt động trên toàn doanh nghiệp.