Khi Các Ngành Công Nghiệp Chuẩn Bị Cho Việc Áp Dụng Trí Tuệ Nhân Tạo Tăng Cường, Sự Quan Tâm Mới Đến Đạo Đức & Trách Nhiệm

Bởi: Pandurang Kamat, CTO của Persistent Systems

Trí tuệ nhân tạo (AI) ở cốt lõi là học máy (ML), quá trình mà máy học cách cải thiện hiệu suất dựa trên dữ liệu đầu vào. Số lượng dữ liệu hiện có ngày nay có nghĩa là AI đã có điều kiện thuận lợi để phát triển, tăng tốc trong vài năm qua. Và lời hứa của AI đã khiến các nhà công nghệ và giám đốc điều hành trong các ngành công nghiệp khác nhau nghĩ sáng tạo về các ứng dụng khác nhau của nó.

Từ cuộc cách mạng công nghiệp trở đi, bất kỳ giai đoạn nào của tiến bộ công nghệ nhanh chóng đều được đánh dấu bằng sự hào hứng và lo ngại như nhau. Tổ chức W3C (W3C), một nhóm tạo ra các tiêu chuẩn ngành cho nhà phát triển web, chỉ ra rằng “có sự nhận thức ngày càng tăng rằng việc áp dụng học máy đặt ra rủi ro và có thể dẫn đến thiệt hại” – bao gồm cả các lĩnh vực như: thiên vị, quyền riêng tư, bảo mật, tính bền vững và trách nhiệm chung.

“Sự quan tâm rõ ràng đến việc tiếp cận đạo đức đối với ML, được nhìn thấy qua hoạt động của xã hội dân sự, sự xuất hiện của ~100 bộ nguyên tắc đạo đức AI trên toàn cầu và các động thái của chính phủ trên toàn thế giới để điều chỉnh AI,” nhóm đã viết. “Nếu công nghệ không được căn chỉnh với các giá trị của xã hội mà chúng hoạt động, chúng có nguy cơ phá hoại chúng.”

Chọn Wisely

Trên bề mặt, khó có thể tranh cãi rằng tốc độ và đầu ra tăng cường là điều tồi tệ cho kinh doanh. Nhưng đối với một số ngành công nghiệp, có rất nhiều điều đang bị đe dọa với quá trình ra quyết định mà một số người cho rằng không nên để lại cho một thuật toán. Nhìn vào một số ngành công nghiệp lớn nhất, chúng ta có thể thấy rõ chúng ta dễ bị tổn thương như thế nào trước lỗi máy, và tại sao AI có trách nhiệm lại quan trọng đến vậy.

Ngân Hàng, Dịch Vụ Tài Chính và Bảo Hiểm (BFSI)

Diễn đàn Kinh tế Thế giới (WEF) và Deloitte đã xem xét quá trình triển khai AI trong các công ty BFSI, phát hiện ra rằng, “mặc dù AI có thể giúp tạo ra những thông tin kinh doanh hữu ích từ một lượng thông tin áp đảo,” “sự lạ lẫm của AI” sẽ là nguồn gốc của rủi ro nghiêm trọng liên tục.

“AI lý luận theo cách không phải của con người,” báo cáo cho biết. “Hệ thống AI không tuân theo các cấu trúc logic của con người và hành động rất khác so với các tác nhân con người khi thực hiện cùng một nhiệm vụ. Hơn nữa, tính chất tự học của hệ thống AI cho phép chúng tiến hóa mà không cần đầu vào của con người, điều này có thể dẫn đến kết quả không mong muốn dựa trên các biến số không xác định.”

Những người ủng hộ AI có trách nhiệm cho rằng học máy đặt ra những vấn đề nghiêm trọng trong những thứ như đánh giá rủi ro tự động, tín dụng và quyết định cho vay, tất cả đều có lịch sử thiên vị đối với một số nhóm dân tộc. Các nghiên cứu gần đây đã chỉ ra rằng những người cho vay sử dụng động cơ quyết định dựa trên AI có nhiều khả năng hơn sẽ từ chối cho vay mua nhà đối với người da màu – trong một số trường hợp, 80% người nộp đơn da đen có nhiều khả năng bị từ chối.

Chăm Sóc Sức Khỏe

Vài năm trước, Tạp chí Hiệp hội Y khoa Mỹ (JAMA) đã xem xét việc áp dụng AI trong chăm sóc sức khỏe, phát hiện ra rằng những thách thức là nhiều, bao gồm “những kỳ vọng không thực tế, dữ liệu thiên vị và không đại diện, việc ưu tiên không đầy đủ về công bằng và hòa nhập, rủi ro làm trầm trọng thêm sự chênh lệch chăm sóc sức khỏe, mức độ tin cậy thấp và môi trường quản lý không chắc chắn.”

Không chính xác là một lời khen ngợi, nhưng có một tiêu chuẩn cao hơn cho AI có trách nhiệm trong chăm sóc sức khỏe, đặc biệt là учитывая tiềm năng sinh tử của nó. Về tổng thể, các chuyên gia chăm sóc sức khỏe lạc quan nhưng cẩn thận về tương lai của AI, chọn tập trung nỗ lực của họ vào việc giáo dục các chuyên gia khác về việc sử dụng nó trong môi trường lâm sàng và tạo ra hướng dẫn về cách tiến hành một cách có trách nhiệm để mang lại lợi ích cho tất cả bệnh nhân.

Truyền Thông

PwC ước tính rằng AI sẽ mang lại 15,7 nghìn tỷ đô la tăng trưởng kinh tế toàn cầu vào năm 2030, nhưng theo Salesforce ít hơn một nửa (48%) khách hàng tin tưởng rằng các công ty sẽ sử dụng AI một cách đạo đức, và 65% lo ngại về việc sử dụng AI không đạo đức. Tại điểm giao nhau giữa lợi nhuận và niềm tin, có các công ty truyền thông – những người áp dụng sớm với tầm ảnh hưởng và phạm vi tiếp cận lớn. Và có những lo ngại về việc AI không phải là một ứng dụng “cài đặt và quên đi”, nghĩa là đối với các công ty truyền thông, trách nhiệm của họ không chỉ nằm trong việc sản xuất nội dung, mà còn trong việc giám sát liên tục sau khi triển khai.

Làm thế nào quảng cáo được phục vụ và cá nhân hóa? Làm thế nào nội dung đến được với một khán giả cụ thể, và thông điệp là gì? Ai đang dạy AI “làm thế nào” để học? Và làm thế nào bạn có thể nhắm đến người tiêu dùng cụ thể đồng thời tôn trọng quyền riêng tư? Đây chỉ là một số câu hỏi làm cho các công ty truyền thông phải suy nghĩ khi họ cân bằng giữa đạo đức và lợi thế cạnh tranh.

Sự Phản Hồi Đối Với Trách Nhiệm

Sự tiến bộ trong việc phát triển AI có trách nhiệm là rõ ràng mỗi ngày – các nhà lập pháp đang soạn thảo các quy định, người tiêu dùng đang yêu cầu sự minh bạch hơn, và nhiều công ty đã tạo ra các bộ phận cụ thể để đảm bảo AI của họ được sử dụng một cách phù hợp. Các công ty cần một khung AI có trách nhiệm được xác định rõ ràng bao gồm đạo đức, minh bạch, trách nhiệm, công bằng, quyền riêng tư và bảo mật. Khi các cuộc tranh luận và cải cách tiếp tục, một nghiên cứu chung gần đây của MIT Sloan Management Review và Boston Consulting Group cung cấp một số hướng dẫn chung đơn giản – họ viết, “Nếu bạn muốn trở thành một nhà lãnh đạo AI có trách nhiệm, hãy tập trung vào việc trở thành một công ty có trách nhiệm.” rs đạo đức, minh bạch, trách nhiệm, công bằng, quyền riêng tư và bảo mật. Khi các cuộc tranh luận và cải cách tiếp tục, một nghiên cứu chung gần đây của MIT Sloan Management Review và Boston Consulting Group cung cấp một số hướng dẫn chung đơn giản – họ viết, “Nếu bạn muốn trở thành một nhà lãnh đạo AI có trách nhiệm, hãy tập trung vào việc trở thành một công ty có trách nhiệm.”