Làm thế nào các công ty có thể tạo ra Trí tuệ nhân tạo có trách nhiệm và minh bạch – Lãnh đạo tư duy

Bởi Eric Paternoster, CEO của Infosys Public Services

Sundar Pichai, CEO của công ty mẹ Alphabet của Google, đã mô tả sự phát triển của Trí tuệ nhân tạo là “sâu sắc hơn lửa hoặc điện,” và COVID-19 đã mang lại sự cấp bách mới trong việc phát huy lời hứa của công nghệ này. Các ứng dụng của Trí tuệ nhân tạo hiện đang đứng vững trong ánh đèn sân khấu, cải thiện các phương pháp điều trị COVID, theo dõi các trường hợp mang COVID tiềm năng và triển khai các chương trình trò chuyện thời gian thực cho người dùng các trang web bán lẻ thiếu hụt. Những ứng dụng này đã chỉ ra rằng Trí tuệ nhân tạo cải thiện khả năng chống chịu của doanh nghiệp và mang lại lợi ích cho xã hội rộng lớn hơn.

Vì vậy, cùng với “đám mây bản địa,” từ khóa của quý trước có thể chỉ là “chuyển đổi Trí tuệ nhân tạo đầu tiên,” một thuật ngữ mà các nhà thực hành trong ngành tin rằng sẽ vẫn đúng ngay cả khi COVID biến mất. Đối với nhiều công ty, lời hứa hẹn về chi phí thấp hơn (tức là các thuật toán chuỗi cung ứng phù hợp với nhu cầu) và tăng năng suất đáng kinh ngạc (tức là khi các ngân hàng sử dụng xác minh tài liệu và danh tính trong thời gian thực) đơn giản là quá tốt để bỏ qua.

Tại sao Chuyển đổi Trí tuệ nhân tạo Đầu tiên?

Trong chuyển đổi Trí tuệ nhân tạo đầu tiên, một doanh nghiệp sử dụng Trí tuệ nhân tạo như một ngôi sao Bắc đẩu, làm việc để sử dụng nó không chỉ thông minh mà còn theo cách ảnh hưởng đến quyết định của con người, quy trình và hệ thống ở quy mô lớn. Nó điều chỉnh các tổ chức để phù hợp với động lực thay đổi giữa nhân viên, đối tác và khách hàng. Điều này cho phép họ nhanh chóng thay đổi và đáp ứng nhu cầu thay đổi trong khi tạo ra lợi thế cạnh tranh lâu dài.

Tuy nhiên, không phải tất cả các công ty đều ở cùng mức độ trưởng thành về Trí tuệ nhân tạo. Có một số công ty có thể được gọi là “nhóm Trí tuệ nhân tạo truyền thống,” hoặc H1. Những công ty này, có ít kinh nghiệm và đầu tư, thường sử dụng các thuật toán cổ điển như Bayes ngây thơ, đã tồn tại trong 250 năm, hoặc rừng ngẫu nhiên (được phát triển bởi Tin Kam Ho vào năm 1995) để tăng cường trí tuệ phân mảnh trong các hệ thống hiện có. Việc sử dụng Trí tuệ nhân tạo như vậy hoàn toàn dựa trên quy tắc và khá cứng nhắc, thiếu khả năng khái quát hóa từ các quy tắc mà chúng phát hiện. Sau đó, có “nhóm học sâu,” hoặc H2. Những công ty này chấp nhận Trí tuệ nhân tạo phức tạp hơn, bao gồm dịch máy và hệ thống dựa trên phiên dịch, để khai thác thông tin đối thoại. Những hệ thống này có nhiều quyền lực hơn nhưng không dễ dàng giải thích tại sao chúng làm những việc họ làm. Họ cũng thiếu minh bạch. Đối với hai nhóm này, Trí tuệ nhân tạo được sử dụng thường không đáng tin cậy hoặc đáng tin cậy và có thể đưa ra quyết định thiên vị mà mang lại sự chú ý tiêu cực từ các cơ quan chính phủ, cơ quan quản lý và công chúng.

Những công ty này cần phải thực hiện các động thái ngay bây giờ để đưa việc triển khai Trí tuệ nhân tạo của họ lên một bước nữa — đến một trại thứ ba (H3) nơi Trí tuệ nhân tạo là tự học và tạo ra. Tại thời điểm này, các hệ thống Trí tuệ nhân tạo là bán giám sát hoặc thậm chí không được giám sát. Chúng là minh bạch và đạt được “trí tuệ thông thường” thông qua việc học đa nhiệm. Những hệ thống này cung cấp thông tin phong phú hơn và cung cấp thông tin chi tiết có thể hành động trong thời gian thực. Điều này được thực hiện thông qua Trí tuệ nhân tạo được quản lý tốt, được quản lý và có thể giải thích được ở tất cả các giai đoạn.

Làm thế nào để làm việc hướng tới Trí tuệ nhân tạo có trách nhiệm và minh bạch hơn

Trí tuệ nhân tạo đang ngày càng được sử dụng để quản lý các trường học, không gian làm việc và các tổ chức công cộng khác. Trong những môi trường này, điều quan trọng hơn bao giờ hết là Trí tuệ nhân tạo phải công bằng và minh bạch. Tuy nhiên, khi xã hội đang vật lộn với sự bùng nổ áp dụng Trí tuệ nhân tạo, các cơ quan quản lý đang cung cấp hướng dẫn hạn chế về việc phát triển và triển khai các công nghệ Trí tuệ nhân tạo. Do đó, gánh nặng nằm trên các công ty để dẫn đầu. Ngành công nghệ rộng lớn hơn phải đưa tiền và vốn con người vào việc biến các triển khai ban đầu của Trí tuệ nhân tạo phân mảnh thành các hệ sinh thái thông minh, sáng tạo, có trách nhiệm và minh bạch. Để di chuyển vào không gian này, các công ty nên làm bốn điều sau:

• Giữ con người trong vòng lặp: Các mô hình Trí tuệ nhân tạo thường được thiết kế để hoạt động độc lập với con người. Tuy nhiên, yếu tố con người là rất quan trọng trong nhiều trường hợp. Con người cần phải xem xét các quyết định và tránh các thiên vị và sai lầm thường làm cho các dự án Trí tuệ nhân tạo bị sai hướng. Hai trường hợp sử dụng bao gồm phát hiện gian lận và các trường hợp liên quan đến thực thi pháp luật. Chúng tôi khuyên các công ty nên thuê các nhà thực hành Trí tuệ nhân tạo từ từ nhưng nhất quán theo thời gian để có lợi thế trong hành trình Trí tuệ nhân tạo đầu tiên của họ.
• Loại bỏ các tập dữ liệu thiên vị: Một tập dữ liệu không thiên vị là điều kiện tiên quyết quan trọng để tạo ra các mô hình Trí tuệ nhân tạo đáng tin cậy, công bằng và không phân biệt. Để hiểu được tầm quan trọng của nó, Trí tuệ nhân tạo đang được sử dụng để sàng lọc hồ sơ và đánh giá tín dụng của các ngân hàng, và nó thậm chí đã xâm nhập vào một số hệ thống tư pháp. Trong cảnh quan này, các thiên vị không được kiểm soát đã có những tác động rất thực tế.
• Đảm bảo các quyết định có thể giải thích được: Tính năng này đã được nhiều hãng tin lớn đề cập, và đúng như vậy. XAI giúp giải thích tại sao một hệ thống Trí tuệ nhân tạo đưa ra một quyết định nhất định. Nó tiết lộ những tính năng nào của mô hình học sâu được sử dụng nhiều hơn những tính năng khác để đưa ra dự đoán hoặc giả thuyết của nó. Việc hiểu được tầm quan trọng của tính năng và có thể chứng minh được cách các quyết định được đưa ra là rất quan trọng đối với các trường hợp sử dụng như xe tự hành và tầm nhìn máy tính được sử dụng trong sinh thiết y học.
• Tái tạo đáng tin cậy các phát hiện: Một nhu cầu chung trong các dự án nghiên cứu, các mô hình Trí tuệ nhân tạo nên nhất quán khi đưa ra dự đoán theo thời gian. Những mô hình như vậy không nên bị ảnh hưởng khi được trình bày với dữ liệu mới.

Bốn điều này sẽ tạo ra các hệ sinh thái thông minh, sáng tạo, có trách nhiệm và minh bạch, di chuyển hướng tới những gì chúng tôi gọi là “doanh nghiệp trực tiếp.” Tại đây, các quyết định không thiên vị, có thể giải thích được được đưa ra trong thời gian thực, với toàn bộ doanh nghiệp hoạt động như một sinh vật có ý thức được con người quản lý. Đọc bài viết trắng của Viện tri thức Infosys để tìm hiểu thêm.