Làm thế nào tôi chuyển kiến thức của mình vào các hệ thống AI có thể đưa ra quyết định như chuyên gia con người

Khi tôi rời Microsoft và tiếp tục làm việc với các doanh nghiệp về việc triển khai AI của họ, tôi nhận thấy rằng hầu hết các hệ thống AI mà mọi người hào hứng không thể thực sự đưa ra quyết định với sự phán xét của con người. Đúng, họ có thể viết, tóm tắt và tạo ra văn bản rất giống với quyết định, nhưng khi bạn đưa những hệ thống này vào môi trường hoạt động thực tế, nơi có sự đánh đổi, không chắc chắn, hướng dẫn không đầy đủ và hậu quả thực tế, họ gặp khó khăn nhanh chóng. Điều này phù hợp với dữ liệu từ Dự án NANDA của MIT cho thấy rằng trong khi 60% các tổ chức đã đánh giá các công cụ AI, chỉ 20% đạt đến giai đoạn thử nghiệm và chỉ 5% đạt đến sản xuất. Nói cách khác, ngành công nghiệp đang gặp khó khăn trong việc xây dựng các hệ thống có thể thực sự hoạt động trong các quy trình làm việc thực tế.

Trong môi trường doanh nghiệp, đặc biệt là trong các lĩnh vực như chuỗi cung ứng, sản xuất và hoạt động, việc có được câu trả lời không khó; điều quan trọng là biết câu trả lời nào đáng tin cậy, biến số nào quan trọng nhất và điều gì có thể xảy ra nếu bạn làm sai. Theo quan điểm của tôi, đây là cả vấn đề về chuyên môn và phán xét.

Rõ ràng, AI đã đạt được những tiến bộ phi thường trong việc tạo ra các đầu ra tốt hơn. Nhưng đầu ra tốt hơn không phải là quyết định tốt hơn. Đây là hai cột mốc khác nhau, và tôi nghĩ rằng ngành công nghiệp đã dành nhiều thời gian để đối xử với chúng như thể chúng có thể thay thế cho nhau.

Thiếu chuyên môn và phán xét là lý do tôi quan tâm đến việc xây dựng AI mà các chuyên gia con người có thể dạy để đưa ra quyết định phức tạp như họ làm. AI không chỉ nên là về việc tự động hóa các nhiệm vụ, mà còn về việc chuyển giao phán xét của con người vào AI một cách an toàn và hiệu quả.

Các mô hình ngôn ngữ lớn (LLM) nói như những người đưa ra quyết định, nhưng chúng không phải là như vậy

Không có câu hỏi nào rằng LLM là hữu ích, nhưng chúng không phải là hệ thống đưa ra quyết định theo mặc định. Chúng là hệ thống dự đoán được bao quanh bởi ngôn ngữ. Và ngôn ngữ là thuyết phục, điều này là một phần của vấn đề. Nếu một hệ thống có thể giải thích mình một cách trôi chảy, chúng ta dễ dàng đánh giá cao những gì nó hiểu. Bạn hỏi nó một câu hỏi kinh doanh, nó đưa ra một câu trả lời có cấu trúc với các đánh đổi, lưu ý và một bản tóm tắt nhỏ ở cuối, làm cho nó cảm thấy thông minh hơn nó thực sự là. Nghe có vẻ hợp lý và có năng lực hoạt động không phải là cùng một điều, và đây là nơi mà nhiều AI doanh nghiệp gặp khó khăn. Các mô hình có thể cho bạn biết quyết định nào nghe có vẻ tốt mà không có hiểu biết về những gì làm cho một quyết định tốt trong áp lực, theo thời gian hoặc trong ngữ cảnh. Đây là một lý do tại sao nhiều tổ chức gặp khó khăn trong việc chuyển sang giai đoạn thử nghiệm. Gartner đã tìm thấy rằng ít nhất 50% dự án AI tạo ra bị bỏ rơi sau khi chứng minh khái niệm, lâu trước khi chúng mang lại tác động hoạt động thực sự, thường do giá trị và kiểm soát rủi ro không rõ ràng.

Thông tin không phải là chuyên môn

Một trong những bẫy dễ nhất để rơi vào với AI là giả định rằng nếu một hệ thống có đủ thông tin, nó nên có thể hoạt động như một chuyên gia. Nghe có vẻ hợp lý, nhưng khi bạn nghĩ về nó trong cuộc sống hàng ngày, việc tăng thông tin về một điều gì đó không tự động làm cho bạn trở thành một chuyên gia. Bạn có thể đọc mọi hướng dẫn hàng không và vẫn không sẵn sàng để hạ cánh một chiếc máy bay. Bạn có thể ghi nhớ mọi phương pháp hay nhất trong chuỗi cung ứng và vẫn bị đóng băng khi ba điều đi sai cùng một lúc.

Tôi có thể tiếp tục, nhưng điểm mấu chốt là thông tin không tương đương với khả năng. Khả năng đến từ kinh nghiệm, cụ thể là sự tiếp xúc lặp đi lặp lại với các tình huống hỗn loạn nơi câu trả lời không rõ ràng.

Mỗi ngày, tôi thấy rằng hầu hết các hệ thống AI ngày nay được đào tạo trên các ví dụ tĩnh. Điều này rất hữu ích cho việc dự đoán, nhưng đó chỉ là một phần nhỏ của việc đưa ra quyết định. Các doanh nghiệp không thiếu dữ liệu, nhưng họ cần môi trường cấu trúc để luyện tập, điều này có nghĩa là cung cấp cho các hệ thống môi trường nơi chúng có thể:

• Gặp các tình huống thực tế
• Đưa ra quyết định
• Nhìn thấy những gì xảy ra
• Nhận được phản hồi
• Cải thiện theo thời gian

AI có thể được đào tạo bằng cách sử dụng các thuật toán dự đoán, nhưng cách tiếp cận này có những hạn chế. Điều cần thiết tiếp theo là AI có thể được đào tạo trong một môi trường mô phỏng với sự giám sát của con người. Tôi gọi đây là phương pháp giảng dạy máy, một phương pháp phân chia các quyết định phức tạp thành các tình huống và kỹ năng, cung cấp hướng dẫn cho các chuyên gia để dạy AI thông qua mô phỏng. Phản hồi và thử nghiệm cuối cùng cho phép các tác nhân học hỏi và hành động với sự tự chủ thực sự từ những người đã xây dựng các quy trình này.

Ngừng đối xử với AI như một khối thống nhất

Một sai lầm khác mà tôi thường thấy là giả định rằng một mô hình lớn nên làm mọi việc. Không có đội bóng rổ nào chỉ gồm một người. Không có nhà máy nào được vận hành bởi một cá nhân. Các hệ thống phức tạp hoạt động vì các thành phần khác nhau thực hiện các công việc khác nhau, và có một cấu trúc giữ chúng lại với nhau.

AI nên được xây dựng theo cách tương tự. Tôi không nghĩ rằng tương lai của việc đưa ra quyết định doanh nghiệp là một mô hình khổng lồ ngồi ở trung tâm của công ty, giả vờ là có năng lực toàn diện. Nó có nhiều khả năng trông giống như các đội tác nhân chuyên biệt.

Một tác nhân có thể là chuyên gia về thu thập dữ liệu. Một tác nhân khác tốt hơn trong việc đánh giá các tình huống. Một tác nhân khác xử lý việc lập kế hoạch. Một tác nhân kiểm tra tuân thủ hoặc bắt các mâu thuẫn. Một tác nhân khác hành động giống như một người giám sát, quyết định khi nào nên nâng cấp hoặc khi nào sự tự tin quá thấp để tiếp tục. Kiến trúc đội làm việc có nhiều ý nghĩa hơn đối với tôi vì nó phù hợp với cách các tổ chức thực sự hoạt động và phù hợp với các xu hướng thị trường rộng lớn hơn. Các phát hiện của McKinsey củng cố rằng các tổ chức nhận được giá trị nhiều nhất từ AI bằng cách thiết kế lại các quy trình làm việc và cấu trúc hoạt động xung quanh nó.

Không tất cả các quyết định đều được đưa ra theo cùng một cách, và quá thường chúng ta giả định rằng cùng một mô hình, cùng một dữ liệu và cùng một loại lập luận có thể xử lý tất cả. Trong thực tế, các quyết định khác nhau đòi hỏi các cơ chế khác nhau.

Bốn cách quyết định thực sự xảy ra

Trong kinh nghiệm của tôi, hầu hết các quyết định có xu hướng rơi vào một số loại:

1. Hệ thống kiểm soát (quy tắc và công thức): Quyết định được đưa ra bằng cách áp dụng các phương trình hoặc quy tắc đã định trước cho các đầu vào đã biết. Nếu X xảy ra, hãy làm Y.
2. Tìm kiếm và tối ưu hóa: Quyết định được đưa ra bằng cách đánh giá nhiều tùy chọn có thể và chọn tùy chọn tốt nhất dựa trên một mục tiêu đã định.
3. Học tăng cường (thử và sai): Quyết định được học thông qua thời gian bằng cách thực hiện các hành động, quan sát kết quả và điều chỉnh dựa trên phần thưởng hoặc phạt.
4. Thực hành và kinh nghiệm (học tập theo phong cách con người): Quyết định được hình thành thông qua sự tiếp xúc lặp đi lặp lại, hướng dẫn phản hồi và phán xét tích lũy trong các tình huống thực tế.

Hầu hết AI doanh nghiệp hoạt động tốt trong hai loại đầu tiên. Loại thứ ba và thứ tư khó hơn đối với AI, vì đó là nơi phán xét giống con người tồn tại.

Sự tự chủ mà không có cấu trúc là rủi ro

Bất cứ khi nào mọi người nói về AI tự chủ, cuộc trò chuyện thường chia thành hai cực. Một bên nghĩ rằng các hệ thống này基本 là ma thuật và sẵn sàng chạy mọi thứ. Bên kia hành động như thể chúng không bao giờ nên được tin cậy với bất cứ điều gì có ý nghĩa.

Tôi không nghĩ rằng bất kỳ quan điểm nào trong số này là hữu ích. Chúng ta nên tập trung vào sự tự chủ trong cấu trúc vì sự tự chủ mà không có logic nâng cấp, ranh giới hoặc trách nhiệm là nguồn gốc chính của rủi ro. Các mối quan tâm về rủi ro đang xuất hiện nhiều hơn bây giờ, bao gồm cả trong các cuộc trò chuyện được định hình bởi các nỗ lực như Khung quản lý rủi ro AI của Viện Tiêu chuẩn và Công nghệ Quốc gia, điều này phản ánh cách nghiêm túc các tổ chức đang xem xét các câu hỏi về giám sát, trách nhiệm và niềm tin hoạt động.

Tương lai của AI doanh nghiệp nằm trong các đội tác nhân. Các tổ chức nhận được giá trị nhiều nhất từ AI sẽ không phải là những tổ chức tự động hóa nhiều từ nhất. Họ là những tổ chức biết cách chuyển giao chuyên môn thực sự vào các hệ thống có thể hoạt động khi môi trường trở nên phức tạp. Đó, theo quan điểm của tôi, là sự khác biệt giữa AI trông ấn tượng và AI trở nên thực sự hữu ích, tạo ra ROI thực sự.