Cách Tôi Chuyển Kiến Thức Của Tôi Vào Các Hệ Thống Trí Tuệ Nhân Tạo Có Thể Thực Sự Ra Quyết Định Giống Chuyên Gia Con Người

Khi tôi rời Microsoft và tiếp tục làm việc với các doanh nghiệp về việc triển khai trí tuệ nhân tạo, tôi luôn thấy rằng hầu hết các hệ thống trí tuệ nhân tạo mà mọi người hào hứng có thể không thực sự đưa ra quyết định với sự phán đoán của con người. Đúng, họ có thể viết, tóm tắt và tạo ra văn bản đáng kinh ngạc nghe giống như một quyết định, nhưng khi bạn thả các hệ thống này vào một môi trường hoạt động thực sự, nơi có sự đánh đổi, không chắc chắn, hướng dẫn không đầy đủ và hậu quả thực sự, họ gặp khó khăn nhanh chóng. Điều này phù hợp với dữ liệu từ Dự án NANDA của MIT cho thấy rằng trong khi 60% các tổ chức đã đánh giá các công cụ trí tuệ nhân tạo, chỉ 20% đạt đến giai đoạn thử nghiệm và chỉ 5% đạt đến sản xuất. Nói cách khác, ngành công nghiệp đang gặp khó khăn trong việc xây dựng các hệ thống thực sự có thể hoạt động trong các quy trình làm việc thực sự.

Trong các môi trường doanh nghiệp, đặc biệt là trong các lĩnh vực như chuỗi cung ứng, sản xuất và hoạt động, việc có được câu trả lời không khó; điều quan trọng là biết câu trả lời nào đáng tin cậy, biến số nào quan trọng nhất và điều gì có thể bị hỏng theo hạ lưu nếu bạn làm sai. Trong mắt tôi, đây là cả một vấn đề về chuyên môn và phán đoán.

Để rõ ràng, trí tuệ nhân tạo đã đạt được những bước tiến phi thường trong việc tạo ra các đầu ra tốt hơn. Nhưng đầu ra tốt hơn không phải là quyết định tốt hơn. Đây là hai cột mốc khác nhau, và tôi nghĩ ngành công nghiệp đã dành rất nhiều thời gian để đối xử với chúng như thể chúng có thể thay thế cho nhau.

Sự thiếu hụt chuyên môn và phán đoán là lý do tôi quan tâm đến việc xây dựng trí tuệ nhân tạo mà các chuyên gia con người có thể dạy để đưa ra quyết định phức tạp theo cách họ làm. Trí tuệ nhân tạo không chỉ nên là về việc tự động hóa các nhiệm vụ, mà còn về việc chuyển giao phán đoán của con người vào trí tuệ nhân tạo một cách hiệu quả và an toàn.

Các mô hình ngôn ngữ lớn (LLM) nói như những người ra quyết định, nhưng chúng không phải là như vậy

Không có câu hỏi nào rằng LLM là hữu ích, nhưng chúng không phải là, theo mặc định, các hệ thống ra quyết định. Chúng là các hệ thống dự đoán được bao quanh bởi ngôn ngữ. Và ngôn ngữ là thuyết phục, điều này là một phần của vấn đề. Nếu một hệ thống có thể giải thích chính nó một cách lưu loát, chúng tôi dễ dàng đánh giá cao những gì nó hiểu. Bạn hỏi nó một câu hỏi kinh doanh, nó đưa ra một câu trả lời có cấu trúc với các đánh đổi, điều kiện và một bản tóm tắt nhỏ gọn ở cuối, làm cho nó cảm giác thông minh hơn nó thực sự là. Nghe có vẻ hợp lý và có năng lực hoạt động là hai điều khác nhau, và đây là nơi nhiều trí tuệ nhân tạo của doanh nghiệp bị hỏng. Các mô hình có thể cho bạn biết quyết định gì nghe có vẻ tốt mà không có bất kỳ hiểu biết nào về những gì làm cho một quyết định tốt trong áp lực, theo thời gian hoặc trong bối cảnh. Đây là một lý do tại sao nhiều tổ chức gặp khó khăn trong việc di chuyển vượt ra ngoài thí nghiệm. Gartner đã tìm thấy rằng ít nhất 50% dự án trí tuệ nhân tạo tạo ra bị bỏ rơi sau khi chứng minh khái niệm, lâu trước khi chúng mang lại tác động hoạt động thực sự, thường do kiểm soát giá trị và rủi ro không rõ ràng.

Thông tin không phải là chuyên môn

Một trong những cái bẫy dễ nhất để rơi vào với trí tuệ nhân tạo là giả định rằng nếu một hệ thống có đủ thông tin, nó nên có thể hoạt động như một chuyên gia. Nghe có vẻ hợp lý, nhưng khi bạn nghĩ về nó trong cuộc sống hàng ngày của chúng tôi, việc tăng thông tin về một điều gì đó không tự động làm cho chúng tôi trở thành chuyên gia. Bạn có thể đọc mọi hướng dẫn hàng không và vẫn không sẵn sàng để hạ cánh một chiếc máy bay. Bạn có thể ghi nhớ mọi thực hành tốt nhất trong chuỗi cung ứng và vẫn bị đóng băng khi ba điều đi sai cùng một lúc.

Tôi có thể tiếp tục, nhưng điểm là rằng thông tin không tương đương với khả năng. Khả năng đến từ kinh nghiệm, cụ thể là sự tiếp xúc lặp lại với các tình huống lộn xộn nơi câu trả lời không rõ ràng.

Mỗi ngày, tôi thấy rằng hầu hết các hệ thống trí tuệ nhân tạo ngày nay được đào tạo trên các ví dụ tĩnh. Điều này tất cả hữu ích cho việc dự đoán, nhưng đó chỉ là một phần nhỏ của việc ra quyết định. Các doanh nghiệp không thiếu dữ liệu theo nghĩa là, nhưng họ cần môi trường cấu trúc để thực hành, điều này có nghĩa là cung cấp cho các hệ thống môi trường nơi họ có thể:

• Gặp các kịch bản thực tế
• Làm lựa chọn
• Xem những gì xảy ra
• Nhận phản hồi
• Cải thiện theo thời gian

Trí tuệ nhân tạo có thể được đào tạo bằng cách sử dụng các thuật toán dự đoán, nhưng cách tiếp cận này có những hạn chế. Điều cần thiết tiếp theo là trí tuệ nhân tạo có thể được đào tạo trong một môi trường mô phỏng với sự giám sát của con người. Tôi gọi đây là việc giảng dạy máy, một phương pháp luận phá vỡ các quyết định phức tạp thành các kịch bản và kỹ năng, cung cấp hướng dẫn cho các chuyên gia con người để dạy trí tuệ nhân tạo thông qua mô phỏng. Phản hồi và thử nghiệm-sai lầm cuối cùng cho phép các tác nhân học hỏi và hành động với sự tự chủ thực sự từ những người đã xây dựng các quy trình này.

Dừng đối xử với trí tuệ nhân tạo như một khối

Một sai lầm khác tôi thấy nhiều là giả định rằng một mô hình lớn nên làm mọi thứ. Không có đội bóng rổ nào bao gồm chỉ một người. Không có nhà máy nào được vận hành bởi một cá nhân. Các hệ thống phức tạp hoạt động vì các thành phần khác nhau thực hiện các công việc khác nhau, và có một cấu trúc giữ chúng lại với nhau.

Trí tuệ nhân tạo nên được xây dựng theo cách tương tự. Tôi không nghĩ rằng tương lai dài hạn của việc ra quyết định doanh nghiệp là một mô hình khổng lồ ngồi ở trung tâm của công ty giả vờ có năng lực toàn diện. Nó có nhiều khả năng trông giống như các đội tác nhân chuyên môn.

Một tác nhân có thể là chuyên gia về thu thập dữ liệu. Một tác nhân khác tốt hơn trong việc đánh giá các kịch bản. Một xử lý lập kế hoạch. Một kiểm tra tuân thủ hoặc bắt các mâu thuẫn. Một hành động giống như một người giám sát, quyết định khi nào nên nâng cao hoặc khi nào sự tự tin quá thấp để tiếp tục. Kiến trúc đội làm việc có nhiều ý nghĩa hơn đối với tôi vì nó ánh xạ đến cách các tổ chức thực sự hoạt động và phù hợp với các xu hướng thị trường rộng lớn hơn. Các phát hiện của McKinsey củng cố rằng các tổ chức nhận được giá trị nhất từ trí tuệ nhân tạo bằng cách thiết kế lại các quy trình làm việc và cấu trúc hoạt động xung quanh nó.

Không tất cả các quyết định đều được thực hiện theo cùng một cách, và quá thường chúng tôi giả định rằng cùng một mô hình, cùng một dữ liệu và cùng một loại lý luận có thể xử lý tất cả chúng. Trong thực tế, các quyết định khác nhau yêu cầu các cơ chế khác nhau.

Bốn cách quyết định thực sự xảy ra

Trong kinh nghiệm của tôi, hầu hết các quyết định có xu hướng rơi vào một số loại:

1. Hệ thống kiểm soát (quy tắc và công thức): Quyết định được thực hiện bằng cách áp dụng các phương trình hoặc quy tắc được định nghĩa trước cho các đầu vào đã biết. Nếu X xảy ra, hãy làm Y.
2. Tìm kiếm và tối ưu hóa: Quyết định được thực hiện bằng cách đánh giá nhiều lựa chọn có thể và chọn lựa chọn tốt nhất dựa trên một mục tiêu được định nghĩa.
3. Học tăng cường (thử và sai): Quyết định được học theo thời gian bằng cách thực hiện các hành động, quan sát kết quả và điều chỉnh dựa trên phần thưởng hoặc hình phạt.
4. Thực hành và kinh nghiệm (học tập theo phong cách con người): Quyết định được định hình thông qua sự tiếp xúc lặp lại, hướng dẫn phản hồi và phán đoán tích lũy trong các kịch bản thế giới thực.

Hầu hết trí tuệ nhân tạo của doanh nghiệp hoạt động tốt trong hai loại đầu tiên. Loại thứ ba và thứ tư khó khăn hơn cho trí tuệ nhân tạo, vì đó là nơi phán đoán của con người sống.

Sự tự chủ mà không có cấu trúc là rủi ro

Bất cứ khi nào mọi người nói về trí tuệ nhân tạo tự chủ, cuộc trò chuyện thường chia thành hai cực. Một bên nghĩ rằng các hệ thống基本 là ma thuật và sẵn sàng chạy mọi thứ. Bên kia hành động như thể chúng không bao giờ nên được tin cậy với bất cứ điều gì có ý nghĩa.

Tôi không nghĩ rằng bất kỳ quan điểm nào trong số này đều hữu ích. Chúng tôi nên tập trung vào sự tự chủ trong cấu trúc vì sự tự chủ mà không có logic nâng cao, ranh giới hoặc trách nhiệm là nguồn gốc chính của rủi ro. Các vấn đề rủi ro đang xuất hiện nhiều hơn bây giờ, bao gồm cả trong các cuộc trò chuyện được định hình bởi các nỗ lực như Khung quản lý rủi ro trí tuệ nhân tạo của Viện Tiêu chuẩn và Công nghệ Quốc gia, điều này phản ánh cách nghiêm túc các tổ chức đang xem xét các câu hỏi về giám sát, trách nhiệm và niềm tin hoạt động.

Tương lai của trí tuệ nhân tạo doanh nghiệp nằm trong các đội tác nhân. Các tổ chức nhận được giá trị nhất từ trí tuệ nhân tạo sẽ không phải là những tổ chức tự động hóa nhiều từ nhất. Họ là những tổ chức đã tìm ra cách chuyển giao chuyên môn thực sự vào các hệ thống có thể hoạt động khi môi trường trở nên lộn xộn. Đó, theo quan điểm của tôi, là sự khác biệt giữa trí tuệ nhân tạo trông ấn tượng và trí tuệ nhân tạo thực sự hữu ích, tạo ra ROI thực sự.