Ưu tiên niềm tin vào Trí tuệ nhân tạo

Sự phụ thuộc của xã hội vào các ứng dụng trí tuệ nhân tạo (AI) và học máy (ML) tiếp tục tăng, làm thay đổi cách thông tin được tiêu thụ. Từ các rô-bốt trò chuyện được hỗ trợ bởi AI đến các tổng hợp thông tin được tạo ra từ các Mô hình Ngôn ngữ Lớn (LLM), xã hội có quyền truy cập vào nhiều thông tin và thông tin sâu sắc hơn bao giờ hết. Tuy nhiên, khi các công ty công nghệ chạy đua để triển khai AI trên toàn bộ chuỗi giá trị của họ, một câu hỏi quan trọng đang nổi lên. Chúng ta có thể thực sự tin tưởng vào đầu ra của các giải pháp AI?

Chúng ta có thể thực sự tin tưởng vào đầu ra của AI mà không cần lượng hóa sự không chắc chắn

Đối với một đầu vào nhất định, một mô hình có thể đã tạo ra nhiều đầu ra khác có khả năng tương đương. Điều này có thể là do dữ liệu đào tạo không đủ, sự thay đổi trong dữ liệu đào tạo hoặc các nguyên nhân khác. Khi triển khai các mô hình, các tổ chức có thể tận dụng lượng hóa sự không chắc chắn để cung cấp cho người dùng cuối của họ một sự hiểu biết rõ ràng hơn về mức độ họ nên tin tưởng vào đầu ra của mô hình AI/ML. Lượng hóa sự không chắc chắn là quá trình ước tính những đầu ra khác có thể xảy ra.

Hãy tưởng tượng một mô hình dự đoán nhiệt độ cao vào ngày mai. Mô hình có thể tạo ra đầu ra 21ºC, nhưng lượng hóa sự không chắc chắn áp dụng cho đầu ra đó có thể chỉ ra rằng mô hình cũng có thể tạo ra các đầu ra 12 ºC, 15 ºC hoặc 16 ºC; biết điều này, chúng ta bây giờ tin tưởng vào dự đoán đơn giản 20 ºC đến mức nào? Mặc dù nó có tiềm năng tạo ra niềm tin hoặc tư vấn thận trọng, nhiều tổ chức đang chọn bỏ qua lượng hóa sự không chắc chắn vì công việc bổ sung họ cần thực hiện để triển khai nó, cũng như do nhu cầu về tài nguyên tính toán và tốc độ suy luận.

Hệ thống con người trong vòng lặp, chẳng hạn như hệ thống chẩn đoán và dự đoán y tế, liên quan đến con người như một phần của quá trình ra quyết định. Bằng cách tin tưởng mù quáng vào dữ liệu của các giải pháp AI/ML y tế, các chuyên gia y tế rủi ro chẩn đoán sai một bệnh nhân, có thể dẫn đến kết quả sức khỏe kém – hoặc tồi tệ hơn. Lượng hóa sự không chắc chắn có thể cho phép các chuyên gia y tế nhìn thấy, một cách định lượng, khi nào họ có thể đặt nhiều niềm tin vào đầu ra của AI và khi nào họ nên xử lý các dự đoán cụ thể với sự thận trọng. Tương tự, trong một hệ thống tự động hoàn toàn như xe tự lái, đầu ra của mô hình ước tính khoảng cách của chướng ngại vật có thể dẫn đến một vụ va chạm có thể đã được tránh nếu có lượng hóa sự không chắc chắn về ước tính khoảng cách.

Thử thách của việc tận dụng các phương pháp Monte Carlo để xây dựng niềm tin vào các mô hình AI/ML

Phương pháp Monte Carlo, được phát triển trong Dự án Manhattan, là một cách mạnh mẽ để thực hiện lượng hóa sự không chắc chắn. Chúng liên quan đến việc chạy lại các thuật toán nhiều lần với các đầu vào hơi khác nhau cho đến khi các lần lặp lại không cung cấp nhiều thông tin hơn trong đầu ra; khi quá trình đạt đến trạng thái như vậy, nó được cho là đã hội tụ. Một nhược điểm của các phương pháp Monte Carlo là chúng thường chậm và đòi hỏi tính toán, đòi hỏi nhiều lần lặp lại của các tính toán thành phần để có được đầu ra hội tụ và có sự biến đổi vốn có trên các đầu ra đó. Vì các phương pháp Monte Carlo sử dụng đầu ra của các máy tạo số ngẫu nhiên như một trong những khối xây dựng chính của chúng, ngay cả khi bạn chạy một Monte Carlo với nhiều lần lặp lại bên trong, kết quả bạn nhận được sẽ thay đổi khi bạn lặp lại quá trình với các tham số giống hệt.

Con đường phía trước để đạt được sự tin cậy trong các mô hình AI/ML

Không giống như các máy chủ truyền thống và các bộ tăng tốc AI chuyên dụng, một loại nền tảng tính toán mới đang được phát triển để xử lý trực tiếp các phân phối xác suất thực nghiệm theo cách mà các nền tảng tính toán truyền thống xử lý các giá trị nguyên và giá trị điểm nổi. Bằng cách triển khai các mô hình AI của họ trên các nền tảng này, các tổ chức có thể tự động hóa việc triển khai lượng hóa sự không chắc chắn trên các mô hình đã được đào tạo trước và cũng có thể tăng tốc các nhiệm vụ tính toán khác đã sử dụng các phương pháp Monte Carlo truyền thống, chẳng hạn như tính toán VaR trong tài chính. Cụ thể, đối với kịch bản VaR, loại nền tảng mới này cho phép các tổ chức làm việc với các phân phối thực nghiệm được xây dựng trực tiếp từ dữ liệu thị trường thực, thay vì xấp xỉ các phân phối này bằng mẫu được tạo bởi máy tạo số ngẫu nhiên, để có phân tích chính xác hơn và kết quả nhanh hơn.
Các đột phá gần đây trong tính toán đã giảm đáng kể rào cản đối với lượng hóa sự không chắc chắn. Một bài nghiên cứu gần đây được đồng nghiệp và tôi xuất bản, trong Buổi thảo luận về Học máy với Các mô hình tính toán mới tại NeurIPS 2024, nhấn mạnh cách một nền tảng tính toán thế hệ tiếp theo mà chúng tôi đã phát triển cho phép phân tích lượng hóa sự không chắc chắn chạy nhanh hơn 100 lần so với chạy phân tích Monte-Carlo truyền thống trên máy chủ Intel-Xeon cao cấp. Những tiến bộ như vậy cho phép các tổ chức triển khai các giải pháp AI thực hiện lượng hóa sự không chắc chắn một cách dễ dàng và chạy lượng hóa sự không chắc chắn đó với chi phí thấp.

Tương lai của sự tin cậy trong các mô hình AI/ML phụ thuộc vào tính toán thế hệ tiếp theo tiên tiến

Khi các tổ chức tích hợp nhiều giải pháp AI vào xã hội, sự tin cậy trong AI/ML sẽ trở thành ưu tiên hàng đầu. Các doanh nghiệp không thể tiếp tục bỏ qua việc triển khai các cơ sở trong các triển khai mô hình AI của họ để cho phép người tiêu dùng biết khi nào nên xử lý các đầu ra mô hình AI cụ thể với sự hoài nghi. Nhu cầu về khả năng giải thích và lượng hóa sự không chắc chắn là rõ ràng, với khoảng ba trong số bốn người cho biết họ sẽ sẵn sàng tin tưởng hơn vào một hệ thống AI nếu có các cơ chế đảm bảo phù hợp.

Các công nghệ tính toán mới đang làm cho việc triển khai và triển khai lượng hóa sự không chắc chắn dễ dàng hơn bao giờ hết. Trong khi các cơ quan ngành và quản lý phải đối mặt với các thách thức khác liên quan đến việc triển khai AI trong xã hội, thì ít nhất có cơ hội để tạo ra niềm tin mà con người cần, bằng cách làm cho lượng hóa sự không chắc chắn trở thành tiêu chuẩn trong các triển khai AI.