Nếu Nhân Viên Của Bạn Hành Động Giống AI, Bạn Đã Đuổi Họ Đi Ngay Bây Giờ

Hãy tưởng tượng bạn vừa tuyển dụng một người mới, và hầu hết các ngày họ đều hiệu quả, hiểu biết, lưu loát và tự tin. Họ là tất cả những gì bạn mong đợi, thể hiện nhiều phẩm chất của một nhân viên xuất sắc.

Bây giờ hãy tưởng tượng rằng thỉnh thoảng, khi gặp một câu hỏi mà họ không biết câu trả lời, họ chỉ bịa ra một điều gì đó. Nó trôi chảy, thuyết phục, vì vậy ban đầu bạn tin tưởng vào nó. Nhưng khi nó gây ra hậu quả cho doanh nghiệp, bạn quay lại với nhân viên đó, thách thức họ – và họ không thể giải thích quy trình suy nghĩ hay chia sẻ cách họ đưa ra câu trả lời. Bạn thậm chí có thể giải thích với họ rằng họ sai, nhưng họ lại kiên quyết phủ nhận và bịa thêm những thông tin để biện minh. Sau lần thứ hai hoặc thứ ba xảy ra, liệu bạn có khả năng sa thải họ, hoặc ít nhất là đưa ra cảnh cáo? Câu trả lời của hầu hết các nhà tuyển dụng gần như chắc chắn là có.

Tôi thấy thật khó hiểu khi các doanh nghiệp hiện nay giao các quy trình công việc quan trọng và quyết định cho một “nhân viên” đã được biết đến với hành vi này. Lý do duy nhất khiến nó không bị kiểm soát là vì “nhân viên” này là phần mềm chứ không phải con người.

Tại Sao AI Không Thất Bại Như Con Người

Có một giả định sai lầm phổ biến trong các doanh nghiệp triển khai AI rằng nếu công nghệ có tỷ lệ lỗi, thì vấn đề này tương tự như lỗi của con người và có thể được quản lý theo cùng cách. Tuy nhiên, việc kiểm tra, xem xét và nâng cấp không phải lúc nào cũng hiệu quả với các mô hình ngôn ngữ lớn (LLM). Chúng được tạo ra để nghe giống con người, nhưng khi nhìn vào bên trong, bạn sẽ thấy chúng không hoạt động giống chúng ta chút nào.

Nếu một nhân viên xuất sắc mắc lỗi, chúng ta sẽ cho rằng lỗi đó là vô tình – họ đã cố gắng hết sức và chỉ vô tình sai lầm. Điều này xảy ra. Nếu họ cố ý bịa ra câu trả lời để tránh việc không biết điều gì đó, và lặp lại hành vi này, chúng ta sẽ xem đó là hành vi sai trái. Các quản lý biết nên tập trung giám sát ở đâu, vì độ khó và mức độ lỗi trùng khớp. Họ có thể yêu cầu nhân viên giải thích lập luận của mình và đặt câu hỏi về nó. Nhân viên thường biết khi mình vượt quá khả năng và sẽ thừa nhận. Và sau một lỗi, họ học hỏi, vì vậy lỗi tương tự sẽ không lặp lại liên tục.

Các hệ thống AI đảo ngược mọi giả định này. Phản ứng mặc định của chúng đối với thất bại là sự sáng tạo trôi chảy và tự tin. Chúng sẽ đưa ra một câu trả lời có vẻ hợp lý nhưng thực tế là sai, chính là hành vi mà sẽ chấm dứt sự nghiệp của một con người. Các LLM được tạo ra để tạo ra phần tiếp nối có khả năng thống kê cao nhất của một đoạn văn bản, và khi chúng không biết câu trả lời, chúng thường tạo ra một điều gì đó nghe có vẻ đúng. Các nhà nghiên cứu của OpenAI đã thừa nhận rằng một mức độ lỗi thực tế là điều không thể tránh khỏi về mặt thống kê trong cách các mô hình này hoạt động, và rằng việc đào tạo thưởng cho một phỏng đoán tự tin hơn là thừa nhận trung thực sự không chắc chắn.

Nơi Các Phương Pháp Neurosymbolic Được Áp Dụng

Đây chính là những gì các phương pháp thần kinh-ký hiệu được thiết kế để khắc phục. Chúng kết hợp các mạng nơ-ron, vốn giỏi trong việc hiểu ngôn ngữ và dữ liệu thực tế hỗn loạn, với lập luận dựa trên quy tắc, xác định. Điều này có nghĩa là các kết luận của hệ thống dựa trên logic rõ ràng có thể kiểm tra, thay vì xuất hiện từ một quá trình mà không ai có thể nhìn thấy bên trong.

Nếu không có lớp logic bổ sung mà công nghệ neurosymbolic cung cấp, các lỗi của AI không liên quan đến độ khó của công việc như lỗi của con người – chúng không thể dự đoán được. Chúng có thể xuất hiện trong các nhiệm vụ đơn giản trong khi những nhiệm vụ khó lại diễn ra suôn sẻ, khiến việc xác định nơi cần tập trung giám sát của con người trở nên khó khăn. Các lời giải thích của chúng, khi có, được tạo ra sau khi sự việc đã xảy ra thay vì cung cấp một bản ghi thực tế về cách chúng đạt được kết luận. Sai lầm này có thể lặp lại vô hạn, vì không có ai bên trong hệ thống để học hỏi từ nó hoặc chịu trách nhiệm.

Niềm Tin Mà Không Hiểu Biết

Các nhà nghiên cứu đã ghi nhận rằng khi người dùng mới tiếp cận một hệ thống, họ có xu hướng bỏ nó sau một lỗi hiển thị duy nhất; nhưng khi đó là một lỗi quen thuộc, họ lại nghiêng về phía cực đoan ngược lại – chấp nhận các kết quả của nó chỉ vì họ đã quen với chúng, không phải vì các kết quả đó trở nên đáng tin cậy hơn. Điều hiếm thấy là mức độ tin tưởng đúng đắn, vì nó phụ thuộc vào việc con người hiểu khi nào một hệ thống AI có khả năng sai và có thể nhận ra khi nó sai.

Điều đó không có nghĩa là AI không nên được tin cậy trong công việc quan trọng. Nó có nghĩa là chúng ta đã sẵn sàng trao cho nó một loại niềm tin mà chúng ta sẽ không dành cho con người, phần nào vì không có cá nhân rõ ràng nào để chịu trách nhiệm khi nó thất bại.

Nếu AI sẽ thực hiện công việc dựa trên phán đoán như một đồng nghiệp đáng giá, nó cần đáp ứng các tiêu chuẩn cơ bản giống nhau. Các câu trả lời cần có thể kiểm chứng, với lý luận hiển thị, và chấp nhận thực tế rằng đôi khi, điều tốt nhất nó có thể làm là nói “I don’t know”.