Làm thế nào trí tuệ nhân tạo giải thích xây dựng niềm tin và trách nhiệm

Các doanh nghiệp đã lao đầu vào việc áp dụng trí tuệ nhân tạo, chạy đua để triển khai các công cụ hỗ trợ quyết định, các công cụ tạo nội dung và các công cụ hỗ trợ trò chuyện trên toàn bộ hoạt động của họ. Theo McKinsey, 78% các công ty sử dụng trí tuệ nhân tạo trong ít nhất một chức năng kinh doanh.

Sự cuồng nhiệt trong việc triển khai là dễ hiểu — mọi người đều thấy giá trị tiềm năng. Nhưng trong sự vội vàng này, nhiều tổ chức đã bỏ qua thực tế rằng tất cả các công nghệ dựa trên mạng nơ-ron, bao gồm cả mô hình ngôn ngữ lớn và hệ thống trí tuệ nhân tạo tạo sinh hiện nay và trong tương lai gần, đều có một khiếm khuyết đáng kể: Chúng là không thể dự đoán và cuối cùng là không thể kiểm soát.

Một số người đã học được rằng có thể có hậu quả thực sự khi điều này xảy ra. Tại một đại lý Chevrolet đã triển khai một công cụ hỗ trợ trò chuyện trên trang web của họ, một khách hàng đã thuyết phục công cụ hỗ trợ trò chuyện được hỗ trợ bởi ChatGPT bán cho anh ta một chiếc Chevrolet Tahoe giá 58.195 đô la với giá chỉ 1 đô la. Một khách hàng khác đã yêu cầu công cụ hỗ trợ trò chuyện viết một tập lệnh Python cho các phương trình động lực học chất lỏng phức tạp, và nó đã thực hiện việc đó. Đại lý đã nhanh chóng vô hiệu hóa các công cụ hỗ trợ trò chuyện sau khi các sự việc này trở nên lan truyền.

Năm ngoái, Air Canada đã thua trong một vụ kiện tại tòa án nhỏ khi họ lập luận rằng công cụ hỗ trợ trò chuyện của họ, đã cung cấp cho một hành khách thông tin không chính xác về một khoản giảm giá tang lễ, “là một thực thể pháp lý riêng biệt chịu trách nhiệm về hành động của mình”.

Sự không thể dự đoán này bắt nguồn từ kiến trúc cơ bản của các mô hình ngôn ngữ lớn. Chúng quá lớn và phức tạp đến mức không thể hiểu được làm thế nào chúng đến được các câu trả lời cụ thể hoặc dự đoán những gì chúng sẽ tạo ra cho đến khi chúng tạo ra đầu ra. Hầu hết các tổ chức đang phản ứng với vấn đề độ tin cậy này mà không nhận ra đầy đủ nó.

Giải pháp thông thường là kiểm tra kết quả trí tuệ nhân tạo bằng tay, điều này hoạt động nhưng hạn chế nghiêm trọng tiềm năng của công nghệ. Khi trí tuệ nhân tạo được giao nhiệm vụ hỗ trợ — soạn thảo văn bản, ghi lại các cuộc họp, tóm tắt tài liệu và giúp đỡ với việc lập trình — nó mang lại những lợi ích về năng suất khiêm tốn. Không đủ để cách mạng hóa nền kinh tế.

Lợi ích thực sự của trí tuệ nhân tạo sẽ đến khi chúng ta ngừng sử dụng nó để hỗ trợ các công việc hiện có và thay vào đó là tái cấu trúc toàn bộ quy trình, hệ thống và công ty để sử dụng trí tuệ nhân tạo mà không cần sự can thiệp của con người ở mọi bước. Hãy xem xét quá trình xử lý khoản vay: nếu một ngân hàng cung cấp cho các nhân viên cho vay một công cụ hỗ trợ trí tuệ nhân tạo để tóm tắt các ứng dụng, họ có thể làm việc nhanh hơn 20-30%. Nhưng triển khai trí tuệ nhân tạo để xử lý toàn bộ quá trình quyết định (với các biện pháp bảo vệ phù hợp) có thể cắt giảm chi phí hơn 90% và loại bỏ gần như tất cả thời gian xử lý. Đây là sự khác biệt giữa cải thiện dần dần và chuyển đổi.

Con đường đến việc triển khai trí tuệ nhân tạo đáng tin cậy

Để khai thác toàn bộ tiềm năng của trí tuệ nhân tạo mà không sa vào sự không thể dự đoán của nó đòi hỏi sự kết hợp tinh tế giữa các phương pháp kỹ thuật và tư duy chiến lược. Mặc dù một số phương pháp hiện tại cung cấp các giải pháp một phần, nhưng mỗi phương pháp đều có những hạn chế đáng kể.

Một số tổ chức cố gắng giảm thiểu các vấn đề về độ tin cậy thông qua việc điều chỉnh hệ thống — điều khiển tinh vi hành vi của trí tuệ nhân tạo theo các hướng mong muốn để nó phản ứng theo các cách cụ thể với các đầu vào nhất định. Các nhà nghiên cứu của Anthropic đã chứng minh sự mong manh của phương pháp này bằng cách xác định một “tính năng Cầu Vàng” trong mạng nơ-ron của Claude và, bằng cách khuếch đại nó một cách nhân tạo, đã khiến Claude phát triển một cuộc khủng hoảng về bản dạng. Khi được hỏi về hình thức vật lý của nó, thay vì thừa nhận nó không có hình thức nào, Claude đã tuyên bố là Cầu Vàng chính nó. Thí nghiệm này đã tiết lộ cách dễ dàng một mô hình có thể thay đổi chức năng cốt lõi của nó và rằng mỗi lần điều chỉnh đều đại diện cho một sự đánh đổi, có thể cải thiện một khía cạnh của hiệu suất trong khi làm suy giảm các khía cạnh khác.

Một phương pháp khác là để trí tuệ nhân tạo giám sát trí tuệ nhân tạo khác. Mặc dù phương pháp phân lớp này có thể bắt được một số lỗi, nhưng nó lại giới thiệu thêm sự phức tạp và vẫn không đạt được độ tin cậy toàn diện. Các rào cản được mã hóa cứng là một sự can thiệp trực tiếp hơn, như chặn các phản hồi chứa các từ khóa hoặc mẫu nhất định, chẳng hạn như các thành phần tiền chất của vũ khí. Mặc dù hiệu quả chống lại các vấn đề đã biết, nhưng các rào cản này không thể dự đoán các đầu ra có vấn đề mới nổi từ các hệ thống phức tạp này.

Một phương pháp hiệu quả hơn là xây dựng các quy trình dựa trên trí tuệ nhân tạo có thể hoạt động tự chủ, với sự giám sát của con người được đặt chiến lược để bắt các vấn đề về độ tin cậy trước khi chúng gây ra các vấn đề trong thế giới thực. Bạn sẽ không muốn trí tuệ nhân tạo trực tiếp phê duyệt hoặc từ chối các ứng dụng khoản vay, nhưng trí tuệ nhân tạo có thể thực hiện một đánh giá ban đầu cho các nhà vận hành con người để xem xét. Điều này có thể hoạt động, nhưng nó phụ thuộc vào sự cảnh giác của con người để bắt các lỗi của trí tuệ nhân tạo và làm suy giảm các lợi ích về hiệu suất từ việc sử dụng trí tuệ nhân tạo.

Xây dựng cho tương lai

Những giải pháp một phần này chỉ ra một phương pháp toàn diện hơn. Các tổ chức cơ bản tái cấu trúc cách thức hoạt động của họ, thay vì chỉ tăng cường các quy trình hiện có với sự hỗ trợ của trí tuệ nhân tạo, sẽ đạt được lợi thế lớn nhất. Nhưng trí tuệ nhân tạo không bao giờ nên là bước cuối cùng trong một quy trình hoặc quyết định quan trọng, vậy con đường tiến bộ nào là tốt nhất?

Trước hết, trí tuệ nhân tạo xây dựng một quy trình có thể lặp lại và sẽ cung cấp kết quả nhất quán một cách đáng tin cậy và minh bạch. Thứ hai, con người xem xét quy trình để đảm bảo họ hiểu cách nó hoạt động và rằng các đầu vào là phù hợp. Cuối cùng, quy trình chạy tự động — không sử dụng trí tuệ nhân tạo — với việc xem xét định kỳ của con người về kết quả.

Hãy xem xét ngành bảo hiểm. Phương pháp truyền thống có thể thêm các công cụ hỗ trợ trí tuệ nhân tạo để giúp các nhân viên xử lý yêu cầu làm việc hiệu quả hơn. Một phương pháp cách mạng hơn sẽ sử dụng trí tuệ nhân tạo để phát triển các công cụ mới — như tầm nhìn máy tính phân tích ảnh thiệt hại hoặc các mô hình phát hiện gian lận nâng cao xác định các mẫu đáng ngờ — và sau đó kết hợp các công cụ này vào các hệ thống tự động được quản lý bởi các quy tắc rõ ràng và có thể hiểu được. Con người sẽ thiết kế và giám sát các hệ thống này thay vì xử lý các yêu cầu cá nhân.

Phương pháp này duy trì sự giám sát của con người tại điểm then chốt nơi nó quan trọng nhất: thiết kế và xác thực của hệ thống chính nó. Nó cho phép đạt được những lợi ích về hiệu suất theo cấp số nhân trong khi loại bỏ rủi ro rằng sự không thể dự đoán của trí tuệ nhân tạo sẽ dẫn đến các kết quả có hại trong các trường hợp cá nhân.

Một trí tuệ nhân tạo có thể xác định các chỉ số tiềm năng về khả năng trả nợ trong dữ liệu giao dịch, ví dụ. Các chuyên gia con người sau đó có thể đánh giá các chỉ số này về sự công bằng và xây dựng các mô hình rõ ràng, có thể hiểu được để xác nhận sức mạnh dự đoán của chúng.

Phương pháp này đối với trí tuệ nhân tạo giải thích sẽ tạo ra một ranh giới rõ ràng hơn giữa các tổ chức sử dụng trí tuệ nhân tạo một cách nông nổi và những tổ chức chuyển đổi hoạt động của họ xung quanh nó. Những tổ chức sau sẽ ngày càng dẫn đầu trong các ngành của họ, có khả năng cung cấp các sản phẩm và dịch vụ ở mức giá mà các đối thủ cạnh tranh của họ không thể匹.

Không giống như trí tuệ nhân tạo hộp đen, các hệ thống trí tuệ nhân tạo giải thích đảm bảo con người duy trì sự giám sát có ý nghĩa của việc áp dụng công nghệ, tạo ra một tương lai nơi trí tuệ nhân tạo tăng cường tiềm năng của con người chứ không chỉ thay thế lao động của con người.