Ngăn chặn AI tạo ra câu chuyện: Hướng dẫn ngăn chặn ảo giác

AI đang cách mạng hóa cách thức hoạt động của gần như mọi ngành công nghiệp. Nó giúp chúng ta trở nên hiệu quả hơn, năng suất hơn và – khi được thực hiện đúng cách – tốt hơn trong công việc tổng thể. Nhưng khi sự phụ thuộc vào công nghệ mới này tăng lên nhanh chóng, chúng ta phải nhắc nhở mình về một sự thật đơn giản: AI không phải là không thể sai. Đầu ra của nó không nên được chấp nhận tại mặt trị vì, giống như con người, AI có thể mắc lỗi.

Chúng tôi gọi những lỗi này là “ảo giác AI”. Những sự cố như vậy có thể xảy ra từ việc trả lời một bài toán toán học không chính xác đến cung cấp thông tin không chính xác về các chính sách của chính phủ. Trong các ngành công nghiệp được quản lý chặt chẽ, ảo giác có thể dẫn đến phạt tiền và rắc rối pháp lý, không kể đến sự không hài lòng của khách hàng.

Tần suất của ảo giác AI do đó nên là nguyên nhân gây lo lắng: theo ước tính, các mô hình ngôn ngữ lớn hiện đại (LLM) tạo ra ảo giác từ 1% đến 30% thời gian. Điều này dẫn đến hàng trăm câu trả lời sai được tạo ra hàng ngày, điều này có nghĩa là các doanh nghiệp muốn tận dụng công nghệ này phải chọn lọc kỹ lưỡng khi chọn công cụ để thực hiện.

Hãy cùng khám phá lý do tại sao ảo giác AI xảy ra, những gì đang bị đe dọa và làm thế nào chúng ta có thể xác định và sửa chữa chúng.

Rác vào, rác ra

Bạn có nhớ chơi trò “điện thoại” khi còn là một đứa trẻ không? Làm thế nào câu nói ban đầu sẽ bị bóp méo khi nó được truyền từ người chơi này sang người chơi khác, kết quả là một câu nói hoàn toàn khác khi nó đi vòng quanh vòng tròn?

Cách AI học từ đầu vào của nó tương tự. Các phản hồi mà LLM tạo ra chỉ tốt như thông tin mà chúng được cung cấp, điều này có nghĩa là bối cảnh không chính xác có thể dẫn đến việc tạo ra và lan truyền thông tin sai.

Do đó, một LLM chỉ tốt như đầu vào của nó, đặc biệt khi không có sự can thiệp hoặc giám sát của con người. Khi các giải pháp AI tự động hóa ngày càng phổ biến, điều quan trọng là chúng ta phải cung cấp cho các công cụ thông tin bối cảnh chính xác để tránh gây ra ảo giác. Chúng ta cần đào tạo nghiêm ngặt dữ liệu này và/hoặc khả năng hướng dẫn LLM để chúng chỉ phản hồi từ bối cảnh được cung cấp, thay vì kéo thông tin từ bất kỳ nơi nào trên internet.

Tại sao ảo giác lại quan trọng?

Đối với các doanh nghiệp hướng đến khách hàng, độ chính xác là mọi thứ. Nếu nhân viên phụ thuộc vào AI cho các nhiệm vụ như tổng hợp dữ liệu khách hàng hoặc trả lời câu hỏi của khách hàng, họ cần tin rằng phản hồi mà các công cụ này tạo ra là chính xác.

Nếu không, doanh nghiệp có nguy cơ bị tổn hại đến danh tiếng và sự trung thành của khách hàng. Nếu khách hàng được cung cấp câu trả lời không đầy đủ hoặc sai bởi một rô-bốt trò chuyện, hoặc nếu họ phải chờ đợi trong khi nhân viên kiểm tra đầu ra của rô-bốt trò chuyện, họ có thể đưa doanh nghiệp của mình đến nơi khác. Người dân không nên phải lo lắng về việc liệu các doanh nghiệp họ tương tác có đang cung cấp thông tin sai cho họ hay không – họ muốn hỗ trợ nhanh chóng và đáng tin cậy, điều này có nghĩa là việc nhận được những tương tác này đúng là rất quan trọng.

Các nhà lãnh đạo doanh nghiệp phải làm việc chăm chỉ khi chọn công cụ AI phù hợp cho nhân viên của họ. AI được thiết kế để giải phóng thời gian và năng lượng cho nhân viên tập trung vào các nhiệm vụ có giá trị cao hơn; đầu tư vào một rô-bốt trò chuyện đòi hỏi sự giám sát của con người liên tục sẽ làm thất bại mục đích của việc áp dụng. Nhưng liệu sự tồn tại của ảo giác có thực sự phổ biến hay chỉ là một thuật ngữ được sử dụng quá mức để xác định với bất kỳ phản hồi nào chúng ta cho là không chính xác?

Đấu tranh với ảo giác AI

Hãy xem xét: Lý thuyết ý nghĩa động (DMT), khái niệm rằng sự hiểu biết giữa hai người – trong trường hợp này là người dùng và AI – đang được trao đổi. Nhưng, hạn chế của ngôn ngữ và kiến thức của các chủ đề gây ra sự không phù hợp trong việc giải thích phản hồi.

Trong trường hợp của phản hồi được tạo ra bởi AI, có thể các thuật toán cơ bản không được trang bị đầy đủ để giải thích hoặc tạo ra văn bản theo cách phù hợp với kỳ vọng của con người. Sự không phù hợp này có thể dẫn đến phản hồi có vẻ chính xác trên bề mặt nhưng cuối cùng thiếu độ sâu hoặc tinh tế cần thiết cho sự hiểu biết thực sự.

Hơn nữa, hầu hết các LLM chung mục đích chỉ kéo thông tin từ nội dung có sẵn công khai trên internet. Các ứng dụng doanh nghiệp của AI hoạt động tốt hơn khi chúng được thông báo bởi dữ liệu và chính sách cụ thể cho từng ngành công nghiệp và doanh nghiệp. Các mô hình cũng có thể được cải thiện với phản hồi trực tiếp của con người – đặc biệt là các giải pháp có chủ đích được thiết kế để phản hồi với giọng điệu và cú pháp.

Những công cụ như vậy cũng nên được kiểm tra nghiêm ngặt trước khi chúng trở nên hướng đến người tiêu dùng. Đây là một phần quan trọng của việc ngăn chặn ảo giác AI. Toàn bộ luồng nên được kiểm tra bằng cách sử dụng các cuộc trò chuyện dựa trên lượt với LLM đóng vai trò của một nhân vật. Điều này cho phép các doanh nghiệp giả định tốt hơn về sự thành công chung của các cuộc trò chuyện với một mô hình AI trước khi phát hành nó vào thế giới.

Điều quan trọng là cả nhà phát triển và người dùng công nghệ AI phải nhận thức được lý thuyết ý nghĩa động trong phản hồi họ nhận được, cũng như động lực của ngôn ngữ được sử dụng trong đầu vào. Hãy nhớ, bối cảnh là chìa khóa. Và, như con người, hầu hết bối cảnh của chúng ta được hiểu thông qua các phương tiện không nói, cho dù đó là ngôn ngữ cơ thể, xu hướng xã hội – thậm chí cả giọng điệu. Như con người, chúng ta có khả năng tạo ra ảo giác khi trả lời câu hỏi. Nhưng, trong phiên bản AI hiện tại của chúng ta, sự hiểu biết của con người với con người không dễ dàng được ngữ cảnh hóa, vì vậy chúng ta cần phải phê phán hơn về bối cảnh chúng ta cung cấp khi viết.

Đủ để nói – không tất cả các mô hình AI đều được tạo ra như nhau. Khi công nghệ phát triển để hoàn thành các nhiệm vụ phức tạp ngày càng tăng, điều quan trọng là các doanh nghiệp đang xem xét việc thực hiện phải xác định các công cụ sẽ cải thiện tương tác và trải nghiệm khách hàng thay vì làm giảm chúng.

Gánh nặng không chỉ nằm trên các nhà cung cấp giải pháp để đảm bảo họ đã làm mọi thứ trong khả năng của mình để giảm thiểu khả năng xảy ra ảo giác. Các người mua tiềm năng cũng có vai trò của họ. Bằng cách ưu tiên các giải pháp được đào tạo và kiểm tra nghiêm ngặt và có thể học hỏi từ dữ liệu độc quyền (thay vì bất cứ thứ gì và mọi thứ trên internet), các doanh nghiệp có thể tận dụng tối đa đầu tư AI của mình để thiết lập nhân viên và khách hàng thành công.