Ngăn chặn Trí tuệ nhân tạo tạo ra câu chuyện: Hướng dẫn ngăn chặn ảo giác

Trí tuệ nhân tạo đang cách mạng hóa cách thức hoạt động của gần như mọi ngành công nghiệp. Nó giúp chúng ta trở nên hiệu quả hơn, sản xuất hơn và – khi được thực hiện đúng cách – tốt hơn trong công việc của mình. Nhưng khi sự phụ thuộc vào công nghệ mới này tăng nhanh, chúng ta phải nhắc nhở mình về một thực tế đơn giản: Trí tuệ nhân tạo không phải là không thể sai. Đầu ra của nó không nên được chấp nhận tại giá trị mặt vì, giống như con người, Trí tuệ nhân tạo có thể mắc lỗi.

Chúng tôi gọi những lỗi này là “ảo giác của Trí tuệ nhân tạo”. Những sai lầm như vậy có thể xảy ra từ việc trả lời một vấn đề toán học không chính xác đến cung cấp thông tin không chính xác về chính sách của chính phủ. Trong các ngành công nghiệp được quy định chặt chẽ, ảo giác có thể dẫn đến phạt tiền và rắc rối pháp lý, không kể đến khách hàng không hài lòng.

Tần suất của ảo giác Trí tuệ nhân tạo nên là nguyên nhân gây lo ngại: ước tính rằng các mô hình ngôn ngữ lớn hiện đại (LLM) tạo ra ảo giác từ 1% đến 30% thời gian. Điều này dẫn đến hàng trăm câu trả lời sai được tạo ra hàng ngày, có nghĩa là các doanh nghiệp muốn tận dụng công nghệ này phải chọn lựa kỹ lưỡng khi chọn công cụ để thực hiện.

Hãy cùng khám phá lý do tại sao ảo giác Trí tuệ nhân tạo xảy ra, những gì đang bị đe dọa và làm thế nào chúng ta có thể xác định và sửa chữa chúng.

Rác vào, rác ra

Bạn có nhớ chơi trò chơi “điện thoại” khi còn nhỏ? Cách cụm từ ban đầu bị biến dạng khi nó được truyền từ người này sang người khác, dẫn đến một tuyên bố hoàn toàn khác khi nó đi hết vòng tròn?

Cách Trí tuệ nhân tạo học từ đầu vào của nó tương tự. Các phản hồi mà LLM tạo ra chỉ tốt như thông tin mà chúng được cung cấp, có nghĩa là ngữ cảnh không chính xác có thể dẫn đến việc tạo ra và lan truyền thông tin sai. Nếu một hệ thống Trí tuệ nhân tạo được xây dựng trên dữ liệu không chính xác, lỗi thời hoặc bị thiên vị, thì đầu ra của nó sẽ phản ánh điều đó.

Do đó, một LLM chỉ tốt như đầu vào của nó, đặc biệt khi không có sự can thiệp hoặc giám sát của con người. Khi các giải pháp Trí tuệ nhân tạo tự chủ trở nên phổ biến, điều quan trọng là chúng ta phải cung cấp cho các công cụ ngữ cảnh dữ liệu chính xác để tránh gây ra ảo giác. Chúng ta cần đào tạo nghiêm ngặt dữ liệu này và/hoặc khả năng hướng dẫn LLM để chúng chỉ phản hồi từ ngữ cảnh được cung cấp, chứ không phải từ bất kỳ nơi nào trên internet.

Tại sao ảo giác lại quan trọng?

Đối với các doanh nghiệp hướng đến khách hàng, độ chính xác là tất cả. Nếu nhân viên phụ thuộc vào Trí tuệ nhân tạo để thực hiện các nhiệm vụ như tổng hợp dữ liệu khách hàng hoặc trả lời câu hỏi của khách hàng, họ cần tin rằng các phản hồi mà công cụ tạo ra là chính xác.

Nếu không, doanh nghiệp có nguy cơ bị tổn hại đến danh tiếng và lòng trung thành của khách hàng. Nếu khách hàng được cung cấp thông tin không đầy đủ hoặc sai bởi một rô-bốt trò chuyện, hoặc nếu họ phải chờ đợi trong khi nhân viên kiểm tra lại đầu ra của rô-bốt, họ có thể đưa doanh nghiệp của mình đến nơi khác. Người dân không nên phải lo lắng về việc liệu các doanh nghiệp họ tương tác có đang cung cấp thông tin sai cho họ hay không – họ muốn hỗ trợ nhanh chóng và đáng tin cậy, điều này có nghĩa là việc nhận được những tương tác này đúng là rất quan trọng.

Các nhà lãnh đạo doanh nghiệp phải làm việc chăm chỉ khi chọn công cụ Trí tuệ nhân tạo phù hợp cho nhân viên của họ. Trí tuệ nhân tạo được thiết kế để giải phóng thời gian và năng lượng cho nhân viên tập trung vào các nhiệm vụ có giá trị cao hơn; đầu tư vào một rô-bốt trò chuyện đòi hỏi sự giám sát liên tục của con người sẽ làm thất bại mục đích của việc áp dụng. Nhưng liệu sự tồn tại của ảo giác có thực sự phổ biến hay chỉ là một thuật ngữ được sử dụng quá mức để xác định với bất kỳ phản hồi nào chúng ta cho là không chính xác?

Đấu tranh với ảo giác Trí tuệ nhân tạo

Hãy xem xét: Lý thuyết ý nghĩa động (DMT), khái niệm rằng sự hiểu biết giữa hai người – trong trường hợp này là người dùng và Trí tuệ nhân tạo – đang được trao đổi. Nhưng, hạn chế của ngôn ngữ và kiến thức của các chủ đề gây ra sự không phù hợp trong việc giải thích phản hồi.

Trong trường hợp của phản hồi được tạo ra bởi Trí tuệ nhân tạo, có thể các thuật toán cơ bản chưa được trang bị đầy đủ để giải thích hoặc tạo ra văn bản một cách chính xác theo cách phù hợp với kỳ vọng của con người. Sự không phù hợp này có thể dẫn đến các phản hồi có vẻ chính xác trên bề mặt nhưng cuối cùng thiếu độ sâu hoặc sắc thái cần thiết cho sự hiểu biết thực sự.

Hơn nữa, hầu hết các LLM chung đều chỉ kéo thông tin từ nội dung có sẵn công khai trên internet. Các ứng dụng doanh nghiệp của Trí tuệ nhân tạo hoạt động tốt hơn khi chúng được thông báo bởi dữ liệu và chính sách cụ thể cho từng ngành công nghiệp và doanh nghiệp. Các mô hình cũng có thể được cải thiện với phản hồi trực tiếp của con người – đặc biệt là các giải pháp có chủ đích được thiết kế để phản hồi với giọng điệu và cú pháp.

Các công cụ như vậy cũng nên được kiểm tra nghiêm ngặt trước khi chúng trở nên hướng đến người tiêu dùng. Đây là một phần quan trọng của việc ngăn chặn ảo giác Trí tuệ nhân tạo. Toàn bộ luồng nên được kiểm tra bằng cách sử dụng các cuộc trò chuyện dựa trên lượt với LLM đóng vai trò của một nhân vật. Điều này cho phép các doanh nghiệp giả định tốt hơn về sự thành công chung của các cuộc trò chuyện với một mô hình Trí tuệ nhân tạo trước khi phát hành nó vào thế giới.

Nó là điều cần thiết cho cả nhà phát triển và người dùng công nghệ Trí tuệ nhân tạo phải nhận thức được lý thuyết ý nghĩa động trong phản hồi họ nhận được, cũng như động lực của ngôn ngữ được sử dụng trong đầu vào. Hãy nhớ, ngữ cảnh là chìa khóa. Và, như con người, hầu hết ngữ cảnh của chúng ta được hiểu thông qua các phương tiện không nói, cho dù đó là ngôn ngữ cơ thể, xu hướng xã hội – thậm chí cả giọng điệu. Như con người, chúng ta có khả năng tạo ra ảo giác khi phản hồi các câu hỏi. Nhưng, trong phiên bản Trí tuệ nhân tạo hiện tại của chúng ta, sự hiểu biết của con người với con người không được ngữ cảnh hóa dễ dàng, vì vậy chúng ta cần phải批判 hơn về ngữ cảnh mà chúng ta cung cấp khi viết.

Đủ để nói – không phải tất cả các mô hình Trí tuệ nhân tạo đều được tạo ra như nhau. Khi công nghệ phát triển để hoàn thành các nhiệm vụ phức tạp hơn, điều quan trọng là các doanh nghiệp đang xem xét việc thực hiện phải xác định các công cụ sẽ cải thiện các tương tác và trải nghiệm của khách hàng thay vì làm giảm chúng.

Áp lực không chỉ nằm ở các nhà cung cấp giải pháp để đảm bảo họ đã làm mọi thứ trong khả năng của mình để giảm thiểu khả năng xảy ra ảo giác. Những người mua tiềm năng cũng có vai trò của họ. Bằng cách ưu tiên các giải pháp được đào tạo và kiểm tra nghiêm ngặt và có thể học hỏi từ dữ liệu độc quyền (thay vì bất cứ thứ gì và mọi thứ trên internet), các doanh nghiệp có thể tận dụng tối đa đầu tư Trí tuệ nhân tạo của họ để thiết lập nhân viên và khách hàng thành công.