Trích dẫn: Tính năng mới của Anthropic có thể giải quyết vấn đề niềm tin của AI không?

Xác thực AI đã trở thành một vấn đề nghiêm trọng trong một thời gian. Trong khi mô hình ngôn ngữ lớn (LLM) đã phát triển với tốc độ đáng kinh ngạc, thách thức chứng minh độ chính xác của chúng vẫn còn tồn tại.

Anthropic đang cố gắng giải quyết vấn đề này, và trong số tất cả các công ty AI lớn, tôi nghĩ họ có cơ hội tốt nhất.

Công ty đã phát hành Trích dẫn, một tính năng API mới cho các mô hình Claude của họ, thay đổi cách hệ thống AI xác thực các phản hồi của mình. Công nghệ này tự động chia nhỏ các tài liệu nguồn thành các phần dễ tiêu hóa và liên kết từng câu lệnh được tạo bởi AI với nguồn gốc ban đầu của nó – tương tự như cách các bài báo học thuật trích dẫn các tài liệu tham khảo của chúng.

Trích dẫn đang cố gắng giải quyết một trong những thách thức dai dẳng nhất của AI: chứng minh rằng nội dung được tạo ra là chính xác và đáng tin cậy. Thay vì yêu cầu kỹ thuật tạo lệnh phức tạp hoặc xác thực thủ công, hệ thống tự động xử lý các tài liệu và cung cấp xác thực nguồn cấp độ câu cho từng tuyên bố nó đưa ra.

Dữ liệu cho thấy kết quả đầy hứa hẹn: cải thiện 15% độ chính xác của trích dẫn so với các phương pháp truyền thống.

Tại sao điều này lại quan trọng ngay bây giờ

Niềm tin vào AI đã trở thành rào cản quan trọng đối với việc áp dụng doanh nghiệp (và cả cá nhân). Khi các tổ chức chuyển từ việc sử dụng AI thử nghiệm sang các hoạt động cốt lõi, việc không thể xác thực đầu ra của AI một cách hiệu quả đã tạo ra một nút thắt đáng kể.

Các hệ thống xác thực hiện tại cho thấy một vấn đề rõ ràng: các tổ chức phải chọn giữa tốc độ và độ chính xác. Các quy trình xác thực thủ công không thể mở rộng quy mô, trong khi đầu ra của AI không được xác thực mang quá nhiều rủi ro. Thách thức này đặc biệt cấp tính trong các ngành công nghiệp có quy định, nơi độ chính xác không chỉ được ưu tiên – mà còn là yêu cầu.

Thời điểm ra mắt Trích dẫn đến vào một thời điểm quan trọng trong sự phát triển của AI. Khi các mô hình ngôn ngữ trở nên tinh vi hơn, nhu cầu về xác thực tích hợp đã tăng tỷ lệ thuận. Chúng ta cần xây dựng các hệ thống có thể được triển khai một cách tự tin trong các môi trường chuyên nghiệp, nơi độ chính xác là không thể thương lượng.

Phân tích Kiến trúc Kỹ thuật

Phép thuật của Trích dẫn nằm ở cách tiếp cận xử lý tài liệu của nó. Trích dẫn không giống như các hệ thống AI truyền thống. Những hệ thống này thường coi các tài liệu như các khối văn bản đơn giản. Với Trích dẫn, công cụ chia nhỏ các tài liệu nguồn thành những gì Anthropic gọi là “phần”. Những phần này có thể là các câu riêng lẻ hoặc các phần được người dùng xác định, tạo ra một nền tảng tinh粒 cho xác thực.

Dưới đây là phân tích kỹ thuật:

Xử lý và Xử lý Tài liệu

Trích dẫn xử lý các tài liệu khác nhau dựa trên định dạng của chúng. Đối với các tệp văn bản, về cơ bản không có giới hạn ngoài giới hạn 200.000 token cho tổng số yêu cầu. Điều này bao gồm cả ngữ cảnh, lệnh và các tài liệu chính nó.

Xử lý PDF phức tạp hơn. Hệ thống xử lý PDF một cách trực quan, không chỉ là văn bản, dẫn đến một số hạn chế chính:

• Giới hạn kích thước tệp 32MB
• Tối đa 100 trang mỗi tài liệu
• Mỗi trang tiêu thụ 1.500-3.000 token

Quản lý Token

Bây giờ hãy xem xét mặt thực tế của những hạn chế này. Khi bạn làm việc với Trích dẫn, bạn cần xem xét ngân sách token của mình một cách cẩn thận. Dưới đây là cách nó phân chia:

Đối với văn bản tiêu chuẩn:

• Giới hạn yêu cầu đầy đủ: 200.000 token
• Bao gồm: Ngữ cảnh + lệnh + tài liệu
• Không có phí riêng cho đầu ra trích dẫn

Đối với PDF:

• Tiêu thụ token cao hơn mỗi trang
• Gánh nặng xử lý trực quan
• Cần tính toán token phức tạp hơn

Trích dẫn so với RAG: Sự khác biệt chính

Trích dẫn không phải là một hệ thống Tạo sinh tăng cường bằng truy xuất (RAG) – và sự khác biệt này rất quan trọng. Trong khi các hệ thống RAG tập trung vào việc tìm kiếm thông tin liên quan từ một cơ sở kiến thức, Trích dẫn hoạt động trên thông tin mà bạn đã chọn.

Hãy nghĩ về nó theo cách này: RAG quyết định thông tin nào sẽ được sử dụng, trong khi Trích dẫn đảm bảo rằng thông tin đó được sử dụng một cách chính xác. Điều này có nghĩa là:

• RAG: Xử lý truy xuất thông tin
• Trích dẫn: Quản lý xác thực thông tin
• T tiềm năng kết hợp: Cả hai hệ thống có thể hoạt động cùng nhau

Sự lựa chọn kiến trúc này có nghĩa là Trích dẫn vượt trội trong độ chính xác trong các ngữ cảnh được cung cấp, trong khi để lại các chiến lược truy xuất cho các hệ thống bổ sung.

Các con đường tích hợp và Hiệu suất

Cài đặt rất đơn giản: Trích dẫn chạy qua API tiêu chuẩn của Anthropic, điều này có nghĩa là nếu bạn đã sử dụng Claude, bạn đã đi được nửa chặng đường. Hệ thống tích hợp trực tiếp với API Tin nhắn, loại bỏ nhu cầu lưu trữ tệp riêng biệt hoặc thay đổi cơ sở hạ tầng phức tạp.

Cấu trúc giá theo mô hình dựa trên token của Anthropic với một lợi thế chính: trong khi bạn phải trả tiền cho các token đầu vào từ các tài liệu nguồn, không có phí thêm cho chính các đầu ra trích dẫn. Điều này tạo ra một cấu trúc chi phí có thể dự đoán được, mở rộng quy mô với việc sử dụng.

Các chỉ số hiệu suất kể một câu chuyện hấp dẫn:

• Cải thiện 15% độ chính xác của trích dẫn chung
• Loại bỏ hoàn toàn các ảo giác nguồn (từ 10% xảy ra đến không)
• Xác thực cấp độ câu cho từng tuyên bố

Các tổ chức (và cá nhân) sử dụng các hệ thống AI không được xác thực đang tìm thấy mình ở bất lợi, đặc biệt là trong các ngành công nghiệp có quy định hoặc môi trường có rủi ro cao, nơi độ chính xác là rất quan trọng.

Nhìn về phía trước, chúng ta có thể thấy:

• Tích hợp các tính năng giống Trích dẫn trở thành tiêu chuẩn
• Sự tiến hóa của các hệ thống xác thực vượt ra ngoài văn bản sang các phương tiện khác
• Phát triển các tiêu chuẩn xác thực cụ thể cho ngành

Toàn bộ ngành công nghiệp thực sự cần phải suy nghĩ lại về độ tin cậy và xác thực của AI. Người dùng cần đến một điểm mà họ có thể xác thực mọi tuyên bố một cách dễ dàng.