Khởi nghiệp Diffbot Đọc Toàn bộ Internet Công khai Để Theo đuổi Sự tạo ra Văn bản Dựa trên Thực tế

Những tiến bộ gần đây trong xử lý ngôn ngữ tự nhiên và tạo văn bản được thực hiện bởi OpenAI thông qua các mô hình ngôn ngữ GPT-2 và GPT-3 đã rất ấn tượng, có thể tạo ra văn bản giống như được viết bởi con người. Tuy nhiên, mặc dù những mô hình này xuất sắc trong việc viết văn bản nghe tự nhiên, chúng không được trang bị để viết văn bản thực tế. Các mô hình ngôn ngữ tiên tiến ghép các câu lại với nhau từ các từ có ý nghĩa nhất trong ngữ cảnh, mà không chú ý đến tính xác thực của các tuyên bố trong văn bản được tạo. Theo báo cáo của MIT technology review, một startup có tên là Diffbot nhằm giải quyết vấn đề này bằng cách cho phép AI trích xuất càng nhiều事 thực càng tốt từ internet.

Diffbot là một startup hy vọng làm cho AI hữu ích hơn cho các nhiệm vụ tạo văn bản thực tế như tự động điền vào bảng tính và tự động hoàn thành câu hoặc mã. Để văn bản được tạo ra bởi AI đáng tin cậy, AI phải đáng tin cậy và nó phải có một số khái niệm về các tuyên bố thực tế và hư cấu. Cách tiếp cận của Diffbot để cung cấp cho chương trình tạo văn bản khả năng tạo ra các tuyên bố thực tế bắt đầu bằng cách thu thập một lượng lớn văn bản từ hầu hết toàn bộ web công khai. Diffbot phân tích văn bản trong nhiều ngôn ngữ và chia văn bản thành các bộ ba事 thực, với chủ đề, đối tượng và động từ của một事 thực nhất định được sử dụng để liên kết một khái niệm với một khái niệm khác. Ví dụ, nó có thể đại diện cho các事 thực về Bill Gates và Microsoft (MSFT ) như sau:

Bill Gates là người sáng lập của Microsoft. Microsoft là một công ty công nghệ máy tính.

Diffbot lấy tất cả các事 thực ngắn này và kết nối chúng lại với nhau để tạo ra một đồ thị tri thức. Các đồ thị tri thức tạo ra các mạng lưới quan hệ giữa các khái niệm, thường cùng với một bộ phận giúp tạo ra các kết luận mới dựa trên các quan hệ này. Để nói một cách khác, đồ thị tri thức sử dụng liên kết dữ liệu, và chúng có thể giúp các thuật toán học máy hiểu về các lĩnh vực tri thức. Đồ thị tri thức đã tồn tại trong nhiều thập kỷ và nhiều nhà nghiên cứu AI đầu tiên coi chúng là các công cụ quan trọng để cho phép AI hiểu về thế giới con người. Tuy nhiên, đồ thị tri thức thường được tạo ra bằng tay, một quá trình khó khăn và tốn thời gian. Tự động hóa việc tạo ra đồ thị tri thức có thể cho phép AI đạt được một sự hiểu biết ngữ cảnh lớn hơn và tạo ra văn bản dựa trên thực tế.

Google (GOOGL ) đã bắt đầu sử dụng đồ thị tri thức vài năm trước để hỗ trợ trong việc cung cấp tóm tắt thông tin khi một chủ đề phổ biến được tìm kiếm. Đồ thị tri thức được sử dụng để kéo các事 thực liên quan nhất và đại diện cho chúng dưới dạng tóm tắt. Diffbot muốn làm điều tương tự cho mọi chủ đề, không chỉ những chủ đề phổ biến. Điều này đòi hỏi xây dựng một đồ thị tri thức khổng lồ, được biên soạn bằng cách thu thập toàn bộ web công khai, điều mà chỉ có Google và Microsoft làm được. Diffbot quét toàn bộ web và cập nhật đồ thị tri thức với thông tin mới mỗi bốn hoặc năm ngày, và trong suốt một tháng nó thêm khoảng 100 triệu đến 150 triệu mục.

Diffbot không đọc văn bản của một trang web như các trình thu thập thông tin web thông thường, mà nó sử dụng các thuật toán tầm nhìn máy tính để trích xuất các pixel thô của một trang web và kéo dữ liệu video, hình ảnh, bài viết và thảo luận từ trang. Nó xác định các yếu tố chính của trang web và sau đó trích xuất các事 thực theo nhiều ngôn ngữ, tuân thủ sơ đồ事 thực ba phần.

Hiện tại, Diffbot cung cấp cả truy cập miễn phí và trả phí vào đồ thị tri thức của nó. Trong khi các nhà nghiên cứu có thể truy cập đồ thị miễn phí, các công ty như DuckDuckGo và Snapchat sử dụng nó để tóm tắt văn bản và trích xuất các đoạn tin tức đang thịnh hành. Trong khi đó, Nike và Adidas sử dụng nền tảng này để tìm các trang web bán sản phẩm giả mạo, điều này có thể thực hiện được vì Diffbot có thể xác định các trang web thực sự bán giày, không chỉ thảo luận về chúng.

Trong tương lai, Diffbot dự định mở rộng khả năng của mình và thêm một giao diện ngôn ngữ tự nhiên vào nền tảng, có khả năng trả lời hầu như bất kỳ câu hỏi nào bạn đặt ra và hỗ trợ các câu trả lời bằng nguồn thông tin. Lý tưởng nhất, khả năng của Diffbot sẽ được kết hợp với một mô hình tổng hợp ngôn ngữ mạnh mẽ như GPT-3.