Vượt ra ngoài ‘Chế độ đọc’ với Học máy

Những nhà nghiên cứu từ Hàn Quốc đã sử dụng học máy để phát triển một phương pháp cải tiến để trích xuất nội dung thực sự từ các trang web để mà ‘đồ đạc’ của một trang web – như thanh bên, chân trang và tiêu đề điều hướng, cũng như khối quảng cáo – biến mất đối với người đọc.

Mặc dù tính năng như vậy đã được tích hợp vào hầu hết các trình duyệt web phổ biến, hoặc có thể dễ dàng có được thông qua các tiện ích mở rộng và plugin, nhưng những công nghệ này dựa trên định dạng ngữ nghĩa có thể không có mặt trong trang web, hoặc có thể đã bị chủ trang web cố ý làm hỏng để ngăn chặn người đọc ẩn ‘trải nghiệm đầy đủ’ của trang.

Một trong những trang web của chúng tôi được ‘giảm thiểu’ với chức năng Reader View tích hợp của Firefox.

Thay vào đó, phương pháp mới sử dụng một hệ thống dựa trên lưới mà lặp lại trang web, đánh giá cách liên quan của nội dung đến mục tiêu cốt lõi của trang.

Quy trình trích xuất nội dung đầu tiên chia trang thành một lưới (hàng trên) trước khi đánh giá mối quan hệ của các ô liên quan được tìm thấy với các ô khác (giữa) và cuối cùng là hợp nhất các ô được phê duyệt (dưới cùng). Nguồn: https://arxiv.org/ftp/arxiv/papers/2110/2110.14164.pdf

Khi một ô liên quan được xác định, mối quan hệ của nó với các ô lân cận cũng được đánh giá trước khi được hợp nhất vào ‘nội dung cốt lõi’ được giải thích.

Ý tưởng trung tâm của phương pháp này là từ bỏ mã dựa trên đánh dấu như một chỉ số của sự liên quan (tức là các thẻ HTML thường dùng để chỉ ra bắt đầu của một đoạn, ví dụ, có thể được thay thế bằng các thẻ thay thế sẽ ‘đánh lừa’ các trình đọc màn hình và các tiện ích như Reader View), và suy ra nội dung dựa hoàn toàn vào hình thức trực quan của nó.

Phương pháp, được gọi là Grid-Center-Expand (GCE), đã được mở rộng bởi các nhà nghiên cứu thành các mô hình Deep Neural Network (DNN) khai thác kiến trúc học tabular giải thích của Google là TabNet.

Vấn đề cốt lõi

Bài báo này có tiêu đề Đừng đọc, chỉ cần nhìn: Trích xuất nội dung chính từ các trang web bằng cách sử dụng các tính năng trực quan, và đến từ ba nhà nghiên cứu tại Đại học Hanyang, và một từ Viện Công nghệ hội tụ, tất cả đều nằm ở Seoul.

Sự trích xuất nội dung trang web cốt lõi được cải tiến có thể có giá trị không chỉ cho người dùng cuối, mà còn cho các hệ thống máy tính được giao nhiệm vụ tiêu thụ hoặc lập chỉ mục nội dung miền cho mục đích Xử lý Ngôn ngữ Tự nhiên (NLP), và các lĩnh vực khác trong AI.

Hiện tại, nếu nội dung không liên quan được bao gồm trong quá trình trích xuất như vậy, nó có thể cần được lọc thủ công (hoặc dán nhãn), với chi phí rất lớn; tồi tệ hơn, nếu nội dung không mong muốn được bao gồm với nội dung cốt lõi, nó có thể ảnh hưởng đến cách nội dung cốt lõi được giải thích, và kết quả của các hệ thống chuyển đổi và mã hóa / giải mã dựa trên nội dung sạch.

Một phương pháp cải tiến, các nhà nghiên cứu lập luận, đặc biệt là cần thiết vì các phương pháp hiện có thường thất bại với các trang web không phải tiếng Anh.

Các trang web tiếng Pháp, tiếng Nhật và tiếng Nga được ghi nhận là có tỷ lệ thành công thấp nhất trong bốn phương pháp ‘Reader View’ phổ biến nhất: Readability.js của Mozilla; DOM Distiller của Google; Web2Text; và Boilernet.

Các tập dữ liệu và huấn luyện

Các nhà nghiên cứu đã biên soạn tài liệu tập dữ liệu từ các từ khóa tiếng Anh trong GoogleTrends-2017 và GoogleTrends-2020 dataset, mặc dù họ quan sát thấy rằng, về mặt kết quả, không có sự khác biệt thực tế giữa hai tập dữ liệu.

Ngoài ra, các tác giả đã thu thập các từ khóa không phải tiếng Anh từ Hàn Quốc, Pháp, Nhật Bản, Nga, Indonesia và Ả Rập Xê Út. Các từ khóa tiếng Trung được thêm từ tập dữ liệu Baidu, vì Google Trends không thể cung cấp dữ liệu tiếng Trung.

Thử nghiệm và kết quả

Trong quá trình thử nghiệm hệ thống, các tác giả đã tìm thấy rằng nó cung cấp cùng mức hiệu suất với các mô hình DNN gần đây, trong khi cung cấp chỗ ở tốt hơn cho nhiều ngôn ngữ.

Ví dụ, kiến trúc Boilernet, trong khi duy trì hiệu suất tốt trong việc trích xuất nội dung liên quan, thích nghi kém với các tập dữ liệu tiếng Trung và tiếng Nhật, trong khi Web2Text, các tác giả tìm thấy, có ‘hiệu suất tương đối kém’ tổng thể, với các tính năng ngôn ngữ không phải là đa ngôn ngữ, và không phù hợp để trích xuất nội dung trung tâm từ các trang web.

Mozilla’s Readbility.js được tìm thấy để đạt được hiệu suất chấp nhận được trên nhiều ngôn ngữ, bao gồm cả tiếng Anh, ngay cả khi nó là một phương pháp dựa trên quy tắc. Tuy nhiên, các nhà nghiên cứu đã tìm thấy rằng hiệu suất của nó giảm đáng kể trên các tập dữ liệu tiếng Nhật và tiếng Pháp, làm nổi bật những hạn chế của việc cố gắng phân tích các đặc điểm của một khu vực cụ thể hoàn toàn bằng các phương pháp dựa trên quy tắc.

Trong khi đó, DOM Distiller của Google, kết hợp các phương pháp dựa trên quy tắc và học máy, được tìm thấy để hoạt động tốt trên toàn bảng.

Bảng kết quả cho các phương pháp được thử nghiệm trong dự án, bao gồm cả mô块 GCE của các nhà nghiên cứu. Các số cao hơn là tốt hơn.

Các nhà nghiên cứu kết luận rằng ‘GCE không cần phải theo kịp môi trường web thay đổi nhanh chóng vì nó dựa trên bản chất con người – các tính năng toàn cầu và đa ngôn ngữ’.