Sử dụng ảo giác của trí tuệ nhân tạo để đánh giá tính thực tế của hình ảnh

Nghiên cứu mới từ Nga đề xuất một phương pháp không chính thống để phát hiện hình ảnh được tạo ra bởi trí tuệ nhân tạo không thực tế – không phải bằng cách cải thiện độ chính xác của các mô hình ngôn ngữ tầm nhìn lớn (LVLMs), mà bằng cách lợi dụng故 ý tendency to hallucinate của chúng.

Phương pháp mới này trích xuất nhiều ‘atomic facts’ về một hình ảnh sử dụng LVLMs, sau đó áp dụng natural language inference (NLI) để đo lường hệ thống các mâu thuẫn giữa các phát biểu này – hiệu quả chuyển đổi các khiếm khuyết của mô hình thành một công cụ chẩn đoán để phát hiện hình ảnh đi ngược lại với lẽ thường.

Ví dụ về hình ảnh không thể từ bộ dữ liệu WHOOPS! Điều đáng chú ý là những hình ảnh này lắp ráp các yếu tố hợp lý, và rằng tính không thể của chúng phải được tính toán dựa trên sự kết hợp của các khía cạnh không tương thích này. Source: https://whoops-benchmark.github.io/

Bộ dữ liệu này bao gồm 500 hình ảnh tổng hợp và hơn 10.874 chú thích, được thiết kế đặc biệt để kiểm tra khả năng suy luận thông thường và hiểu biết thành phần của các mô hình trí tuệ nhân tạo. Nó được tạo ra trong sự hợp tác với các nhà thiết kế được giao nhiệm vụ tạo ra hình ảnh thách thức thông qua các hệ thống văn bản-hình ảnh như Midjourney và loạt DALL-E – tạo ra các kịch bản khó hoặc không thể chụp tự nhiên:

Ví dụ thêm từ bộ dữ liệu WHOOPS! Source: https://huggingface.co/datasets/nlphuji/whoops

Phương pháp mới này hoạt động trong ba giai đoạn; đầu tiên, mô hình LVLM (cụ thể LLaVA-v1.6-mistral-7b) được yêu cầu tạo ra nhiều phát biểu đơn giản – được gọi là ‘sự kiện nguyên tử’ – mô tả một hình ảnh. Những phát biểu này được tạo ra bằng cách sử dụng Diverse Beam Search, đảm bảo sự đa dạng trong đầu ra.

Tìm kiếm chùm tia đa dạng tạo ra nhiều tùy chọn chú thích hơn bằng cách tối ưu hóa cho mục tiêu tăng cường đa dạng. Source: https://arxiv.org/pdf/1610.02424

Sau đó, mỗi phát biểu được tạo ra được so sánh hệ thống với mọi phát biểu khác bằng cách sử dụng mô hình suy luận ngôn ngữ tự nhiên, mô hình này gán các điểm số phản ánh liệu các cặp phát biểu có ngụ ý, mâu thuẫn hoặc trung lập với nhau.

Mâu thuẫn chỉ ra ảo giác hoặc các yếu tố không thực tế trong hình ảnh:

Sơ đồ cho đường ống phát hiện.

Cuối cùng, phương pháp này tổng hợp các điểm số NLI này vào một ‘điểm thực tế’ duy nhất, lượng hóa sự nhất quán tổng thể của các phát biểu được tạo ra.

Các nhà nghiên cứu đã khám phá các phương pháp tổng hợp khác nhau, với một phương pháp dựa trên phân cụm thực hiện tốt nhất. Các tác giả đã áp dụng thuật toán k-means clustering để tách các điểm số NLI riêng lẻ thành hai cụm, và centroid của cụm có giá trị thấp hơn đã được chọn làm metric cuối cùng.

Sử dụng hai cụm trực tiếp phù hợp với bản chất nhị phân của nhiệm vụ phân loại, tức là phân biệt hình ảnh thực tế và không thực tế. Logic tương tự như việc chọn điểm số thấp nhất tổng thể; tuy nhiên, phân cụm cho phép metric này đại diện cho sự mâu thuẫn trung bình trên nhiều sự kiện, thay vì dựa vào một ngoại lệ đơn lẻ.

Dữ liệu và Kiểm tra

Các nhà nghiên cứu đã kiểm tra hệ thống của họ trên bộ dữ liệu WHOOPS! cơ bản, sử dụng các phân chia kiểm tra xoay (tức là cross-validation). Các mô hình được kiểm tra bao gồm BLIP2 FlanT5-XL và BLIP2 FlanT5-XXL trong các phân chia, và BLIP2 FlanT5-XXL trong định dạng zero-shot (tức là không có đào tạo thêm).

Đối với một đường cơ sở theo dõi hướng dẫn, các tác giả đã yêu cầu mô hình LVLM với cụm từ ‘Liệu điều này bất thường? Hãy giải thích ngắn gọn với một câu’, điều mà nghiên cứu trước cho thấy hiệu quả trong việc phát hiện hình ảnh không thực tế.

Các mô hình được đánh giá bao gồm LLaVA 1.6 Mistral 7B, LLaVA 1.6 Vicuna 13B, và hai kích cỡ (7/13 tỷ tham số) của InstructBLIP.

Quy trình kiểm tra tập trung vào 102 cặp hình ảnh thực tế và không thực tế (‘lạ’). Mỗi cặp bao gồm một hình ảnh bình thường và một hình ảnh đi ngược lại với lẽ thường.

Ba người chú thích đã dán nhãn cho hình ảnh, đạt được sự đồng thuận 92%, cho thấy sự đồng thuận mạnh mẽ của con người về những gì cấu thành ‘tính lạ’. Độ chính xác của các phương pháp đánh giá được đo bằng khả năng phân biệt chính xác giữa hình ảnh thực tế và không thực tế.

Hệ thống được đánh giá bằng cách sử dụng kiểm tra ba lần, với dữ liệu được trộn ngẫu nhiên với một hạt giống cố định. Các tác giả đã điều chỉnh trọng số cho các điểm số ngụ ý (các phát biểu logic đồng ý) và điểm số mâu thuẫn (các phát biểu logic mâu thuẫn) trong quá trình đào tạo, trong khi ‘điểm số trung lập’ được cố định ở zero. Độ chính xác cuối cùng được tính toán là trung bình trên tất cả các phân chia kiểm tra.

So sánh các mô hình NLI khác nhau và các phương pháp tổng hợp trên một tập con của năm sự kiện được tạo ra, đo bằng độ chính xác.

Về kết quả ban đầu được hiển thị ở trên, bài báo cho biết:

‘Phương pháp [‘clust’] nổi bật như một trong những phương pháp hoạt động tốt nhất. Điều này ngụ ý rằng việc tổng hợp tất cả các điểm số mâu thuẫn là rất quan trọng, chứ không chỉ tập trung vào các giá trị cực端. Ngoài ra, mô hình NLI lớn nhất (nli-deberta-v3-large) vượt trội so với tất cả các mô hình khác đối với tất cả các phương pháp tổng hợp, cho thấy nó nắm bắt bản chất của vấn đề một cách hiệu quả hơn.’

Các tác giả đã tìm thấy rằng các trọng số tối ưu luôn ưa thích mâu thuẫn hơn là ngụ ý, cho thấy mâu thuẫn là thông tin hơn cho việc phân biệt hình ảnh không thực tế. Phương pháp của họ đã vượt trội so với tất cả các phương pháp zero-shot khác được kiểm tra, gần đạt được hiệu suất của mô hình BLIP2 được tinh chỉnh:

Hiệu suất của các phương pháp khác nhau trên bộ dữ liệu WHOOPS! Các phương pháp tinh chỉnh (ft) xuất hiện ở đầu, trong khi các phương pháp zero-shot (zs) được liệt kê dưới đây. Kích thước mô hình chỉ ra số lượng tham số, và độ chính xác được sử dụng làm metric đánh giá.

Họ cũng lưu ý, một cách không mong đợi, rằng InstructBLIP hoạt động tốt hơn so với các mô hình LLaVA tương đương khi có cùng một yêu cầu. Mặc dù công nhận độ chính xác cao hơn của GPT-4o, bài báo nhấn mạnh sự ưu tiên của các tác giả trong việc chứng minh các giải pháp mở nguồn thực tế, và dường như có thể tuyên bố tính mới trong việc khai thác ảo giác một cách rõ ràng như một công cụ chẩn đoán.

Kết luận

Tuy nhiên, các tác giả thừa nhận rằng dự án của họ nợ một phần công việc của họ cho FaithScore năm 2024, một sự hợp tác giữa Đại học Texas tại Dallas và Đại học Johns Hopkins.

Minh họa cách thức hoạt động của FaithScore. Đầu tiên, các phát biểu mô tả trong một câu trả lời được tạo ra bởi LVLM được xác định. Tiếp theo, các phát biểu này được chia thành các sự kiện nguyên tử riêng lẻ. Cuối cùng, các sự kiện nguyên tử này được so sánh với hình ảnh đầu vào để xác minh độ chính xác của chúng. Văn bản được gạch dưới nổi bật nội dung mô tả khách quan, trong khi văn bản màu xanh chỉ ra các phát biểu ảo giác, cho phép FaithScore cung cấp một thước đo có thể giải thích được về tính chính xác của sự kiện. Source: https://arxiv.org/pdf/2311.01477

FaithScore đo lường sự trung thực của các mô tả được tạo ra bởi LVLM bằng cách xác minh tính nhất quán với nội dung hình ảnh, trong khi phương pháp của bài báo mới này khai thác rõ ràng ảo giác của LVLM để phát hiện hình ảnh không thực tế thông qua các mâu thuẫn trong các sự kiện được tạo ra bằng cách sử dụng suy luận ngôn ngữ tự nhiên.

Công việc mới này, tự nhiên, phụ thuộc vào những đặc điểm của các mô hình ngôn ngữ hiện tại, và vào khả năng ảo giác của chúng. Nếu sự phát triển mô hình nào đó có thể tạo ra một mô hình hoàn toàn không ảo giác, thì ngay cả các nguyên tắc chung của công việc mới này cũng sẽ không còn áp dụng được. Tuy nhiên, đây vẫn là một khả năng đầy thách thức.

Được xuất bản lần đầu vào Thứ Ba, ngày 25 tháng 3 năm 2025