Góc nhìn Anderson
Kỹ Năng Phát Hiện Deepfake Tiềm Thức Của Chúng Ta Có Thể Đưa Đến Hệ Thống Tự Động Hóa Trong Tương Lai

Điểm chínhDữ liệu điện não đồ cho thấy tín hiệu thần kinh tiềm thức có thể phân biệt khuôn mặt…
Xem thêm
- Dữ liệu điện não đồ cho thấy tín hiệu thần kinh tiềm thức có thể phân biệt khuôn mặt thật và giả ngay cả khi người xem không nhận thức được một cách có ý thức.
- Nghiên cứu đề xuất huấn luyện các bộ phát hiện deepfake dựa trên hoạt động não bộ thay vì các đánh giá chủ quan của con người để đạt độ chính xác cao hơn.
- Những người tham gia đã nhận diện sai 69% khuôn mặt thật là giả, cho thấy sự thiếu tin cậy của nhận thức có ý thức trong việc phát hiện deepfake.
Nghiên cứu mới từ Úc gợi ý não bộ của chúng ta rất giỏi trong việc nhận ra các deepfake tinh vi, ngay cả khi về mặt ý thức chúng ta tin rằng những hình ảnh chúng ta nhìn thấy là thực.
Kết quả này còn ngụ ý về khả năng sử dụng phản ứng thần kinh của con người đối với các khuôn mặt deepfake (thay vì ý kiến của họ) để đào tạo các hệ thống phát hiện deepfake tự động. Những hệ thống này sẽ được đào tạo trên các đặc điểm deepfake của hình ảnh, không phải từ ước tính khả năng của chúng, mà từ các cơ chế nhận thức trực giác của chúng ta để nhận ra khuôn mặt.
‘Mặc dù não bộ có thể ‘nhận ra’ sự khác biệt giữa khuôn mặt thực và khuôn mặt trông như thật, người quan sát không thể phân biệt chúng một cách có ý thức. Phát hiện của chúng tôi về sự phân ly giữa phản ứng của não và hành vi có ý nghĩa đối với cách chúng ta nghiên cứu nhận thức khuôn mặt giả, các câu hỏi chúng ta đặt ra khi hỏi về nhận dạng hình ảnh giả và các cách có thể để chúng ta thiết lập các tiêu chuẩn bảo vệ chống lại việc lạm dụng hình ảnh giả.’
Kết quả này xuất hiện trong các vòng thử nghiệm được thiết kế để đánh giá cách con người phản ứng với hình ảnh giả, bao gồm cả hình ảnh khuôn mặt giả rõ ràng, xe hơi, không gian nội thất và khuôn mặt bị đảo ngược (tức là ngược chiều).

Các phiên bản và phương pháp khác nhau cho các thí nghiệm, trong đó có hai nhóm đối tượng thử nghiệm cần phân loại một hình ảnh được hiển thị ngắn gọn là ‘giả’ hoặc ‘thực’. Vòng đầu diễn ra trên Amazon Mechanical Turk với 200 tình nguyện viên; vòng thứ hai có ít tình nguyện viên hơn, làm bài kiểm tra khi được kết nối với máy EEG. Nguồn: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf












