Độ Chính Xác Phát Hiện Deepfake Giảm 49% Trong Một Năm Tiến Bộ Video AI

Tôi ghi nhận với sự quan tâm một bài báo mới do Ukraine dẫn đầu cho thấy thế hệ cũ hơn của các detector deepfake video hoạt động rất kém trên video genAI hiện đại nhất, bất kể các trình tạo này là mã nguồn mở, cài đặt AI nội bộ như Wan 2.2 của Alibaba hoặc Hunyuan Video; hoặc các mô hình chỉ có API, đóng nguồn như Grok Imagine hoặc Kling.

Nhấn để phát (NỘI DUNG ÂM THANH). Ba ví dụ từ danh mục ‘Direct to camera casual’ trong bộ dữ liệu DF26. Nguồn 

Vào năm 2024, một bài báo khác đã chứng minh rằng khả năng của con người trong việc phát hiện video AI là không cao hơn nhiều so với ngẫu nhiên, ở mức 57%. Điều mà công trình mới (có tiêu đề DF26: Chúng Ta Không Thể Phân Biệt Giả và Thật Nữa) bổ sung, là bằng chứng thực nghiệm cho thấy các bộ phát hiện deepfake tự động đã giảm đáng kể hiệu quả kể từ đó – từ 94% xuống 48%, khi đối mặt với các video genAI mới nhất.

Từ bộ dữ liệu mới được tạo cho công trình, các ví dụ về video được tạo từ hình ảnh sang video và từ văn bản sang video (bên dưới), so sánh với video thực ở bên trái. Tập hợp này tập trung vào các bố cục ‘thuyết phục’ và đáng tin cậy về đầu và vai, là một trong những lĩnh vực genAI đáng lo ngại nhất hiện nay. Nguồn

Sự suy giảm mạnh nhất trong các thử nghiệm thực hiện cho công trình này là mức giảm 49%. Vì chuẩn mốc trước đó xuất phát từ năm 2025, và công trình mới kiểm tra một loạt các mô hình video thế hệ 2026 mới nhất, con số này đại diện cho gần một năm suy giảm trong hiệu quả phát hiện video AI.

Chi tiết về các mô hình được sử dụng để tạo video mà các bộ phát hiện được kiểm tra.

Các mô hình thương mại đóng nguồn, không mở, được sử dụng để tạo ra đầu ra làm suy yếu các bộ phát hiện này là Grok 1.0; Kling 3.0; Veo 3.1; và Wan 2.6. Chỉ các ví dụ từ văn bản sang video được tạo cho những mô hình này, vì việc thử tạo từ hình ảnh sang video (I2V) thường kích hoạt bộ lọc liên quan đến ‘tạo deepfake’, hoặc sẽ vi phạm Điều khoản dịch vụ của nền tảng.

Nhìn Vào Mắt Tôi

Các bộ lọc này xuất hiện, có khả năng, vì các nhà nghiên cứu tập trung vào hình thức thuyết phục bằng video tiềm năng nhất và có thể nói là đen tối – các biến thể đa dạng của video ‘đầu và vai’ và ‘đầu nói’, trong đó người tham gia nói chuyện trực tiếp với máy quay, như trong các video của influencer trên YouTube và TikTok, hoặc trong bối cảnh báo cáo tin tức (bao gồm cả phỏng vấn qua kết nối vệ tinh, v.v.).

Các tác giả cho rằng những kịch bản này là mục tiêu chính cho hoạt động deepfake, không chỉ vì chúng đại diện cho các bối cảnh ‘influencer’ và các bối cảnh ‘thông tin’ khác – những bối cảnh mà có giả định về một mối quan hệ tin cậy trước đó, và do đó mối quan hệ này có tiềm năng lạm dụng lớn (tự nhiên điều này cũng áp dụng ít nhất tương đương cho cuộc gọi video deepfake, mặc dù các nhà nghiên cứu không đề cập đến điều này).

Từ đỉnh cao của thời đại deepfake dựa trên autoencoder, việc thao túng footage thực của Richard Nixon đã có thể mô phỏng lời công bố của ông về cái chết của các phi hành gia Apollo 9 năm 1969 – một sự kiện chưa bao giờ xảy ra, nhưng kịch bản thực tế đã được dùng để áp đặt giọng nói và chuyển động môi deepfake.

Ngoài việc tập trung vào kịch bản influencer này, chuẩn mốc mới – và các video được tạo cho nó – tập trung vào việc đánh giá toàn bộ khung hình của video, trái ngược với các chiến lược phát hiện deepfake lịch sử.

Các chiến lược cũ hơn thực hiện việc thao túng khuôn mặt hoặc biểu cảm, hoặc thay thế khuôn mặt (hoặc tối đa là toàn bộ đầu) trong các video thực – thực sự là cách duy nhất hợp lý, cho đến khi các mô hình dựa trên khuếch tán trở nên đủ hiệu quả để thay thế chúng trong 18-24 tháng qua.

Quay Mặt Đi

Đó không còn là cách thực hiện nữa; phương pháp dựa trên autoencoder cũ hơn có nguồn gốc từ thời điểm deepfake xuất hiện lần đầu vào cuối năm 2017; và kỹ thuật này, chỉ thay thế vùng trong các đường viền bên ngoài của khuôn mặt, đã được khai thác hoàn toàn đến năm 2022.

Vị trí quan trọng nhất cho hoạt động deepfake, 2017-2023 – nhưng đối với thế hệ mới của các nền tảng video genAI, không còn ranh giới như vậy để tập trung sự chú ý. Nguồn

Tuy nhiên, vì lĩnh vực nghiên cứu khoa học yêu thích một hằng số lâu dài – nơi mục tiêu được cố định, và nơi một loạt các phương pháp đang phát triển có thể được áp dụng trong nhiều năm/thập kỷ – các phương pháp phát hiện deepfake dựa trên ‘thay thế/sửa đổi mặt trong’ đã tồn tại trong tài liệu, và trong các sản phẩm phát hiện thương mại, xa hơn thời hạn hiệu lực của công nghệ nền tảng được nhắm tới.

Ngoài ba mô hình đóng nguồn được thử nghiệm cho công trình mới, ba mô hình mã nguồn mở rất mạnh, có thể sử dụng cho người tiêu dùng cũng đã được thử: Wan 2.2 A14B; HunyuanVideo 1.5; và LTX 2.3, gần đây đã gây ấn tượng mạnh trong cộng đồng FOSS genAI. Dòng LTX cũng có khả năng tạo giọng nói:

Nhấn để phát: các thí nghiệm với series LTX tại r/stablediffusion, cộng đồng chỉ làm việc với các mô hình FOSS. Nguồn 

Thiết kế Dữ liệu

Các tác giả dự định bộ dữ liệu mới của họ, DF26, như một ‘bộ dữ liệu giữ lại’ để đánh giá tài liệu chưa từng thấy. Bộ sưu tập bao gồm 2.691 video trong ba kịch bản nói trước công chúng: phát biểu trực tiếp trước máy quay hoặc nói chuyện thoải mái; tuyên bố chính thức; và phỏng vấn trong studio.

Tất cả các đoạn video do AI tạo ra dựa trên 271 đoạn clip thực tế được chọn lọc từ OpenVid; TalkingCelebs; và MAVOS-DD.

Mẫu từ bộ sưu tập OpenVid, từ đó 271 video thực tế được lấy làm nguyên liệu gốc cho các video do AI tạo trong bộ sưu tập DF26. Hai bộ dữ liệu khác cũng đã đóng góp vào thành phần không giả của DF26. Nguồn

271 video thực tế đã được sử dụng để tạo các video AI bằng cách suy ra các lời nhắc cảnh phù hợp từ các khung hình của chúng, sau đó đưa các lời nhắc – và khung hình đầu tiên nếu được hỗ trợ – vào bảy mô hình tạo video, để tạo tổng cộng 2.420 đoạn clip tổng hợp.

Các tác giả đã đảm bảo rằng không có khung hình thực tế nào có lớp phủ văn bản (như thông báo ai đang nói, v.v.) được cho phép vào quy trình tạo, vì chúng có thể khuyến khích đường tắt và giả định. Các đoạn clip ứng cử được đánh giá bởi Gemini 2.5.

Thêm vào đó, các đoạn có hơn một khuôn mặt đã bị loại bỏ, để thực thi cài đặt ‘người nói duy nhất’.

Nhấn để phát [NO SOUND]. Từ bộ dữ liệu liên quan đến bài báo, các ví dụ về các thế hệ video hiện đại nhất trên bảy mô hình sinh tạo mới nhất và mạnh mẽ nhất, cả mã nguồn mở và đóng. Các mô hình được sử dụng cho bộ dữ liệu bao gồm cả những mô hình có khả năng tạo giọng nói (xem các ví dụ ở đầu bài). Nguồn

Các nhà nghiên cứu đã sử dụng nền tảng thương mại phổ biến Higgsfield AI, cung cấp đa dạng các mô hình đóng và mở, với các mức độ kiểm soát và rào chắn khác nhau.

Với một NVIDIA H200 (141GB VRAM) làm GPU cơ sở cho cụm nghiên cứu nội bộ, mất khoảng 440 giờ GPU để tạo ra 1.626 video cho bộ sưu tập.

Ngoài việc đảm bảo không có văn bản nào xuất hiện trong kết quả, cũng cần làm mờ hoặc nói chung tránh việc hiển thị dấu nước AI, vì điều này cũng sẽ là một ‘đường tắt’ tiềm năng cho người đánh giá hoặc hệ thống đánh giá.

Kiểm tra

Thước đo chính được sử dụng cho vòng thử nghiệm cuối cùng là Diện tích Dưới Đường cong Nhận dạng Nhận dạng (AUC / AUROC), với Tỷ lệ Lỗi Bằng nhau (EER) làm thước đo bổ trợ.

Các bộ phát hiện dựa trên khung hình (đánh giá các khung hình tĩnh độc lập) đã được thử trên 32 khung hình cách đều nhau trong mỗi video, sau đó trung bình các điểm số thành một kết quả duy nhất. Các bộ phát hiện thời gian (có thể sử dụng thông tin từ các khung liên tiếp) thay vào đó phân tích toàn bộ chuỗi video.

Kết quả cho các bộ phát hiện thời gian DFD-FCG và PwTF-DVD được thấy bên dưới, cùng với kết quả cho ForAda; Effort; FSFM; GenD-CLIP và GenD-DINO; và DFD-HR. Tất cả đều được huấn luyện trên bộ dữ liệu lâu đời FaceForensics++.

Kết quả thử nghiệm so sánh các bộ phát hiện deepfake trên CelebDF++ và DF26. Tất cả các bộ phát hiện được huấn luyện trên FaceForensics++, với AUROC cao hơn và EER thấp hơn cho thấy hiệu suất tốt hơn.

Các tác giả lưu ý rằng hầu hết các bộ phát hiện hoạt động tốt trên Celeb-DF++ (CDFv3), nhưng giảm mạnh trên bộ sưu tập DF26 mới đầy thách thức hơn.

‘[Multiple] các bộ phát hiện hiện đại đạt hiệu suất mạnh trên chuẩn CelebDF++ [16] (CDFv3), với các phương pháp thời gian đạt AUROC 94,3 và 92,3.

‘Tuy nhiên, hiệu suất của chúng giảm đáng kể trên DF26, xuống còn 48.2 và 61.6 AUROC, tương ứng.

‘Hầu hết các phương pháp giảm đáng kể, chỉ còn gần mức ngẫu nhiên; AUROC cao nhất là 69.7 đạt được bởi GenD-PE.

‘Điều này cho thấy DF26 là một bộ chuẩn thách thức hơn cho các bộ phát hiện hiện đại.’

Họ nhận thấy rằng video dạng hình ảnh‑đến‑video khó phát hiện hơn so với văn bản‑đến‑video, đối với cả người và các bộ phát hiện tự động, trong đó PwTF-DVD đạt kết quả tốt nhất trên nội dung I2V, còn GenD-PE dẫn đầu trên T2V.

Hiệu suất thay đổi mạnh mẽ tùy thuộc vào trình tạo video giả nào đã tạo ra video, cho thấy các bộ phát hiện thường học các dấu vết đặc thù của trình tạo hơn là một dấu hiệu chung của video tổng hợp. Ví dụ, PwTF-DVD đạt 92.9 AUROC trên đầu ra văn bản‑đến‑video của Wan 2.2, nhưng giảm xuống mức ngẫu nhiên trên HunyuanVideo 1.5 – mặc dù cả hai đều thuộc cùng một thế hệ hiện đại:

Hiệu suất bộ phát hiện trên các trình tạo video thương mại và mã nguồn mở. Sự chênh lệch lớn giữa các cột cho thấy độ tin cậy của việc phát hiện phụ thuộc mạnh vào mô hình tạo video, trong đó GenD-PE đạt AUROC trung bình tổng thể cao nhất.

Dưới đây chúng ta thấy rằng việc huấn luyện lại GenD-PE trên dữ liệu DF26 mới đã cải thiện đáng kể khả năng phát hiện video từ các trình tạo mà nó chưa từng gặp trong quá trình huấn luyện:

Kết quả huấn luyện lại cho GenD-PE trên các trình tạo video chưa thấy. Việc huấn luyện trên dữ liệu DF26 mới thường cải thiện hiệu suất qua các trình tạo so với việc huấn luyện ban đầu trên FaceForensics++.

Việc huấn luyện trên HunyuanVideo 1.5 đã nâng AUROC lên ít nhất 93.1 trên Grok Imagine 1.0, Veo 3.1 và Wan 2.6, hỗ trợ lập luận của bài báo rằng các bộ phát hiện chỉ được huấn luyện trên các bộ dữ liệu cũ như FaceForensics++ không phù hợp với video sinh tổng hợp hiện nay.

Có lẽ dự đoán được, hai bộ phát hiện thời gian đã dễ dàng hơn rất nhiều với video mã nguồn mở so với các đoạn video từ mô hình thương mại. DFD‑FCG giảm từ 57.4 AUROC trên tài liệu mã nguồn mở xuống 34.5 trên video đóng nguồn; trong khi PwTF‑DVD giảm từ 70.5 xuống 48.3:

Kết quả so sánh hai bộ phát hiện thời gian theo nguồn trình tạo và kịch bản nói. Cả hai đều hoạt động kém đáng kể trên video đóng nguồn, trong khi sự khác biệt giữa các loại cảnh ít hơn.

Tuy nhiên, bài báo không khẳng định rằng các mô hình thương mại đơn giản là khó phát hiện hơn, vì sự khác biệt về họ mô hình, xử lý hậu kỳ và chất lượng hình ảnh cũng có thể là các yếu tố.

Loại cảnh ảnh hưởng ít hơn: DFD‑FCG vẫn gần mức ngẫu nhiên trên các đoạn video trực tiếp trước camera, tuyên bố chính thức và phỏng vấn trong studio, trong khi PwTF‑DVD đạt kết quả tốt nhất trên các tuyên bố chính thức. Theo bài báo, trình tạo video dường như quan trọng hơn phong cách trình bày.

Một nghiên cứu người dùng cũng được thực hiện để xem liệu con người có gặp khó khăn với DF26 giống như các bộ phát hiện tự động hay không. Trong 232 phiên gán nhãn, người tham gia đánh giá các đoạn video ngắn từ DF26, CelebDF++ và DeepSpeak v2 là thật hay giả, mà không được thông báo trước số lượng mẫu của mỗi lớp.

Độ chính xác của con người trên DF26, CelebDF++ và DeepSpeak v2. Người tham gia nhận diện video thật với tỷ lệ tương tự trên cả ba bộ dữ liệu, trong khi độ chính xác trên video giả DF26 gần mức ngẫu nhiên.

Hiệu suất trên video thật tương đồng trên cả ba bộ dữ liệu, lần lượt là 76.0% cho DF26, 75.5% cho CelebDF++ và 72.8% cho DeepSpeak v2. Sự khác biệt xuất hiện ở video giả, khi độ chính xác giảm xuống 52.6% trên DF26, so với 74.5% và 69.8% trên hai bộ dữ liệu cũ hơn.

Do đó, theo bài báo, mặc dù người tham gia không bị nhầm lẫn chung với DF26, họ vẫn gặp khó khăn trong việc tìm các bằng chứng cụ thể có thể nhìn thấy cho thấy video tổng hợp của nó là giả.

Kết luận

Mặc dù đã báo cáo mức tăng 16 lần tần suất deepfake trong hai năm qua, thực tế về các deepfake ác ý vẫn hầu như không xuất hiện trong trải nghiệm chung của chúng ta, trừ khi chúng ta tự mình trở thành mục tiêu của chúng.

Trong trường hợp nạn nhân của các deepfake mang tính tình dục, điều này hoàn toàn có thể hiểu được – nhưng vì deepfake hiện nay đã tác động ngày càng tăng đến tội gian lận, có thể hữu ích nếu nhiều tài liệu đó được chia sẻ công khai, để bối cảnh của chúng ta được cập nhật từ ‘kỷ nguyên vàng’ của deepfake autoencoder sang thời đại sâu sắc và lừa dối hơn nhiều của deepfake dựa trên diffusion.

Tất nhiên, hầu hết tài liệu liên quan đến đầu ra từ các mô hình trong nghiên cứu mới, cũng như các mô hình khác, xuất hiện trên các nền tảng truyền thông xã hội mà người quản lý hoặc không thể phân biệt AI với thực, hoặc chỉ không quan tâm.

Một chỉ số bổ sung mà chúng ta có thể áp dụng cho các video mà chúng ta có thể nghi ngờ là độ tin cậy hợp lý – nhưng khả năng này thay đổi quá lớn giữa các cá nhân nên không đáng tin cậy. Do đó có thể trong một giai đoạn chuyển tiếp, khi chúng ta làm quen với tác động của công nghệ này và khả năng ngày càng tăng của nó, chúng ta chỉ cần hoãn phán đoán.

Được xuất bản lần đầu vào Thứ Hai, ngày 14 tháng 9 năm 2026