Sử dụng ‘Xác suất’ làm Chỉ số Phát hiện Deepfake

Nếu video và âm thanh được tạo bởi AI trở nên đủ tốt, các công cụ phát hiện deepfake dựa trên các tín hiệu truyền thống như hiện象 hình ảnh sẽ không còn hoạt động. Nhưng xét đến việc con người thường tuân theo các hành vi dự đoán, có lẽ ‘xác suất’ có thể được áp dụng sâu hơn như một tín hiệu cho việc xác định liệu một video hoặc tin đồn có khả năng đúng hay không.

Ý kiến Vào đầu những năm 1990, cựu cầu thủ bóng đá và bình luận viên thể thao truyền hình Anh David Icke đã tiết lộ một cách bất ngờ trên một chương trình trò chuyện rằng anh là ‘con của Chúa’ – một tiết lộ kỳ lạ và không ngờ, điều này sẽ phát triển thành một lý thuyết âm mưu phức tạp và phức tạp về một tổ chức bí mật và mạnh mẽ của ‘người thằn lằn’.

Với việc áp dụng internet vẫn còn vài năm nữa, và sự ra đời của truyền thông xã hội còn xa hơn, sự không tương thích hoàn toàn giữa danh tiếng của Icke và bản chất của những hiểu biết mới của anh đã có tác động sâu sắc đến công chúng Anh – không chỉ vì sự thiếu hoàn toàn về ngữ cảnh, hoặc bất kỳ loại chuẩn bị nào cho bước ngoặt lớn này, từ một nhân vật thể thao nổi tiếng và được thành lập.

Hơn hai mươi năm sau, một loại sốc xã hội tương tự nhưng tối hơn nhiều đã xảy ra, khi người dẫn chương trình truyền hình và nhà từ thiện Jimmy Savile đã bị phát hiện sau khi qua đời là một kẻ lạm dụng tình dục suốt đời đã sử dụng hình ảnh công chúng trong sạch của mình để tạo điều kiện cho các tội ác của mình.

Cuộc điều tra Operation Yewtree của cảnh sát sẽ đào sâu và phát hiện nhiều nhân vật nổi tiếng Anh khác có lịch sử lạm dụng tình dục; sau đó, việc truy tố Harvey Weinstein sẽ dẫn đến việc phát hiện ra những kẻ lạm dụng tình dục nổi tiếng ở Mỹ, phát triển thành phong trào #metoo, và trở thành một phần không thể thiếu trong văn hóa Mỹ trong các chương trình như The Morning Show. Tin tức ‘sốc’ dường như đang phát triển một khuôn mẫu mới và đột ngột – một khuôn mẫu cuối cùng sẽ được áp dụng bởi những kẻ tấn công deepfake.

Kết thúc Phát hiện Deepfake ‘Truyền thống’?

Dù cho truyền thông xã hội và AI đã tồn tại vào đầu những năm 1990, không có hệ thống dự đoán nào trên thế giới có thể dự đoán được tiết lộ của Icke trên chương trình trò chuyện, điều mà tôi nhớ rõ, không hề được dự đoán trong những năm dẫn đến sự kiện.

Tuy nhiên, nếu AI đã tồn tại, có thể nó sẽ mất một thời gian để thuyết phục khán giả rộng lớn hơn rằng những tuyên bố của Icke không phải là sản phẩm của Google Veo 3, hoặc một trong những khuôn khổ deepfake audio/video siêu thực mới.

Chỉ trong 6-12 tháng qua, các phương pháp deepfake của AI đã trở nên đủ hiệu quả để thực hiện năm dự đoán của truyền thông về can thiệp bầu cử deepfake, và đủ khả năng để tạo ra đánh dấu uy tín nhanh mà không đúng, nhưng khó xóa bỏ trong một nền văn hóa ngày càng dễ tin.

Cho đến nay, đầu ra video của AI thường không đạt được sự hiện thực thực sự, bị giới hạn bởi rào cản kỹ thuật và ngày càng bị phân cực bởi khoảng cách ngày càng rộng giữa các mô hình phương Tây hạn chế và các bản phát hành mã nguồn mở không kiểm duyệt của Trung Quốc^**.

Tuy nhiên, tôi nhận thấy ngày càng nhiều trong văn học nghiên cứu một sự nhượng bộ tiềm ẩn của cuộc chiến tranh lạnh này, ví dụ trong bài báo mới Hiệu suất suy giảm trong Phát hiện Deepfake^†:

‘[Chúng tôi] giả định rằng video deepfake sẽ tiếp tục chứa các tính năng có thể học được mà đáng tin cậy phân biệt chúng với video thực.

‘Khi khả năng của AI tạo sinh tiếp tục phát triển nhanh chóng, giả định này có thể sẽ không còn đúng.

‘Trong một kịch bản như vậy, phương pháp watermarking và theo dõi nguồn gốc sẽ cung cấp giải pháp duy nhất để duy trì niềm tin vào phương tiện truyền thông kỹ thuật số.’

Tuy nhiên, cùng một bài báo đó cũng thừa nhận rằng các giải pháp dựa trên nguồn gốc như Sáng kiến Tính xác thực Nội dung (và rất nhiều nhỏ hơn nghiên cứu cung cấp trong 7-8 năm qua) đòi hỏi sự áp dụng rộng rãi đến mức không thực tế; và bài báo kết thúc với một lưu ý chung về việc rút lui, nếu không phải là thất bại.

Nếu các phương pháp phát hiện deepfake dựa trên audio-visual bị vượt qua bởi AI tạo sinh, và việc áp dụng toàn cầu một hệ thống watermarking hoặc theo dõi nguồn gốc xâm phạm gặp phải các rào cản hậu cần đa dạng, thì đặc điểm trung tâm chung nào có thể thay thế chúng như các chỉ số của đầu ra có khả năng bị giả mạo? Hay chúng ta phải tự hài lòng với một thế giới nơi tất cả phương tiện truyền thông đều bị nghi ngờ, và Liar’s Dividend chiếm ưu thế?

Đồ thị Kiến thức

Dường như đã đến lúc tận dụng xác suất và khả năng của ‘sự kiện được báo cáo’ như một đặc điểm tín hiệu trong phát hiện deepfake. Hơn nữa, vì các hệ thống AI tạo sinh video và audio đang hội tụ ngày càng nhiều, có thể cũng là lúc để các lĩnh vực nghiên cứu riêng biệt về ‘tin giả’ (như một sự kiện tường thuật dựa trên văn bản) và hình ảnh/video giả hội tụ tương tự.

Một xác suất chỉ số deepfake không giống như RAG-aided xác minh事 thực, nơi một mô hình AI có thể đưa ra kết quả web hiện tại để có kiến thức về các sự kiện xảy ra sau ngày cắt của nó, và/hoặc để củng cố các tuyên bố của nó.

Thay vào đó, nó sẽ thực hiện các dự đoán dựa trên các xu hướng thống kê chỉ định chung, được rút ra từ các mẫu lịch sử phù hợp với một truy vấn hiện tại.

Trong ý nghĩa này, một phương pháp xác suất gần giống với phân tích thống kê hơn là các phương pháp hiện đại hơn trong hiện trường học máy hiện tại.

Mặc dù trước đây bị che khuất bởi các phương pháp hiện đại hơn thuộc thời đại Transformers, đồ thị kiến thức đang có một sự sự trở lại trong không gian Doanh nghiệp, và dường như được thích nghi với việc triển khai các ‘xác suất’ chỉ số trong phát hiện deepfake.

Một đồ thị kiến thức đơn giản hóa, minh họa cách người, nơi, tác phẩm nghệ thuật và sự kiện có thể được liên kết thông qua các mối quan hệ được dán nhãn, cho phép máy tính suy luận về các thực thể thế giới thực và các kết nối của chúng. Nguồn

Một đồ thị kiến thức là một cách tổ chức thông tin bằng cách ánh xạ các thực thể thế giới thực như người, công ty, sự kiện hoặc ý tưởng vào một mạng lưới các sự kiện được kết nối.

Mỗi thực thể con là một nút, và các liên kết giữa chúng (cạnh) mô tả cách chúng liên quan. Ví dụ, ‘Microsoft’ (một nút) có thể được liên kết với ‘OpenAI’ (một nút khác) bởi một cạnh cho biết ‘là khách hàng của’. Những kết nối này thường được lưu trữ trong các cơ sở dữ liệu đồ thị và tuân theo một cấu trúc chủ đề-predicat-đối tượng, như ‘Microsoft là khách hàng của OpenAI’.

Bộ nhớ Durable

Một nghiên cứu của Trung Quốc từ tháng 9 năm nay đã đề xuất một phương pháp không cần đào tạo sử dụng lý luận đồ thị để phát hiện sự không nhất quán tinh vi trong deepfake đa phương tiện.

Thay vì tạo ra các lý do hoặc tinh chỉnh các mô hình lớn, hệ thống này sẽ thu thập các cặp hình ảnh-văn bản, xây dựng một đồ thị tương tự và đánh giá các kết nối, để thu thập các ví dụ liên quan nhất và hướng dẫn phán quyết của mô hình mà không cần đào tạo mới:

Tổng quan về khuôn khổ GASP-ICL, cải thiện phát hiện deepfake bằng cách kết hợp lựa chọn mẫu đồ thị với học trong ngữ cảnh, cho phép một mô hình tầm nhìn-ngôn ngữ đóng băng phân loại các cặp hình ảnh/văn bản là thực hoặc giả, mà không cần đào tạo hoặc tinh chỉnh.  Source

Đây có lẽ là công việc gần nhất, chắc chắn là đã vượt qua con đường của tôi, với một cách tiếp cận ‘thông tin’ và nhận thức lịch sử để đánh giá và xác minh đầu ra phương tiện truyền thông mới. Đối với hầu hết các phương pháp tầm nhìn máy tính, chúng tiếp tục phân tích hình ảnh (bao gồm cả khung của video và các bất thường thời gian bao gồm nhiều khung) trong khi các khuôn khổ phát hiện ‘tin giả’ tiếp tục nhấn mạnh dữ liệu dựa trên văn bản, ngay cả trong các dự án đa phương tiện.

Tính năng Tăng tiến

Thách thức của một hệ thống dự đoán như vậy là phạm vi giám sát có thể cần thiết để làm cho cách tiếp cận này hoạt động đầy đủ – ít nhất là ngoài việc phân tích các nhân vật công chúng và người nổi tiếng, những người đã có dữ liệu có sẵn miễn phí.

Có lẽ dòng nghiên cứu hiện tại tương tự nhất là lĩnh vực tội phạm trước, gắn nhãn cho các tín hiệu đa phương tiện thông minh khác nhau là ‘nghi ngờ’, và trình bày mình như một con bùn AI đáng sợ trong các lần ra mắt như Jonathan Nolan’s Person of Interest (2011-2016), và Steven Spielberg’s Minority Report (2002).

Một hệ thống giám sát Person of Interest-style sẽ tạo ra kết quả tối ưu, nhưng hiện tại, văn hóa phương Tây khó có thể chấp nhận mức độ xâm phạm cá nhân mà các mạng nội bộ của Trung Quốc áp đặt lên công dân của họ.

Do đó, đối với các tin giả về không phải người nổi tiếng, chỉ các cơ quan chính phủ như cảnh sát (cũng như các văn phòng đăng ký sinh và tử, và các văn phòng thuế) mới có đủ thông tin lịch sử liên quan để thông báo về các xác suất trong một quy trình dựa trên đồ thị; và ngay cả họ cũng cần có ý chí, khả năng, pháp luật và nguồn lực theo kiểu CCCP để bao gồm cả công dân trung bình trong phạm vi và phân tích của họ (tức là, ngoài các điểm dữ liệu bắt buộc nhưng thông thường như số hộ chiếu và đăng ký xe).

Đánh giá Xác suất

Dường như có khả năng hiệu quả của một hệ thống như vậy sẽ bị giới hạn ở các trường hợp sử dụng hiện tại (hiện tại) cho nội dung deepfake: destabilization (deepfake do nhà nước hậu thuẫn); deepfake người nổi tiếng và ‘không biết’ khiêu dâm (cả hai đều có thể được coi là ác ý, mặc dù trường hợp sau thường thu hút sự quan tâm của truyền thông sâu sắc hơn); giả mạo (bao gồm deepfake audio/video được thiết kế để thực hiện ‘cướp biển danh tính’); và đánh giá nhân vật chính trị.

Một hệ thống dựa trên kiến thức sẽ cần một thang đo xác suất cho nhiều sự kiện có thể xảy ra. Ở một đầu của phổ, những khiếm khuyết của con người như quản lý tài chính đáng ngờ, bất trung, nghiện, thiếu cẩn thận, v.v.; ở đầu kia… tiết lộ rằng bạn là con của Chúa trên một chương trình trò chuyện truyền hình trực tiếp (hoặc các sự kiện có quy mô và tác động tương tự).

Ngay cả trong trường hợp sau, các yếu tố lịch sử cá nhân cho bất kỳ cá nhân nào sẽ ảnh hưởng đến kết quả xác suất: một nhân vật chính trị nổi bật đã công khai mập mờ trong các vấn đề gây tranh cãi (như tính xác thực của việc đổ bộ mặt trăng vào những năm 1960/70) để giành được vốn với một cử tri ngày càng ‘thông tin thay thế’ có thể sẽ có trạng thái wildcard bổ sung trong các quy trình xác minh so với những người đồng nghiệp khiêm tốn hơn của họ.

Trong trường hợp của deepfake người nổi tiếng, có đủ ngữ cảnh thực tế (tức là, vụ rò rỉ ảnh người nổi tiếng năm 2012, trong số các sự kiện khác – khá hiếm) để tạo ra một Liar’s Dividend vừa phải, trong một số ngữ cảnh; nhưng vì những sự kiện ngoại lệ này có xu hướng hoạt động như ngoại lệ chứng minh quy tắc, hầu hết các video deepfake người nổi tiếng hiện tại sẽ được coi là ‘không thể xảy ra’ (mặc dù điều này không giải quyết vấn đề về việc chiếm dụng danh tính của mọi người cho những mục đích như vậy).

Về việc phá hoại quốc gia, có một lượng đáng kể dữ liệu thống kê có thể giúp đánh giá xác suất của ‘báo cáo thảm họa’. Ngay cả trong lịch sử cổ đại, những sự kiện ‘bất ngờ’ như vụ phun trào của núi lửa Vesuvius không xác định được vào năm 79 sau Công nguyên đã được báo trước, nếu bạn đã chú ý đủ; và ngoài sự sẵn có của nhiều nguồn cấp dữ liệu do chính phủ và các tổ chức phi chính phủ hỗ trợ, khả năng ngày càng tăng của AI trong việc trích xuất cấu trúc từ dữ liệu thô có thể cung cấp thêm ngữ cảnh lịch sử cho việc đánh giá xác suất.

Kết luận

Ngay cả một hệ thống dự đoán được triển khai tốt như vậy cũng không thể tính đến sự ngẫu nhiên, các hành động của Thượng đế, các sự kiện bất thường, hoặc các sự kiện ác ý được tạo ra ngoài tầm kiểm soát của mọi người.

Hơn nữa, lượng dữ liệu khổng lồ và sâu sắc cần thiết để cung cấp phạm vi bao gồm cả những người không nổi tiếng sẽ là một điểm khó khăn về chính trị – ít nhất là trong thời điểm hiện tại.

Tuy nhiên, các lựa chọn dường như đang thu hẹp; phân tích dựa trên tầm nhìn đang đứng trước nguy cơ thất bại trước AI tạo sinh được cải tiến, trong khi các kế hoạch xác minh và theo dõi nguồn gốc mang theo một gánh nặng kỹ thuật, và ma sát chống lại việc áp dụng. Điều này làm cho các giải pháp như Sáng kiến Tính xác thực Nội dung, và hệ thống bản quyền khuôn mặt Metaphysic.ai không được thực hiện Metaphysic Pro, trở nên khó khăn khi phổ biến.

Trong sử dụng rộng rãi, các hệ thống dựa trên RAG chỉ có thể xác định xem một nguồn có thẩm quyền có hỗ trợ một tuyên bố không được xác minh hay không; và vì nhiều câu chuyện tin tức lớn (đúng) xuất hiện mà không có ngữ cảnh trước, sự thiếu chứng thực từ các nguồn có thẩm quyền không nhất thiết có ý nghĩa.

Giá trị của chúng có thể được chứng minh lớn hơn nếu chúng có thể trở thành một phần của một hệ sinh thái dữ liệu lớn hơn liên quan đến điều mà hầu hết các hình thức AI hiện tại đều gặp khó khăn – ngữ cảnh lịch sử.

* Không nên nhầm lẫn với các lần ra mắt autoencoder đầu tiên vào năm 2017, cuối cùng sẽ bị thay thế bởi các phương pháp vượt trội.

^† https://arxiv.org/abs/2511.07009

^** Điều này thường có thể chạy tự do trên các máy tính gia đình mạnh hơn, thay vì chỉ có sẵn thông qua các API được kiểm soát như ChatGPT và loạt Veo.

^††† Bỏ qua các mục đích sử dụng giải trí hợp pháp, chẳng hạn như hiệu ứng hình ảnh chuyên nghiệp trong sản xuất phim và truyền hình.

Được xuất bản lần đầu vào thứ Năm, ngày 13 tháng 11 năm 2025