Używanie „prawdopodobieństwa” jako metryki wykrywania deepfake’ów

Jeśli AI-generowane wideo i audio staną się wystarczająco dobre, wykrywacze deepfake’ów oparte na artefaktach wizualnych lub innych tradycyjnych sygnałach przestaną działać. Ale biorąc pod uwagę, jak rzadko ludzie odbiegają od przewidywalnego zachowania, być może „prawdopodobieństwo” mogłoby zostać przyjęte jako sygnał, czy wideo lub plotka medialna jest prawdopodobnie prawdziwa.

Opinia Na początku lat 90. szanowany były brytyjski piłkarz i komentator sportowy David Icke przy okazji ujawnił w programie rozrywkowym, że jest „synem Boga” – dziwacznym i nieoczekiwanym ujawnieniem, które w ciągu następnych dekad rozwinęło się w trwałą i rozbudowaną teorię spiskową o tajemniczej i potężnej globalnej kabalce „ludzi-jaszczurów”.

Z przyjęciem internetu wciąż kilka lat w przyszłości, a pojawieniem się mediów społecznościowych jeszcze dalej w przyszłości, ogromna dyssonans między sławą Icke’a a naturą jego nowych spostrzeżeń miała głęboki wpływ na brytyjską publiczność – nie tylko z powodu całkowitego braku kontekstu lub jakiegokolwiek rodzaju przygotowania do tego ogromnego zwrotu, od znanej i ugruntowanej osobowości sportowej.

Ponad dwadzieścia lat później, podobna i znacznie ciemniejsza odsłona tego szoku społecznego wystąpiła, gdy ukochany działacz charytatywny i prezenter telewizji dla dzieci Jimmy Savile został pośmiertnie uznany za seryjnego i pożądliwego sprawcę przestępstw na tle seksualnym przez całe życie, który wykorzystał swój niewinny publiczny wizerunek, aby ułatwić swoje zbrodnie.

Następne śledztwo policyjne Operation Yewtree ujawniło wielu więcej brytyjskich celebrytów z długimi historiami przestępstw na tle seksualnym; później proces Harveya Weinsteina doprowadził do podobnego odkrycia sprawców przestępstw na tle seksualnym wśród celebrytów w USA, rozwijając się w ruch #metoo i trwale wpisując się w amerykańską kulturę w programach takich jak The Morning Show. „Szokujące” wiadomości zdawały się rozwijać nowy i nagły szablon – jeden, który ostatecznie zostanie przyjęty przez atakujących deepfake’ami.

Koniec „tradycyjnego” wykrywania deepfake’ów?

Nawet gdyby media społecznościowe i AI były dostępne w początku lat 90., żaden system predykcyjny na świecie nie mógłby przewidzieć ujawnień Icke’a w programie rozrywkowym, które (jak dobrze pamiętam) nie były w żaden sposób zapowiedziane w latach poprzedzających to wydarzenie.

Ale gdyby AI były dostępne, mogło to potrwać jakiś czas, aby przekonać szerszą publiczność, że deklaracje Icke’a nie były produktem Google Veo 3 lub innego nowego rodzaju hiper-realnych ram audio/wideo deepfake.

To dopiero w ciągu ostatnich 6-12 miesięcy, że metody AI deepfake stały się wystarczająco skuteczne, aby spełnić lata medialnych przepowiedni o deepfake’ach w wyborach, i zdolne do generowania rodzaju szybkiego zniszczenia reputacji, które jest fałszywe, ale trudne do wyeliminowania w coraz bardziej naiwnym świecie.

Do tej pory, AI wideo zwykle nie osiąga prawdziwego realizmu, ograniczone przez techniczne przeszkody i coraz bardziej spolaryzowane przez rosnącą lukę między restrykcyjnymi modelami zachodnimi a chińskimi otwartymi wydaniami ^**.

Jednak zauważam coraz częściej w literaturze badawczej, że zbliża się koncesja tej zimnej wojny, na przykład w nowym artykule Performance Decay in Deepfake Detection^†:

‘[Przyjmujemy, że deepfake wideo będzie nadal zawierać funkcje, które można nauczyć maszyn, które niezawodnie odróżniają je od prawdziwych wideo. W miarę jak możliwości generatywnego AI będą się szybko rozwijać, to założenie może się rozpaść.

‘W takim scenariuszu, znakowanie wodne i inne metody śledzenia pochodzenia będą oferować jedyną możliwość utrzymania zaufania do mediów cyfrowych.’

Jednak ten sam artykuł uznaje, że rozwiązania oparte na pochodzeniu, takie jak inicjatywa Content Authenticity Initiative (i wiele mniejszych badań ofert z ostatnich 7-8 lat) wymagają tak szerokiej akceptacji, aby były niewiarygodne; i artykuł kończy się na ogólnym tonie odwrotu, jeśli nie porażki.

Jeśli metody wykrywania deepfake’ów oparte na audio-wizualnych danych zostaną przewyższone przez generatywne AI, a globalna akceptacja inwazyjnego systemu znakowania wodnego lub śledzenia pochodzenia upadnie na różnorodnych logistycznych przeszkodach, jaki wspólny centralny element mógłby zastąpić je jako wskaźniki potencjalnie sfałszowanych danych? Czy musimy się poddać światu, w którym wszystkie media są wątpliwe, a Liar’s Dividend przeważa?

Graphy wiedzy

Wygląda na to, że czas, aby głębiej wykorzystać prawdopodobieństwo i prawdopodobieństwo „zgłoszonych zdarzeń” jako charakterystyczny sygnał w wykrywaniu deepfake’ów. Ponadto, ponieważ systemy generatywne AI wideo i audio coraz bardziej się zbiegają, może być również czas, aby oddzielne nurty badań nad „fałszywymi wiadomościami” (jako zdarzeniem narracyjnym opartym na tekście) i fałszywymi obrazami/wideo również zbiegły się.

Prawdopodobieństwo metryka deepfake nie jest tym samym, co RAG-pomagane weryfikacja faktów, gdzie model AI może przywołać bieżące wyniki wyszukiwania, aby uzyskać wiedzę o zdarzeniach, które występują po jego dacie granicznej, i/lub potwierdzić swoje twierdzenia.

Raczej, wykonywałby on przewidywania oparte na ogólnie wskazujących trendach statystycznych, pochodzących z historycznych wzorców, które są zgodne z bieżącym zapytaniem.

W tym sensie, metoda prawdopodobieństwa jest bliższa analizie statystycznej niż nowoczesnym wątkom w bieżącej scenie machine learningu.

Chociaż wcześniej przesłonięte przez bardziej nowoczesne podejścia z epoki Transformerów, graphy wiedzy robią coś w rodzaju powrotu w przestrzeni Enterprise, i wydają się dostosowane do potencjalnego wdrożenia „prawdopodobieństwa” metryk w wykrywaniu deepfake’ów.

Uproszczony graf wiedzy ilustrujący, jak ludzie, miejsca, dzieła sztuki i wydarzenia mogą być połączone za pomocą oznaczonych relacji, umożliwiając maszynom rozumowanie nad rzeczywistymi encjami i ich połączeniami. Źródło

Graf wiedzy jest sposobem organizowania informacji poprzez mapowanie rzeczywistych rzeczy, takich jak ludzie, firmy, wydarzenia lub idee, w sieć połączonych faktów.

Każda pod-encja jest węzłem, a linki między nimi (krawędzie) opisują, jak się ze sobą wiążą. Na przykład „Microsoft (MSFT ) ” (węzeł) może być połączony z „OpenAI” (innym węzłem) krawędzią, która mówi „jest klientem”. Te połączenia są często przechowywane w bazach danych grafów i podążają za strukturą podmiot-przymiotnik-obiekt, taka jak „Microsoft jest klientem OpenAI”.

Pamięć trwała

Jeden chiński badanie z września tego roku zaproponowało metodę bezszkoleniową, która wykorzystuje graficzne rozumowanie, aby wykryć subtelne nieścisłości w multimodalnych deepfake’ach.

Zamiast generowania uzasadnień lub dokształcania dużych modeli, system pobiera pary obrazu i tekstu, tworzy graf podobieństwa i ocenia połączenia, aby pobrać najbardziej istotne przykłady, i te prowadzą osąd modelu bez potrzeby nowego szkolenia:

Przegląd ramy GASP-ICL, która poprawia wykrywanie deepfake’ów, łącząc graficzny wybór próbek z nauką w kontekście, pozwalając zamrożonemu modelowi języka i wizji klasyfikować pary obrazu/tekstu jako prawdziwe lub fałszywe, bez szkolenia lub dokształcania.  Źródło

To jest prawdopodobnie najbliższa praca, która przekroczyła moją ścieżkę, do „poinformowanego” i świadomego historycznie podejścia do oceny i weryfikacji nowych danych multimedialnych. W większości przypadków podejścia komputerowego widzenia nadal analizują obrazy (w tym ramki wideo i anomalie czasowe obejmujące wiele ram), podczas gdy ramy wykrywania „fałszywych wiadomości” nadal podkreślają dane oparte na tekście, nawet w projektach multimodalnych.

Przerost cech

Wyzwaniem systemu predykcyjnego tego rodzaju jest zakres nadzoru, który może być niezbędny, aby uczynić podejście w pełni wydajnym – przynajmniej poza analizą celebrytów i postaci publicznych, dla których dostępne są już dane publicznie dostępne.

Prawdopodobnie najbardziej podobny bieżący nurt badań to dziedzina przestępstw przed, która oznacza różne sygnały inteligencji multimodalnej jako „podejrzane”, i przedstawia się jako stalowy strach na wróble AI w programach takich jak Person of Interest (2011-2016) i Minority Report (2002).

Podczas gdy system nadzoru w stylu Person of Interest wyprodukuje optymalne wyniki, jest mało prawdopodobne, że kultura zachodnia mogłaby zaakceptować poziom osobistej inwazyjności, jaki sieci wewnętrzne Chin narzucają swoim obywatelom.

Dlatego, w odniesieniu do potencjalnych fałszywych wiadomości o nie-celebrytach, tylko agencje rządowe, takie jak policja (oraz rejestry urodzeń i zgonów oraz urzędy skarbowe) miałyby wystarczającą ilość istotnych informacji historycznych, aby poinformować prawdopodobieństwa w graficznym przepływie pracy; i nawet one potrzebowalyby stylu CCCP, woli, ustawodawstwa i zasobów, aby objąć zwykłych obywateli w swoim zakresie i analizach (tj. poza banalnymi, ale obligatoryjnymi punktami danych, takimi jak numery paszportów i rejestracje samochodów).

Ocena prawdopodobieństwa

Wygląda na to, że potencjalna skuteczność systemu tego rodzaju byłaby ograniczona do najbardziej oczywistych (bieżących) przypadków użycia deepfake’ów: destabilizacja (deepfake’owie wspierani przez państwo); celebrycki i „nieznany” pornograficzny deepfake (które można uznać za szkodliwe, chociaż drugi przypadek tendencję do przyciągania głębszej uwagi medialnej); oszustwo (w tym audio/wideo deepfake zaprojektowane do wykonania ‘oszustw pod fałszywą tożsamością’); i zabójstwo charakteru politycznego.

System oparty na wiedzy wymagałby skali prawdopodobieństwa dla różnorodnych możliwych zdarzeń. Na jednym końcu spektrum, powszechne ludzkie niepowodzenia, takie jak wątpliwa zarządzanie finansami, niewierność, uzależnienie, nieostrożność itp.; na drugim końcu… ujawnienie, że jesteś synem Boga w programie telewizyjnym (lub zdarzenia o podobnej skali i wpływie).

Nawet w tym ostatnim przypadku, osobiste czynniki historyczne dla każdej jednostki ważyłyby wynik prawdopodobieństwa: prominentna postać polityczna, która publicznie zwątpiła w kontrowersyjne sprawy (takie jak prawdziwość lądowań na Księżycu w latach 60. i 70.), aby zyskać kapitał u coraz bardziej ‘inaczej poinformowanego’ elektoratu, mogłaby uzyskać dodatkowy wildcard status w rutynach weryfikacji, w porównaniu z bardziej powściągliwymi kolegami.

W przypadku celebryckiego pornograficznego deepfake jest wystarczający kontekst świata rzeczywistego (tj. wyciek celebryckich zdjęć z 2012 roku, wśród innych – dość rzadkich – incydentów), aby wygenerować umiarkowany Liar’s Dividend, w pewnych kontekstach; ale ponieważ te incydenty outlier działają jako wyjątki potwierdzające regułę, większość bieżących deepfake’owych wideo celebrytów zostałaby uznana za „bardzo nieprawdopodobne” (chociaż to nie rozwiązuje problemu przywłaszczenia tożsamości osób dla takich celów).

W kwestii zakłóceń narodowych, istnieje znaczna ilość danych statystycznych, które mogą pomóc w ocenie prawdopodobieństwa „katastrofalnych” raportów. Nawet w starożytnej historii, wydawałoby się, że zdarzenia „z nieba”, takie jak erupcja niezidentyfikowanego wulkanu Wezuwiusza w 79 r. n.e., były zapowiedziane, jeśli tylko zwróciło się wystarczającą uwagę; i poza dostępnością wielu rządowych i NGO-wspieranych kanałów, rozwijająca się zdolność AI do wyodrębniania struktury z surowych danych może dostarczyć dodatkowy kontekst historyczny do oceny prawdopodobieństwa.

Wnioski

Nawet dobrze wdrożony system predykcyjny tego rodzaju nie mógłby uwzględnić przypadku, aktów boskich, zdarzeń losowych lub zamierzonych zdarzeń stworzonych poza wszelką kontrolą.

Dalej, ogromny zakres i głębokość danych potrzebnych, aby zapewnić pokrycie również dla osób nieznanych, byłby punktem spornym – przynajmniej na razie.

Jednak wybory zdają się się zawężać; analiza oparta na wizji jest skazana na porażkę w obliczu ulepszonych generatywnych AI, podczas gdy systemy weryfikacji i pochodzenia niosą ze sobą obciążenie technicznego długu i tarcie przeciwko przyjęciu. To sprawia, że rozwiązania takie jak Content Authenticity Initiative i niespełniony system Metaphysic.ai Metaphysic Pro są trudne do popularyzacji.

W ich najszerszym użyciu, systemy oparte na RAG mogą jedynie określić, czy źródło autoryzowane potwierdza nieweryfikowane twierdzenie; i ponieważ wiele dużych (prawdziwych) historii medialnych pojawia się bez wcześniejszego kontekstu, brak potwierdzenia ze strony źródeł autoryzowanych nie musi być istotny.

Ich wartość może okazać się większa, jeśli mogą stanowić część większego ekosystemu danych zajmującego się tym, co większość obecnych form AI znajduje trudnym – kontekstem historycznym.

* Nie mylić z wczesnymi autoencoder wersjami, które zadebiutowały w 2017 roku i ostatecznie zostały zastąpione przez lepsze podejścia.

^† https://arxiv.org/abs/2511.07009

^** Which can usually run freely on more powerful home PCs, instead of only being available via gate-kept APIs such as ChatGPT and the Veo series.

^††† Omitting legitimate entertainment uses, such as professional visual effects in movie and TV productions.

Pierwotnie opublikowane w czwartek, 13 listopada 2025