5 najlepszych narzędzi i technik do wykrywania deepfake’ów (maj 2024 r.)

W epoce cyfrowej deepfakes stały się poważnym zagrożeniem dla autentyczności treści online. Te wyrafinowane filmy generowane przez sztuczną inteligencję mogą w przekonujący sposób naśladować prawdziwych ludzi, co sprawia, że ​​coraz trudniej jest odróżnić fakty od fikcji. Jednak wraz z rozwojem technologii deepfakes rozwijają się także narzędzia i techniki zaprojektowane do ich wykrywania. Na tym blogu omówimy pięć najlepszych dostępnych obecnie narzędzi i technik wykrywania deepfake.

1. Wartownik

(Zdjęcie: Strażnik)

Sentinel to wiodąca platforma ochrony oparta na sztucznej inteligencji, która pomaga demokratycznym rządom, agencjom obronnym i przedsiębiorstwom powstrzymać zagrożenie związane z deepfakes. Z technologii Sentinel korzystają wiodące organizacje w Europie. System działa w ten sposób, że umożliwia użytkownikom przesyłanie multimediów cyfrowych za pośrednictwem witryny internetowej lub interfejsu API, które są następnie automatycznie analizowane pod kątem fałszowania sztucznej inteligencji. System określa, czy nośnik jest deepfake’iem, czy nie, i zapewnia wizualizację manipulacji.

Technologia wykrywania deepfake firmy Sentinel ma na celu ochronę integralności mediów cyfrowych. Wykorzystuje zaawansowane algorytmy AI do analizy przesłanych multimediów i ustalenia, czy nie doszło do manipulacji. System dostarcza szczegółowy raport ze swoich ustaleń, zawierający wizualizację obszarów mediów, które uległy zmianie. Dzięki temu użytkownicy mogą dokładnie zobaczyć, gdzie i w jaki sposób media zostały zmanipulowane.

Kluczowe cechy Sentinela:

• Wykrywanie deepfake’ów w oparciu o sztuczną inteligencję
• Używany przez wiodące organizacje w Europie
• Umożliwia użytkownikom przesyłanie multimediów cyfrowych do analizy
• Zapewnia wizualizację manipulacji

2. Detektor Deepfake firmy Intel w czasie rzeczywistym

Intel wprowadził wykrywacz deepfake'ów działający w czasie rzeczywistym, znany jako FakeCatcher. Technologia ta potrafi wykrywać fałszywe filmy z dokładnością do 96% i zwracać wyniki w ciągu milisekund. Detektor, zaprojektowany we współpracy z Umurem Ciftci z Uniwersytetu Stanowego Nowego Jorku w Binghamton, wykorzystuje sprzęt i oprogramowanie firmy Intel, działające na serwerze i łączące się za pośrednictwem platformy internetowej.

FakeCatcher szuka autentycznych wskazówek w prawdziwych filmach, oceniając to, co czyni nas ludźmi – subtelny „przepływ krwi” w pikselach filmu. Kiedy nasze serca pompują krew, nasze żyły zmieniają kolor. Te sygnały przepływu krwi są zbierane z całej twarzy, a algorytmy tłumaczą te sygnały na mapy czasoprzestrzenne. Następnie, korzystając z głębokiego uczenia się, może natychmiast wykryć, czy film jest prawdziwy, czy fałszywy.

Najważniejsze funkcje detektora Deepfake firmy Intel w czasie rzeczywistym:

• Opracowano we współpracy z Uniwersytetem Stanowym Nowego Jorku w Binghamton
• Potrafi wykryć fałszywe filmy z dokładnością do 96%.
• Zwraca wyniki w milisekundach
• Wykorzystuje subtelny „przepływ krwi” w pikselach wideo do wykrywania deepfakes

3. Weryfikujemy

(Zdjęcie: WeVerify)

WeVerify to projekt mający na celu opracowanie inteligentnych metod i narzędzi weryfikacji treści w pętli oraz analizy dezinformacji. Projekt koncentruje się na analizie i kontekstualizacji treści mediów społecznościowych i stron internetowych w ramach szerszego ekosystemu internetowego w celu ujawnienia sfabrykowanych treści. Osiąga się to poprzez intermodalną weryfikację treści, analizę sieci społecznościowych, demaskowanie w skali mikro i publiczną bazę danych znanych podróbek opartą na blockchainie.

Kluczowe cechy WeVerify:

• Opracowuje inteligentne metody i narzędzia weryfikacji treści typu „human-in-the-loop” oraz analizy dezinformacji
• Analizuje i kontekstualizuje treści w mediach społecznościowych i Internecie
• Ujawnia sfabrykowane treści poprzez weryfikację treści międzymodalną, analizę sieci społecznościowych i demaskowanie w skali mikro
• Korzysta z publicznej bazy danych znanych podróbek opartej na blockchainie

4. Narzędzie do uwierzytelniania wideo firmy Microsoft**

(Zdjęcie: Microsoft)

Narzędzie Video Authenticator firmy Microsoft to potężne narzędzie, które może analizować zdjęcia lub filmy w celu uzyskania oceny pewności wskazującej, czy multimedia zostały zmanipulowane. Wykrywa granicę mieszania elementów deepfake i subtelnych elementów w skali szarości, które są niewykrywalne dla ludzkiego oka. Zapewnia również ten wskaźnik pewności w czasie rzeczywistym, umożliwiając natychmiastowe wykrywanie deepfakes.

Narzędzie Video Authenticator wykorzystuje zaawansowane algorytmy AI do analizy multimediów i wykrywania oznak manipulacji. Wyszukuje subtelne zmiany w elementach multimediów w skali szarości, które często są charakterystyczną oznaką deepfake’a. Narzędzie zapewnia ocenę pewności w czasie rzeczywistym, umożliwiając użytkownikom szybkie określenie, czy nośnik jest autentyczny, czy nie.

Kluczowe funkcje narzędzia Video Authenticator firmy Microsoft:

• Analizuje zdjęcia i filmy
• Zapewnia ocenę pewności w czasie rzeczywistym
• Wykrywa subtelne zmiany skali szarości
• Pozwala na natychmiastowe wykrycie deepfakes

5. Wykrywanie deepfake'ów przy użyciu niezgodności fonemów i visemów

Ta innowacyjna technika, opracowana przez badaczy z Uniwersytetu Stanforda i Uniwersytetu Kalifornijskiego, wykorzystuje fakt, że wicemisy, które oznaczają dynamikę kształtu ust, czasami różnią się lub są niezgodne z fonemem mówionym. Ta niespójność jest częstą wadą deepfakes, ponieważ sztuczna inteligencja często ma trudności z idealnym dopasowaniem ruchu ust do wypowiadanych słów.

Technika niedopasowania fonemów-Viseme wykorzystuje zaawansowane algorytmy AI do analizy wideo i wykrywania tych niespójności. Porównuje ruch ust (visemes) z wypowiadanymi słowami (fonemami) i szuka ewentualnych niedopasowań. Jeśli zostanie wykryta niezgodność, jest to wyraźna wskazówka, że ​​film jest deepfake’iem.

Kluczowe funkcje wykrywania Deepfake przy użyciu niezgodności fonemów i visemów:

• Opracowany przez naukowców z Uniwersytetu Stanforda i Uniwersytetu Kalifornijskiego
• Wykorzystuje niespójności między visemami i fonemami w deepfakes
• Wykorzystuje zaawansowane algorytmy AI do wykrywania niedopasowań
• Zapewnia wyraźne wskazanie deepfake w przypadku wykrycia niezgodności

Przyszłość wykrywania deepfake’ów

Gdy poruszamy się po cyfrowym krajobrazie XXI wieku, widmo deepfakes wyłania się z dużej odległości. Te filmy generowane przez sztuczną inteligencję, które w przekonujący sposób naśladują prawdziwych ludzi, stanowią poważne zagrożenie dla autentyczności treści online. Mają potencjał, aby zakłócić wszystko, od relacji osobistych po wybory polityczne, co sprawia, że ​​zapotrzebowanie na skuteczne narzędzia i techniki wykrywania deepfake’ów staje się ważniejsze niż kiedykolwiek.

Pięć narzędzi i technik do wykrywania deepfake’ów, które omówiliśmy na tym blogu, reprezentuje najnowocześniejsze rozwiązania w tej dziedzinie. Wykorzystują zaawansowane algorytmy sztucznej inteligencji do analizowania i wykrywania deepfakes z imponującą dokładnością. Każde narzędzie i technika oferuje unikalne podejście do wykrywania deepfake, od analizy subtelnych elementów filmu w skali szarości po śledzenie wyrazu twarzy i ruchów obiektów.

Na przykład Sentinel wykorzystuje sztuczną inteligencję do analizowania mediów cyfrowych i ustalania, czy doszło do manipulacji, zapewniając wizualizację manipulacji. Z drugiej strony narzędzie Video Authenticator Tool firmy Microsoft zapewnia w czasie rzeczywistym ocenę pewności, która wskazuje, czy zdjęcie lub film zostały zmanipulowane. Narzędzia te, wraz z innymi, które omówiliśmy, wiodą w walce z deepfakes, pomagając zapewnić autentyczność treści online.

Jednak w miarę rozwoju technologii deepfakes, nasze metody wykrywania również muszą się rozwijać. Rozwój technologii deepfake jest szybko zmieniającym się celem, a nasze narzędzia i techniki muszą ewoluować, aby dotrzymać kroku. Będzie to wymagało ciągłych badań i rozwoju, a także współpracy między badaczami, firmami technologicznymi i decydentami.

Co więcej, należy pamiętać, że sama technologia nie rozwiąże problemu deepfakes. Edukacja i świadomość są również istotne. Wszyscy musimy stać się bardziej wnikliwymi konsumentami treści w Internecie, kwestionującymi źródło informacji i szukającymi przejawów manipulacji. Będąc na bieżąco z najnowszymi osiągnięciami w technologii i wykrywaniu deepfake’ów, wszyscy możemy odegrać rolę w zwalczaniu tego zagrożenia.