Co to są Deepfakes?

Gdy deepfakes stają się łatwiejsze do wytworzenia i bardziej powszechne, większą uwagę przykuwają do siebie. Deepfakes stały się centralnym punktem dyskusji dotyczących etyki sztucznej inteligencji, dezinformacji, otwartości informacji i internetu oraz regulacji. Opłaca się być poinformowanym o deepfakes i mieć intuicyjne zrozumienie, czym są deepfakes. Artykuł wyjaśni definicję deepfakes, zbada ich przypadki użycia, omówi, jak można wykryć deepfakes oraz zbada implikacje deepfakes dla społeczeństwa.

Co to są Deepfakes?

Przed przejściem do dalszej dyskusji o deepfakes warto się chwilę zatrzymać i wyjaśnić co tak naprawdę są deepfakes. Istnieje wiele zamieszania wokół terminu Deepfake, a często ten termin jest niewłaściwie stosowany do każdego sfałszowanego medium, niezależnie od tego, czy jest to prawdziwy deepfake, czy nie. Aby kwalifikować się jako Deepfake, sfabrykowane medium musi być wytworzone za pomocą systemu machine learning, a konkretnie głębokiej sieci neuronowej.

Kluczowym składnikiem deepfakes jest machine learning. Machine learning umożliwił komputerom automatyczne generowanie wideo i audio w stosunkowo krótkim czasie i łatwo. Głębokie sieci neuronowe są szkolone na nagraniach prawdziwej osoby, aby sieć mogła nauczyć się, jak ludzie wyglądają i poruszają się w docelowych warunkach środowiskowych. Następnie wyszkolona sieć jest stosowana do obrazów innej osoby i uzupełniana dodatkowymi technikami grafiki komputerowej w celu połączenia nowej osoby z oryginalnym nagraniem. Algorytm encodera jest stosowany w celu określenia podobieństw między oryginalną twarzą a twarzą docelową. Po izolowaniu wspólnych cech twarzy stosowany jest drugi algorytm AI zwany dekodera. Dekoder analizuje zakodowane (skompresowane) obrazy i odtwarza je na podstawie cech oryginalnych obrazów. Stosowane są dwa dekodery, jeden na twarzy oryginalnego podmiotu i drugi na twarzy osoby docelowej. Aby móc wykonać zamianę, dekoder wyszkolony na obrazach osoby X jest karmiony obrazami osoby Y. W efekcie twarz osoby Y jest odtwarzana nad wyrazami twarzy i orientacją osoby X.

Obecnie wciąż wymaga to sporo czasu, aby stworzyć deepfake. Twórca fałszywego nagrania musi spędzić dużo czasu na ręcznym dostosowywaniu parametrów modelu, ponieważ parametry optymalne prowadzą do zauważalnych niedoskonałości i błędów obrazu, które zdradzają prawdziwą naturę fałszywego nagrania.

Chociaż często zakłada się, że większość deepfakes jest tworzona za pomocą rodzaju sieci neuronowej zwanej generative adversarial network (GAN), wiele (może większość) deepfakes tworzonych obecnie nie opiera się na GAN. Chociaż GAN odegrały ważną rolę w tworzeniu wczesnych deepfakes, większość filmów deepfake jest tworzona za pomocą alternatywnych metod, według Siwei Lyu z SUNY Buffalo.

Wymaga to nieproporcjonalnie dużej ilości danych szkoleniowych, aby wyszkolić GAN, a GAN często wymaga znacznie więcej czasu, aby wyrenderować obraz w porównaniu z innymi technikami generowania obrazu. GAN są również lepsze do generowania statycznych obrazów niż wideo, ponieważ GAN mają trudności z utrzymaniem spójności między klatkami. Bardziej powszechne jest stosowanie encodera i wielu dekoderów do tworzenia deepfakes.

Dlaczego Deepfakes są używane?

Wiele deepfakes znalezionych w sieci ma charakter pornograficzny. Według badań przeprowadzonych przez Deeptrace, firmę AI, spośród próbki około 15 000 filmów deepfake pobranych we wrześniu 2019 roku około 95% z nich miało charakter pornograficzny. Niepokojącą implikacją tego faktu jest to, że w miarę jak technologia staje się łatwiejsza w użyciu, może dojść do wzrostu przypadków fałszywej zemsty pornograficznej.

Jednak nie wszystkie deepfakes mają charakter pornograficzny. Istnieją bardziej uzasadnione przypadki użycia technologii deepfake. Technologia audio deepfake może pomóc ludziom nadawać swoje normalne głosy po uszkodzeniu lub utracie z powodu choroby lub urazu. Deepfakes mogą być również stosowane do ukrywania twarzy osób, które znajdują się w wrażliwych, potencjalnie niebezpiecznych sytuacjach, przy jednoczesnym umożliwieniu odczytania ich warg i wyrazów twarzy. Technologia deepfake może potencjalnie być stosowana do poprawy dubbingu w filmach obcojęzycznych, pomocy w naprawie starego i uszkodzonego medium oraz nawet tworzenia nowych stylów sztuki.

Non-Video Deepfakes

Chociaż większość ludzi myśli o fałszywych filmach, gdy słyszy termin „deepfake”, fałszywe filmy nie są przez żadne środki jedynym rodzajem fałszywego medium produkowanego za pomocą technologii deepfake. Technologia deepfake jest stosowana do tworzenia fałszywych zdjęć i audio. Jak wcześniej wspomniano, GAN są często stosowane do generowania fałszywych obrazów. Uważa się, że miało miejsce wiele przypadków fałszywych profili na LinkedIn i Facebook (META ), których obrazy profilowe zostały wygenerowane za pomocą algorytmów deepfake.

Można również tworzyć fałszywe audio deepfakes. Głębokie sieci neuronowe są szkolone w celu wytworzenia klonów głosów/lub skórek głosowych różnych osób, w tym celebrytów i polityków. Jednym z najbardziej znanych przykładów audio Deepfake jest ten, gdy firma AI Dessa wykorzystała model AI wspieranego przez nie-AI-algorytmy, aby odtworzyć głos gospodarza podcastu Joe Rogan.

Jak wykryć Deepfakes

W miarę jak deepfakes stają się coraz bardziej zaawansowane, rozróżnianie ich od prawdziwych mediów stanie się coraz trudniejsze. Obecnie istnieją kilka objawów, na które ludzie mogą zwrócić uwagę, aby ustalić, czy film jest potencjalnym deepfake, takie jak słaba synchronizacja ust, nienaturalne ruchy, migotanie na krawędzi twarzy oraz zniekształcenie drobnych szczegółów, takich jak włosy, zęby lub odbicia. Innymi potencjalnymi objawami deepfakes są niższa jakość części tego samego filmu oraz nieregularne mruganie oczu.

Chociaż te objawy mogą pomóc w wykryciu deepfakes w tej chwili, w miarę jak technologia deepfake się rozwija, jedyną opcją niezawodnego wykrywania deepfakes może być inne rodzaje sztucznej inteligencji szkolonej do rozróżniania fałszywych i prawdziwych mediów.

Firmy sztucznej inteligencji, w tym wiele dużych firm technologicznych, badają metody wykrywania deepfakes. W zeszłym grudniu rozpoczęto wyzwanie wykrywania deepfakes, wspierane przez trzy giganty technologiczne: Amazon (AMZN ), Facebook i Microsoft. Zespoły badawcze z całego świata pracowały nad metodami wykrywania deepfakes, rywalizując o rozwinięcie najlepszych metod wykrywania. Inne grupy badaczy, takie jak połączone zespoły badawcze z Google (GOOGL ) i Jigsaw, pracują nad rodzajem „kryminalistyki twarzy”, który może wykryć filmy, które zostały zmienione, udostępniając swoje zestawy danych jako otwarte i zachęcając innych do rozwijania metod wykrywania deepfakes. Wspomniana firma Dessa pracowała nad udoskonaleniem technik wykrywania deepfakes, starając się upewnić, że modele wykrywania działają na filmach deepfake znalezionych w sieci, a nie tylko na wcześniej skomponowanych zestawach szkoleniowych i testowych, takich jak zestaw danych udostępniony przez Google.

Istnieją również inne strategie, które są badane w celu rozwiązania problemu proliferacji deepfakes. Na przykład, sprawdzanie filmów pod kątem zgodności z innymi źródłami informacji jest jedną ze strategii. Można przeprowadzić wyszukiwania filmów zdarzeń, które mogły być nagrane z innych kątów, lub sprawdzić tło filmu (takie jak wzorce pogody i lokalizacje) pod kątem niezgodności. Poza tym system rejestracji wideo w sieci Blockchain może zarejestrować filmy, gdy są one po raz pierwszy tworzone, przechowując ich oryginalne dźwięki i obrazy, aby pochodne filmy mogły być zawsze sprawdzane pod kątem manipulacji.

Ostatecznie ważne jest, aby niezawodne metody wykrywania deepfakes zostały stworzone i aby te metody wykrywania nadążały za najnowszymi postępami w technologii deepfake. Chociaż trudno powiedzieć, jakie będą dokładnie skutki deepfakes, jeśli nie będą istniały niezawodne metody wykrywania deepfakes (i innych rodzajów fałszywych mediów), dezinformacja może potencjalnie rozprzestrzenić się i podważyć zaufanie ludzi do społeczeństwa i instytucji.

Implikacje Deepfakes

Jakie są niebezpieczeństwa związane z pozostawieniem deepfakes bez kontroli?

Jednym z największych problemów, jakie deepfakes powodują obecnie, jest pornografia niezgodna z wolą osób na nich przedstawionych, stworzona przez łączenie twarzy ludzi z filmami i obrazami pornograficznymi. Etycy AI obawiają się, że deepfakes będą stosowane częściej w tworzeniu fałszywej zemsty pornograficznej. Poza tym deepfakes mogą być stosowane do zastraszania i niszczenia reputacji niemal każdej osoby, ponieważ mogą być one stosowane do umieszczania ludzi w kontrowersyjnych i kompromitujących sytuacjach.

Przedsiębiorstwa i specjaliści ds. cyberbezpieczeństwa wyrazili obawy dotyczące stosowania deepfakes do ułatwienia oszustw, nadużyć i wymuszeń. Jakoby deepfake audio zostało wykorzystane do przekonania pracowników firmy do przekazania pieniędzy oszustom

Możliwe, że deepfakes mogą mieć szkodliwe skutki nawet poza wymienionymi powyżej. Deepfakes mogą potencjalnie podważyć zaufanie ludzi do mediów w ogóle i utrudnić ludziom rozróżnianie prawdziwych i fałszywych wiadomości. Jeśli wiele filmów w sieci jest fałszywych, staje się łatwiejsze dla rządów, firm i innych podmiotów, aby zakwestionować uzasadnione kontrowersje i nieetyczne praktyki.

Gdy chodzi o rządy, deepfakes mogą stanowić zagrożenie dla funkcjonowania demokracji. Demokracja wymaga, aby obywatele byli w stanie podejmować świadome decyzje dotyczące polityków na podstawie wiarygodnych informacji. Dezinformacja podważa procesy demokratyczne. Na przykład prezydent Gabonu, Ali Bongo, pojawił się w filmie, próbując uspokoić obywateli Gabonu. Prezydent był uważany za długo chorego, a jego nagły występ w prawdopodobnie fałszywym filmie wywołał próbę zamachu stanu. Prezydent Donald Trump twierdził, że nagranie audio, na którym chwalił się złapaniem kobiet za genitalia, było fałszywe, pomimo że również opisał je jako „rozmowę szatni”. Książę Andrew również twierdził, że zdjęcie dostarczone przez prawnika Emily Maitilis było fałszywe, chociaż prawnik nalegał na jego autentyczność.

Ostatecznie, chociaż istnieją uzasadnione przypadki użycia technologii deepfake, istnieje wiele potencjalnych szkód, które mogą wyniknąć z nadużycia tej technologii. Dlatego ważne jest, aby metody określania autentyczności mediów zostały stworzone i utrzymane.