Co to są Deepfakes?

Gdy deepfakes stają się łatwiejsze do wykonania i bardziej rozpowszechnione, zwraca się na nie większą uwagę. Deepfakes stały się punktem centralnym dyskusji dotyczących etyki sztucznej inteligencji, dezinformacji, otwartości informacji i internetu oraz regulacji. Opłaca się być poinformowanym o deepfakes i mieć intuicyjne zrozumienie, czym są deepfakes. Artykuł wyjaśni definicję deepfakes, zbadanie ich przypadków użycia, omówienie, jak deepfakes można wykryć, oraz zbadanie implikacji deepfakes dla społeczeństwa.

Co to są Deepfakes?

Przed przejściem do dalszej dyskusji o deepfakes byłoby pomocne, gdybyśmy poświęcili trochę czasu, aby wyjaśnić co tak naprawdę są deepfakes. Istnieje znaczita ilość zamieszania wokół terminu Deepfake, a często termin ten jest niewłaściwie stosowany do każdego sfałszowanego medium, niezależnie od tego, czy jest to prawdziwy deepfake, czy nie. Aby kwalifikować się jako Deepfake, sfabrykowane medium musi być wygenerowane za pomocą systemu machine learning, a konkretnie głębokiej sieci neuronowej.

Kluczowym składnikiem deepfakes jest machine learning. Machine learning umożliwił komputerom automatyczne generowanie wideo i audio dość szybko i łatwo. Głębokie sieci neuronowe są szkolone na nagraniach prawdziwej osoby, aby sieć mogła nauczyć się, jak ludzie wyglądają i poruszają się w docelowych warunkach środowiskowych. Wytrenowana sieć jest następnie stosowana do obrazów innej osoby i uzupełniana dodatkowymi technikami grafiki komputerowej w celu połączenia nowej osoby z oryginalnym nagraniem. Algorytm kodera jest używany do określenia podobieństw między oryginalną twarzą a twarzą docelową. Po izolowaniu wspólnych cech twarzy używany jest drugi algorytm AI zwany dekodera. Dekoder analizuje zakodowane (skompresowane) obrazy i odtwarza je na podstawie cech w oryginalnych obrazach. Używane są dwa dekodery, jeden na twarzy oryginalnego podmiotu i drugi na twarzy osoby docelowej. Aby wymiana była możliwa, dekoder wytrenowany na obrazach osoby X jest karmiony obrazami osoby Y. W efekcie twarz osoby Y jest odtwarzana nad wyrazami twarzy i orientacją osoby X.

Obecnie wciąż zajmuje to sporo czasu, aby stworzyć deepfake. Twórca fałszywego musi spędzić dużo czasu ręcznie dostosowując parametry modelu, ponieważ parametry podoptymalne prowadzą do widocznych niedoskonałości i błędów obrazu, które zdradzają prawdziwą naturę fałszywego.

Chociaż często zakłada się, że większość deepfakes jest tworzona przy użyciu rodzaju sieci neuronowej zwanej generatywną siecią przeciwną (GAN), wiele (może większość) deepfakes tworzonych obecnie nie opiera się na GAN. Chociaż GAN odegrały ważną rolę w tworzeniu wczesnych deepfakes, większość filmów deepfake jest tworzona za pomocą alternatywnych metod, według Siwei Lyu z SUNY Buffalo.

Wymaga to nieproporcjonalnie dużej ilości danych szkoleniowych, aby wytrenować GAN, a GAN często zajmuje znacznie więcej czasu na renderowanie obrazu w porównaniu z innymi technikami generowania obrazu. GAN są również lepsze do generowania statycznych obrazów niż wideo, ponieważ GAN mają trudności z utrzymaniem spójności z klatki na klatkę. Bardziej powszechne jest użycie kodera i wielu dekoderów do tworzenia deepfakes.

Czego używa się Deepfakes?

Wiele deepfakes znalezionych w sieci ma charakter pornograficzny. Według badań przeprowadzonych przez firmę AI Deeptrace, spośród próbki około 15 000 filmów deepfake pobranych we wrześniu 2019 r. około 95% z nich miało charakter pornograficzny. Niepokojącą implikacją tego faktu jest to, że wraz ze wzrostem łatwości użycia tej technologii mogą wzrosnąć przypadki fałszywej zemsty pornograficznej.

Jednak nie wszystkie deepfakes są pornograficzne. Istnieją bardziej uzasadnione przypadki użycia technologii deepfake. Technologia audio deepfake może pomóc ludziom nadawać swoje normalne głosy po uszkodzeniu lub utracie głosu z powodu choroby lub urazu. Deepfakes mogą być również używane do ukrywania twarzy osób, które znajdują się w wrażliwych, potencjalnie niebezpiecznych sytuacjach, podczas gdy ich usta i wyrazy twarzy mogą być odczytane. Technologia deepfake może być również używana do poprawy dubbingu w filmach obcojęzycznych, pomocy w naprawie starych i uszkodzonych mediów oraz nawet tworzenia nowych stylów sztuki.

Non-Video Deepfakes

Chociaż większość ludzi myśli o fałszywych filmach, gdy słyszą termin „deepfake”, fałszywe filmy są zdecydowanie nie jedynym rodzajem fałszywych mediów produkowanych za pomocą technologii deepfake. Technologia deepfake jest używana do tworzenia fałszywych zdjęć i audio.

Jak wcześniej wspomniano, GAN są często używane do generowania fałszywych obrazów. Uważa się, że miało miejsce wiele przypadków fałszywych profili LinkedIn i Facebooka, których zdjęcia profilowe zostały wygenerowane za pomocą algorytmów deepfake.

Można również tworzyć fałszywe audio deepfakes. Głębokie sieci neuronowe są szkolone w celu wytworzenia klonów głosów/lub skórek głosowych różnych osób, w tym celebrytów i polityków. Jednym z najbardziej znanych przykładów audio Deepfake jest to, gdy firma AI Dessa wykorzystała model AI wspierany przez algorytmy non-AI, aby odtworzyć głos gospodarza podcastu Joe Rogana.

Jak wykryć Deepfakes

Im bardziej deepfakes stają się zaawansowane, tym trudniej będzie je odróżnić od autentycznych mediów. Obecnie istnieją kilka objawów, na które ludzie mogą zwrócić uwagę, aby ustalić, czy film jest potencjalnym deepfake, takie jak słaba synchronizacja ust, nienaturalny ruch, miganie na obrzeżach twarzy i zniekształcanie drobnych szczegółów, takich jak włosy, zęby lub odbicia. Innymi potencjalnymi objawami deepfakes są niższej jakości części tego samego filmu oraz nieregularne mruganie oczu.

Chociaż te objawy mogą pomóc w wykryciu deepfakes, wraz z postępem technologii deepfake jedyną opcją niezawodnego wykrywania deepfakes może być inne rodzaje sztucznej inteligencji szkolonej do rozróżniania fałszywych i autentycznych mediów.

Firmy sztucznej inteligencji, w tym wiele dużych firm technologicznych, badają metody wykrywania deepfakes. W zeszłym grudniu rozpoczęto wyzwanie wykrywania deepfakes, wspierane przez trzy giganty technologiczne: Amazon, Facebook i Microsoft. Zespoły badawcze z całego świata pracowały nad metodami wykrywania deepfakes, rywalizując o rozwinięcie najlepszych metod wykrywania. Inne grupy badawcze, takie jak zespół połączonych badaczy z Google i Jigsaw, pracują nad rodzajem „kryminalistyki twarzy”, który może wykryć filmy, które zostały zmienione, udostępniając swoje zestawy danych jako otwarte i zachęcając innych do opracowania metod wykrywania deepfakes. Wspomniana firma Dessa pracowała nad udoskonaleniem technik wykrywania deepfakes, starając się upewnić, że modele wykrywania działają na filmach deepfake znalezionych w sieci, a nie tylko na zestawach danych szkoleniowych i testowych, takich jak zestaw danych otwartych źródeł udostępniony przez Google.

Istnieją również inne strategie, które są badane w celu rozwiązania problemu rozpowszechniania się deepfakes. Na przykład sprawdzanie filmów pod kątem zgodności z innymi źródłami informacji jest jedną ze strategii. Można przeprowadzić wyszukiwania filmów zdarzeń, które mogą być nagrane z innych kątów, lub sprawdzić szczegóły tła filmu (takie jak wzorce pogody i lokalizacje) pod kątem niezgodności. Poza tym system rejestru online Blockchain może zarejestrować filmy, gdy są one po raz pierwszy tworzone, przechowując ich oryginalne audio i obrazy, tak aby pochodne filmy mogły być zawsze sprawdzane pod kątem manipulacji.

Ostatecznie ważne jest, aby zostały stworzone niezawodne metody wykrywania deepfakes i aby te metody wykrywania nadążały za najnowszymi postępami w technologii deepfake. Chociaż trudno powiedzieć, jakie będą dokładnie skutki deepfakes, jeśli nie będą dostępne niezawodne metody wykrywania deepfakes (i innych form fałszywych mediów), dezinformacja może potencjalnie rozprzestrzenić się i podważyć zaufanie ludzi do społeczeństwa i instytucji.

Implikacje Deepfakes

Jakie są niebezpieczeństwa związane z pozostawieniem deepfakes bez kontroli?

Jednym z największych problemów, jakie deepfakes tworzą obecnie, jest pornografia niezgodna z wolą osób na nich występujących, stworzona przez połączenie twarzy ludzi z filmami i obrazami pornograficznymi. Etycy sztucznej inteligencji obawiają się, że deepfakes będą częściej używane do tworzenia fałszywej zemsty pornograficznej. Poza tym deepfakes mogą być używane do zastraszania i niszczenia reputacji niemal każdego, ponieważ mogą być używane do umieszczenia ludzi w kontrowersyjnych i kompromitujących sytuacjach.

Firmy i specjaliści ds. cyberbezpieczeństwa wyrazili obawy dotyczące użycia deepfakes do ułatwienia oszustw, nadużyć i szantaży. Podobno fałszywy głos deepfake został użyty do przekonania pracowników firmy do przekazania pieniędzy oszustom.

Możliwe, że deepfakes mogą mieć szkodliwe skutki nawet poza wymienionymi powyżej. Deepfakes mogą potencjalnie podważyć zaufanie ludzi do mediów w ogóle i sprawić, że trudno będzie odróżnić prawdziwe wiadomości od fałszywych. Jeśli wiele filmów w sieci jest fałszywych, staje się łatwiejsze dla rządów, firm i innych podmiotów, aby zakwestionować legitymację kontrowersji i nieetycznych praktyk.

W przypadku rządów deepfakes mogą stanowić zagrożenie dla funkcjonowania demokracji. Demokracja wymaga, aby obywatele byli w stanie podejmować świadome decyzje dotyczące polityków na podstawie wiarygodnych informacji. Dezinformacja podważa procesy demokratyczne. Na przykład prezydent Gabonu, Ali Bongo, pojawił się w filmie, próbując uspokoić obywateli Gabonu. Prezydent był uważany za długo chorego, a jego nagły występ w prawdopodobnie fałszywym filmie wywołał próbę zamachu stanu. Prezydent Donald Trump twierdził, że nagranie audio, na którym chwali się złapaniem kobiet za genitalia, było fałszywe, mimo że również opisał je jako „rozmowę szatni”. Książę Andrew również twierdził, że zdjęcie dostarczone przez prawnika Emily Maitilis było fałszywe, chociaż prawnik nalegał na jego autentyczność.

Ostatecznie, chociaż istnieją uzasadnione przypadki użycia technologii deepfake, istnieje wiele potencjalnych szkód, które mogą wyniknąć z niewłaściwego użycia tej technologii. Dlatego też jest niezwykle ważne, aby zostały stworzone metody ustalania autentyczności mediów i aby te metody były utrzymywane.