Ekspert twierdzi, że “doskonale prawdziwe” DeepFakes pojawią się za 6 miesięcy

Impresjonujące, lecz kontrowersyjne DeepFakes, czyli obrazy i filmy modyfikowane lub generowane przez głębokie sieci neuronowe, prawdopodobnie staną się jeszcze bardziej imponujące i kontrowersyjne w najbliższej przyszłości, według Hao Li, dyrektora Laboratorium Wizji i Grafiki na Uniwersytecie Południowej Kalifornii. Li jest ekspertem w dziedzinie wizji komputerowej i DeepFakes, i w niedawnym wywiadzie dla CNBC powiedział, że „doskonale prawdziwe” DeepFakes pojawią się w ciągu pół roku.

Li wyjaśnił, że większość DeepFakes wciąż jest rozpoznawalna jako fałszywa przez ludzkie oko, a nawet bardziej przekonywające DeepFakes wymagają znacznego wysiłku ze strony twórcy, aby wyglądały realistycznie. Jednak Li jest przekonany, że w ciągu sześciu miesięcy DeepFakes, które wyglądają absolutnie realistycznie, pojawią się, ponieważ algorytmy stają się coraz bardziej zaawansowane.

Li początkowo myślał, że upłynie od dwóch do trzech lat, zanim bardzo przekonywające DeepFakes staną się bardziej powszechne, i zrobił tę prognozę na niedawnym spotkaniu zorganizowanym w Massachusetts Institute of Technology. Jednak Li skorygował swój harmonogram po ujawnieniu niedawnego chińskiego aplikacji Zao i innych niedawnych rozwojów dotyczących technologii DeepFakes. Li wyjaśnił CNBC, że metody potrzebne do stworzenia realistycznych DeepFakes są mniej więcej takie same, jak te, które są obecnie używane, a głównym składnikiem, który stworzy realistyczne DeepFakes, jest więcej danych szkoleniowych.

Li i jego współpracownicy pracowali ciężko nad technologią wykrywania DeepFakes, przewidując przybycie bardzo przekonywających DeepFakes. Li i jego koledzy, tacy jak Hany Farid z Uniwersytetu Kalifornijskiego w Berkeley, eksperymentowali z najnowocześniejszymi algorytmami DeepFakes, aby zrozumieć, jak działa technologia, która je tworzy.

Li powiedział CNBC:

„Jeśli chcesz być w stanie wykryć DeepFakes, musisz także zobaczyć, jakie są ich granice. Jeśli potrzebujesz zbudować ramy AI, które są w stanie wykryć rzeczy, które są niezwykle realistyczne, te muszą być szkolone przy użyciu tych typów technologii, więc w pewnym sensie jest to niemożliwe, jeśli nie wiesz, jak one działają.”

Li i jego współpracownicy są zaangażowani w tworzenie narzędzi do wykrywania DeepFakes, uznając potencjalne problemy i niebezpieczeństwa, jakie ta technologia może stanowić. Li i jego koledzy są z daleka nie jedyną grupą badaczy AI, którzy są zaniepokojeni możliwymi skutkami DeepFakes i zainteresowani tworzeniem środków zaradczych.

Niedawno Facebook (META ) rozpoczął współpracę z MIT, Microsoft (MSFT ) i Uniwersytetem Oksfordzkim, aby stworzyć wyzwanie wykrywania DeepFakes, które ma na celu stworzenie narzędzi, które mogą być używane do wykrywania, kiedy obrazy lub filmy zostały zmodyfikowane. Te narzędzia będą otwarte i dostępne dla firm, organizacji medialnych i rządów. Tymczasem badacze z Uniwersytetu Południowej Kalifornii w Instytucie Nauk Informacyjnych niedawno stworzyli serię algorytmów, które mogą odróżnić fałszywe filmy z dokładnością około 96%.

Jednak Li również wyjaśnił, że problemem z DeepFakes jest sposób, w jaki mogą być nadużywane, a nie sama technologia. Li wymienił kilka uzasadnionych przypadków użycia technologii DeepFakes, w tym w branży rozrywkowej i modowej.

Techniki DeepFakes zostały również użyte do odtworzenia wyrażeń twarzy ludzi, których twarze są zakryte na zdjęciach. Badacze użyli sieci generatywno-dyskryminacyjnych, aby stworzyć całkowicie nową twarz, która miała takie same wyrażenie, jak osoba na oryginalnym zdjęciu. Techniki opracowane przez Norweski Uniwersytet Nauki i Technologii mogą pomóc w odtworzeniu wyrażeń twarzy podczas wywiadów z osobami wrażliwymi, które potrzebują prywatności, takimi jak sygnaliści. Ktoś inny mógłby pozwolić, aby jego twarz była używana jako zastępstwo dla osoby, która potrzebuje anonimowości, ale wyrażenia twarzy tej osoby mogłyby być wciąż czytelne.

W miarę jak rośnie zaawansowanie technologii DeepFake, rośnie również liczba uzasadnionych przypadków użycia DeepFakes. Jednak niebezpieczeństwo również rośnie, i dlatego praca nad wykrywaniem DeepFakes, którą wykonują Li i inni, staje się coraz bardziej istotna.