Głębokie fałszerstwa i nawigacja w nowej erze syntetycznych mediów

Pamiętaj “fałszywe wiadomości”? Termin ten został użyty (i nadużyty) do tego stopnia, że można zapomnieć, do czego pierwotnie się odnosił. Ale pojęcie ma bardzo konkretny początek. Dziesięć lat temu dziennikarze zaczęli alarmować o napływie rzekomych “stron informacyjnych”, które rozpowszechniały fałszywe, często absurdalne twierdzenia na temat polityków i celebrytów. Wielu mogło od razu rozpoznać, że te strony są nielegalne.

Ale wielu innych nie posiadało krytycznych narzędzi, aby rozpoznać to. Wynikiem było pierwsze symptomy kryzysu epistemologicznego, który teraz zaczyna ogarniać internet – kryzys, który osiągnął swój najbardziej przerażający wyraz wraz z pojawieniem się głębokich fałszerstw.

Obok nawet przyzwoitego głębokiego fałszerstwa “fałszywe strony informacyjne” z przeszłości wydają się niewinne. Co gorsza, nawet ci, którzy uważają się za posiadaczy relatywnie wysokiego poziomu umiejętności medialnych, są narażeni na oszustwo. Syntetyczne media stworzone przy użyciu głębokich algorytmów uczenia i generatywnego AI mają potencjał, aby zniszczyć fundamenty naszego społeczeństwa. Według Deloitte, w tym roku same mogą kosztować firmy ponad 250 milionów dolarów za pomocą fałszywych transakcji i innych rodzajów oszustw. Tymczasem Światowe Forum Ekonomiczne nazwało głębokie fałszerstwa “jednym z najbardziej niepokojących zastosowań AI”, wskazując na potencjał “ukierunkowanych, rzeczywistych botów i awatarów AI” do ułatwienia nowych szczepów ultra-personalizowanej (i ultra-skutecznej) manipulacji.

Odpowiedź Światowego Forum Ekonomicznego na ten problem jest rozsądna: opowiadają się za “postawą zero zaufania“, która wprowadza pewien stopień sceptycyzmu do każdego spotkania z cyfrowymi mediami. Jeśli chcemy odróżnić autentyczne od syntetycznych w przyszłości – szczególnie w immersyjnych środowiskach online – taka postawa będzie coraz bardziej niezbędna.

Dwa podejścia do walki z kryzysem głębokich fałszerstw

Walka z powszechnymi dezinformacjami wytworzonymi przez syntetyczne media wymaga, moim zdaniem, dwóch odrębnych podejść.

Pierwsze polega na weryfikacji: zapewnieniu prostego sposobu dla zwykłych użytkowników internetu, aby określić, czy oglądany film jest autentyczny. Takie narzędzia są już powszechne w branżach takich jak ubezpieczenia, biorąc pod uwagę potencjał złych aktorów do składania fałszywych roszczeń za pomocą sfabrykowanych filmów, fotografii i dokumentów. Udemokratyzowanie tych narzędzi – uczynienie ich bezpłatnymi i łatwo dostępnymi – jest kluczowym pierwszym krokiem w tej walce, a już widzimy znaczący postęp w tej dziedzinie.

Drugi krok jest mniej techniczny i tym samym bardziej wyzwaniem: podniesienie świadomości i rozwinięcie umiejętności myślenia krytycznego. W następstwie pierwotnego skandalu “fałszywych wiadomości” w 2015 roku, organizacje non-profit w całym kraju opracowały programy umiejętności medialnych i pracowały nad rozpowszechnieniem najlepszych praktyk, często łącząc się z lokalnymi instytucjami obywatelskimi, aby umocnić zwykłych obywateli w rozpoznawaniu fałszywych informacji. Oczywiście, “stare” fałszywe wiadomości są dzieciną w porównaniu z najbardziej zaawansowanymi głębokimi fałszerstwami, dlatego musimy podwoić nasze wysiłki w tej dziedzinie i zainwestować w edukację na każdym poziomie.

Zaawansowane głębokie fałszerstwa wymagają zaawansowanego myślenia krytycznego

Oczywiście, te inicjatywy edukacyjne były znacznie łatwiejsze do podjęcia, gdy dezinformacja była oparta na tekście. Z fałszywymi stronami informacyjnymi, objawy fałszerstwa były często oczywiste: tandetny design strony, liczne błędy ortograficzne, dziwne źródła. Z głębokimi fałszerstwami, objawy są znacznie bardziej subtelne – i często niemożliwe do zauważenia na pierwszy rzut oka.

W związku z tym internauci we wszystkich wiekach muszą skutecznie przeszkolić się, aby zwracać uwagę na wskaźniki głębokich fałszerstw w cyfrowym filmie. To oznacza zwracanie uwagi na szereg czynników. Dla filmu, mogłoby to oznaczać niewiarygodnie mgliste obszary i cienie; nienaturalne ruchy twarzy i wyrażenia; zbyt idealne odcienie skóry; niespójne wzory w odzieży i ruchach; błędy synchronizacji ust; i tak dalej. Dla audio, mogłoby to oznaczać głosy, które brzmią zbyt czysto (lub oczywiście cyfrowo), brak ludzkiego emocjonalnego tonu, dziwne wzorce mówienia lub niezwykłe sformułowania.

W krótkim terminie, tego rodzaju samouczek może być bardzo przydatny. Poprzez zadawanie sobie, raz za razem, pytań Czy to wygląda podejrzanie?, szlifujemy nie tylko umiejętność wykrywania głębokich fałszerstw, ale także ogólne umiejętności myślenia krytycznego. To powiedziawszy, szybko zbliżamy się do punktu, w którym nawet najlepiej wyszkolone oko nie będzie w stanie odróżnić faktów od fikcji bez zewnętrznej pomocy. Wizualne wskaźniki – nieregularności wymienione powyżej – zostaną technologicznie wygładzone, tak że całkowicie sfabrykowane klipy będą nie do odróżnienia od oryginału. Co pozostanie nam, to nasza intuicja sytuacyjna – nasza zdolność zadawania sobie pytań takich jak Czy taki polityk lub celebryta powiedzieliby coś takiego? Czy treść tego filmu jest prawdopodobna?

To właśnie w tym kontekście platformy wykrywania AI stają się tak niezbędne. Gdy oko nieuzbrojone staje się nieistotne do celów wykrywania głębokich fałszerstw, te platformy mogą służyć jako ostateczne arbitrzy rzeczywistości – barierami przeciw epistemologicznej przepaści. Gdy film wygląda prawdziwie, ale jakoś wydaje się podejrzany – co będzie się zdarzać coraz częściej w nadchodzących miesiącach i latach – te platformy mogą utrzymać nas przy ziemi, potwierdzając podstawową prawdziwość tego, co oglądamy. Ostatecznie, z tak potężną technologią, jedyną rzeczą, która może nas uratować, jest samo AI. Musimy walczyć ogniem z ogniem – co oznacza używanie dobrego AI, aby wykorzenić najgorsze nadużycia tej technologii.

Naprawdę, zdobycie tych umiejętności w żaden sposób nie musi być cynicznym lub negatywnym procesem. Kształtowanie postawy zero zaufania można raczej uznać za okazję do szlifowania krytycznego myślenia, intuicji i świadomości. Poprzez zadawanie sobie, raz za razem, pewnych kluczowych pytań – Czy to ma sens? Czy to podejrzane? – zwiększamy swoją zdolność do konfrontacji nie tylko z fałszywymi mediami, ale także ze światem w ogóle. Jeśli jest jakaś srebrna podszewka ery głębokich fałszerstw, to jest to. Zmuszamy się do myślenia samodzielnie i stajemy się bardziej empiryczni w naszym codziennym życiu – i to może być tylko dobrą rzeczą.