W 2024 roku głębokie fałszerstwa staną się powszechne. Oto, jak firmy mogą się chronić

Od co najmniej wyborów w 2016 roku, kiedy obawy dotyczące dezinformacji wybuchły w świadomości publicznej, eksperci alarmowali o głębokich fałszerstwach. Implikacje tej technologii były – i pozostają – przerażające. Niepohamowana proliferacja hiperrealistycznych syntetycznych mediów stanowi zagrożenie dla wszystkich – od polityków po zwykłych ludzi. W środowisku już cechującym się powszechną nieufnością, głębokie fałszerstwa obiecywały tylko podsycić płomień.

Okazuje się, że nasze obawy były przedwczesne. Wiedza techniczna niezbędna do stworzenia głębokich fałszerstw, w połączeniu z ich często słodkim jakością, oznaczała, że przez co najmniej dwa ostatnie cykle wyborów prezydenckich, pozostawały one minimalnym problemem.

Ale wszystko to ma się zmienić – już się zmienia. W ciągu ostatnich dwóch lat technologia sztucznej inteligencji generatywnej wkroczyła do mainstreamu, radykalnie upraszczając proces tworzenia głębokich fałszerstw dla przeciętnego konsumenta. Te same innowacje znacznie zwiększyły jakość głębokich fałszerstw, tak że w teście ślepej próby większość ludzi nie byłaby w stanie odróżnić sfabrykowanego filmu od prawdziwego.

W tym roku, szczególnie, zaczęliśmy dostrzegać, w jaki sposób ta technologia może wpłynąć na społeczeństwo, jeśli nie zostaną podjęte działania w celu jej zwalczania. W zeszłym roku, na przykład, zdjęcie papieża Franciszka noszącego niezwykle stylowy płaszcz rozprzestrzeniło się, i zostało uznane przez wielu za autentyczne. Chociaż może to wydawać się, na pewnym poziomie, niewinną zabawą, ujawnia to niebezpieczną potęgę tych głębokich fałszerstw i jak trudno jest powstrzymać dezinformację, gdy zaczyna się rozprzestrzeniać. Możemy spodziewać się znalezienia znacznie mniej zabawnych – i znacznie bardziej niebezpiecznych – przypadków tego rodzaju wirusowych fałszerstw w nadchodzących miesiącach i latach.

Z tego powodu jest niezwykle ważne, aby organizacje wszystkich rodzajów – od mediów po finanse, rządy i platformy społecznościowe – przyjęły proaktywny stosunek do wykrywania głębokich fałszerstw i weryfikacji autentyczności treści. Kultura zaufania za pośrednictwem zabezpieczeń musi zostać ustanowiona teraz, zanim fala głębokich fałszerstw może zmyć nasze wspólne rozumienie rzeczywistości.

Zrozumienie zagrożenia głębokimi fałszerstwami

Przed zajęciem się tym, co organizacje mogą zrobić, aby przeciwdziałać temu wzrostowi głębokich fałszerstw, warto wyjaśnić, dlaczego narzędzia zabezpieczające są niezbędne. Zwykle ci, którzy są zaniepokojeni głębokimi fałszerstwami, cytują ich potencjalny wpływ na politykę i zaufanie społeczne. Te potencjalne konsekwencje są niezwykle ważne i nie powinny być zaniedbywane w żadnej rozmowie o głębokich fałszerstwach. Ale okazuje się, że rozwój tej technologii ma potencjalnie tragiczne skutki w wielu sektorach gospodarki amerykańskiej.

Weźmy na przykład ubezpieczenia. Obecnie roczne oszustwa ubezpieczeniowe w Stanach Zjednoczonych sięgają 308,6 miliarda dolarów – liczby mniej więcej jednej czwartej wielkości całej branży. W tym samym czasie operacje back-end większości firm ubezpieczeniowych są coraz bardziej zautomatyzowane, a 70% standardowych roszczeń ma być obsługiwanych bez dotyku do 2025 roku. Oznacza to, że decyzje są podejmowane z minimalnym udziałem ludzi: samoobsługa na froncie i ułatwiona automatyzacja na tyłach.

Ironicznie, ta sama technologia, która pozwoliła na ten wzrost automatyzacji – czyli uczenie maszynowe i sztuczna inteligencja – gwarantuje jej wykorzystanie przez złych aktorów. Jest teraz łatwiej niż kiedykolwiek dla przeciętnej osoby manipulować roszczeniami – na przykład, używając programów generatywnych AI, takich jak Dall-E, Midjourney lub Stable Diffusion, aby uczynić samochód bardziej uszkodzonym, niż jest w rzeczywistości. Już istnieją aplikacje specjalnie do tego celu, takie jak Dude Your Car!, które pozwalają użytkownikom sztucznie tworzyć wgniecenia na zdjęciach swoich pojazdów.

To samo dotyczy oficjalnych dokumentów, które można teraz łatwo manipulować – faktur, ocen ubezpieczeniowych, a nawet podpisów, które można dostosować lub wymyślić całkowicie. Jest to problem nie tylko dla ubezpieczycieli, ale także dla instytucji finansowych, które muszą zweryfikować autentyczność szerokiego zakresu dokumentów. Jest to problem dla detalistów, którzy mogą otrzymać skargę, że produkt przybył uszkodzony, wraz z sfabrykowanym zdjęciem.

Firmy po prostu nie mogą działać z takim stopniem niepewności. Jakiś poziom oszustwa jest prawdopodobnie zawsze nieunikniony, ale w przypadku głębokich fałszerstw mówimy o potencjalnej katastrofie epistemologicznej, w której firmy nie mają wyraźnych środków do określenia, co jest prawdą, a co fałszem, i tracą miliardy dolarów z powodu tej niepewności.

Walka z ogniem za pomocą ognia: jak AI może pomóc

Co więc można zrobić, aby temu przeciwdziałać? Być może niezbyt zaskakująco, odpowiedź leży w samej technologii, która ułatwia głębokie fałszerstwa. Jeśli chcemy powstrzymać ten problem, zanim zacznie się rozprzestrzeniać, musimy walczyć ogniem za pomocą ognia. AI może pomóc generować głębokie fałszerstwa – ale może również, na szczęście, pomóc je automatycznie identyfikować na dużą skalę.

Używając odpowiednich narzędzi AI, firmy mogą automatycznie określić, czy dana fotografia, film lub dokument zostały sfabrykowane. Przywołując dziesiątki różnych modeli do zadania identyfikacji fałszerstw, AI może automatycznie powiedzieć firmom, czy dana fotografia lub film jest podejrzany. Podobnie jak narzędzia, które firmy już wdrożyły do automatyzacji codziennych operacji, te narzędzia mogą działać w tle bez obciążania przeciążonego personelu lub zabierania czasu od ważnych projektów.

Jeśli i gdy fotografia zostanie zidentyfikowana jako potencjalnie zmieniona, ludzki personel może zostać powiadomiony i może ocenić problem bezpośrednio, przy pomocy informacji dostarczonych przez AI. Używając głębokiej analizy, może powiedzieć firmom, dlaczego uważa, że fotografia została najprawdopodobniej sfabrykowana – wskazując, na przykład, na ręcznie zmienione metadane, istnienie identycznych obrazów w sieci, różne nieregularności fotograficzne itp.

To wszystko nie ma na celu umniejszać niesamowitych postępów, które widzieliśmy w technologii AI generatywnej w ciągu ostatnich kilku lat, które mają również użyteczne i produktywne zastosowania w różnych branżach. Ale sama potęga – a także prostota – tej wschodzącej technologii niemal gwarantuje jej nadużycie przez tych, którzy chcą manipulować organizacjami, czy to w celu osobistego zysku, czy aby siać społeczny chaos.

Organizacje mogą mieć najlepsze z obu światów: korzyści produktywności AI bez wad powszechnych głębokich fałszerstw. Ale wymaga to nowego stopnia czujności, szczególnie biorąc pod uwagę, że dane wyjściowe AI generatywnej stają się coraz bardziej przekonywające, szczegółowe i realistyczne z dnia na dzień. Im szybciej organizacje zwrócą uwagę na ten problem, tym szybciej będą mogły czerpać pełne korzyści z zautomatyzowanego świata.