Narzędzia przeglądarki AI mają na celu rozpoznanie Deepfake i innych fałszywych mediów

Wysiłki firm technologicznych w celu zwalczania dezinformacji i fałszywych treści nabierają tempa w ostatnim czasie, ponieważ zaawansowane technologie generowania fałszywych treści, takie jak DeepFakes, stają się łatwiejsze w użyciu i bardziej wyrafinowane. Jedną z nadchodzących prób pomocy ludziom w wykrywaniu i zwalczaniu deepfake’ów jest RealityDefender, wyprodukowany przez AI Foundation, która zobowiązała się do tworzenia etycznych agentów i asystentów AI, których użytkownicy mogą szkolić do wykonywania różnych zadań.

Najbardziej godny uwagi projekt AI Foundation to platforma, która pozwala ludziom tworzyć własne cyfrowe awatary, które wyglądają jak oni i reprezentują ich w wirtualnych przestrzeniach spotkań. AI Foundation jest nadzorowana przez Globalny Radę AI, a jako część ich mandatu muszą oni przewidywać możliwe negatywne skutki platform AI, a następnie próbować wyprzedzić te problemy. Jak donosi VentureBeat, jednym z narzędzi stworzonych przez AI Foundation w celu pomocy w wykrywaniu deepfake’ów jest Reality Defender. Reality Defender to narzędzie, które osoba może używać w swojej przeglądarce internetowej, które analizuje filmy, obrazy i inne rodzaje mediów w celu wykrycia oznak, że media zostały sfałszowane lub zmienione w jakiś sposób. Liczy się, że to narzędzie pomoże przeciwdziałać rosnącemu napływowi deepfake’ów w internecie, który według niektórych szacunków podwoił się w ciągu ostatnich sześciu miesięcy.

Reality Defender działa poprzez wykorzystanie różnych algorytmów opartych na AI, które mogą wykryć wskazówki sugerujące, że obraz lub film mogły być sfałszowane. Modele AI wykrywają subtelne oznaki oszustwa i manipulacji, a fałszywe pozytywy wykrywane przez model są oznaczone jako nieprawidłowe przez użytkowników narzędzia. Dane są następnie wykorzystywane do ponownego przeszkolenia modelu. Firmy AI, które tworzą nieoszukańcze deepfakes, mają swoją zawartość oznaczoną znakiem “uczciwy AI” lub znakiem wodnym, który pozwala ludziom łatwo identyfikować AI-generowane fałszywki.

Reality Defender to tylko jedno z zestawu narzędzi i całej platformy odpowiedzialności AI, którą AI Foundation próbuje stworzyć. AI Foundation dąży do stworzenia Guardian AI, platformy odpowiedzialności zbudowanej na założeniu, że ludzie powinni mieć dostęp do osobistych agentów AI, które pracują dla nich i mogą pomóc chronić ich przed wykorzystaniem przez złych aktorów. Podstawowo, AI Foundation stara się zarówno rozszerzyć zasięg AI w społeczeństwie, przyjmując je do większej liczby ludzi, jak i strzec się przed ryzykiem AI.

Reality Defender nie jest jedynym nowym produktem AI, który ma na celu zmniejszenie dezinformacji w Stanach Zjednoczonych. Podobny produkt to SurfSafe, stworzony przez dwóch studentów z UC Berkeley, Rohana Phadte i Asha Bhat. Według The Verge, SurfSafe działa poprzez umożliwienie użytkownikom kliknięcia na fragment mediów, których są ciekawi, a program przeprowadzi odwrotną wyszukiwarkę obrazu i spróbuje znaleźć podobną zawartość z różnych zaufanych źródeł w internecie, oznaczając obrazy, które są znane jako sfabrykowane.

Nie jest jasne, jak skuteczne będą te rozwiązania w dłuższej perspektywie. Profesor Dartmouth College i ekspert od kryminalistyki Hany Farid został cytowany przez The Verge jako mówiący, że jest “niezwykle sceptyczny” co do tego, że systemy takie jak Reality Defender będą działać w znaczący sposób. Farid wyjaśnił, że jednym z kluczowych wyzwań w wykrywaniu fałszywych treści jest to, że media nie są czysto fałszywe lub prawdziwe. Farid wyjaśnił:

„Istnieje continuum; niezwykle złożony zakres problemów do rozwiązania. Niektóre zmiany są bez znaczenia, a niektóre fundamentalnie zmieniają naturę obrazu. Udawać, że możemy wyszkolić AI do rozróżnienia różnic, jest niesamowicie naiwne. I udawać, że możemy to crowdsourcować, jest jeszcze bardziej naiwne.”

Ponadto, trudno jest uwzględnić elementy crowdsourcingu, takie jak oznaczanie fałszywych pozytywów, ponieważ ludzie są zwykle dość źli w identyfikowaniu fałszywych obrazów. Ludzie często popełniają błędy i przegapiają subtelne szczegóły, które oznaczają obraz jako fałszywy. Nie jest również jasne, jak radzić sobie ze złymi aktorami, którzy trollują, gdy oznaczają treści.

Wygląda na to, że aby być maksymalnie skutecznym, narzędzia do wykrywania fałszywych treści będą musiały być połączone z wysiłkami na rzecz cyfrowej edukacji, które uczą ludzi, jak rozważać treści, z którymi wchodzą w interakcję w sieci.