Kto nas ochroni przed dezinformacją generowaną przez sztuczną inteligencję?

Sztuczna inteligencja generatywna rozwinęła się z niczego do wszystkiego w ciągu menos niż roku. Chociaż jest to wczesny etap, pokazała już swój potencjał do przekształcenia biznesu. Wszyscy możemy się zgodzić co do tego.

Aby być jasnym, jestem za innowacjami i nie jestem strachliwym. Ale ostatni wzrost dezinformacji – głównie ukierunkowanej na polaryzację wokół kontrowersyjnych kwestii chwili – sprawił, że stało się jasne, że jeśli nie zostanie powstrzymana, sztuczna inteligencja generatywna może spowodować chaos w społeczeństwach.

Widzieliśmy to już z medią społecznościową, ale zajęło to lata i trudne lekcje, abyśmy się obudzili i zrozumieli jej wady. (Przypuszczalnie) nauczyliśmy się czegoś. Pytanie dzisiaj brzmi: kto pomoże powstrzymać falę zniekształcenia rzeczywistości ze sztucznej inteligencji generatywnej, i jak?

Przewidywalnie, rządy zaczynają działać. Europa prowadzi w tym zakresie, jak to już wcześniej pokazała w regulowaniu technologii. Stany Zjednoczone są tuż za, z prezydentem Bidenem, który wydał rozporządzenie wykonawcze w zeszłym październiku.

Ale będzie to wymagało globalnej wioski działającej razem, aby „utrzymać sztuczną inteligencję generatywną w czystości.” I zanim rząd będzie mógł pomóc, musi zrozumieć ograniczenia dostępnych podejść.

Problem tożsamości stał się znacznie gorszy

W tym nowym świecie, prawda staje się igłą w stogu siana opinii przebranych za fakty. Wiedza o tym, skąd pochodzi treść jest ważniejsza niż kiedykolwiek.

I nie jest takie proste, jak nakazanie, aby każde konto w mediach społecznościowych musiało być zweryfikowane pod względem tożsamości. Istnieje zacięty opór wobec tego, a w niektórych przypadkach anonimowość jest potrzebna, aby uzasadnić ochronę osób posiadających konta. Co więcej, wielu konsumentów najgorszych treści nie dba o to, czy są one wiarygodne, ani skąd pochodzą.

Pomimo tych zastrzeżeń, potencjalna rola tożsamości w radzeniu sobie ze sztuczną inteligencją generatywną jest niedoceniana. Sceptycy, słuchajcie mnie.

Wyobraźmy sobie, że regulacje lub sumienie społeczne powodują, że platformy dają każdemu posiadaczowi konta następujące wybory:

1. Zweryfikuj swoją tożsamość lub nie, oraz
2. Publicznie ujawnij swoją zweryfikowaną tożsamość lub po prostu oznacz, „Zweryfikowane ID”
   

Wtedy publiczność mediów społecznościowych może lepiej zdecydować, kto jest wiarygodny. Równie ważne, jeśli nie bardziej, tożsamość wspiera odpowiedzialność. Platformy mogą zdecydować o działaniach, które należy podjąć przeciwko wielokrotnym „dezinformatorom” i powtarzającym się nadużywcom treści generowanych przez sztuczną inteligencję, nawet jeśli pojawiają się one pod różnymi nazwami kont.

Ze sztuczną inteligencją generatywną zwiększającą stawkę, uważam, że tożsamość – wiedza o tym, kto opublikował co – jest kluczowa. Niektórzy będą się temu sprzeciwiać, a tożsamość nie jest kompletną odpowiedzią. W rzeczywistości żadne rozwiązanie nie zadowoli wszystkich stron. Ale jeśli regulacje zmuszą platformy do oferowania weryfikacji tożsamości wszystkim kontom, jestem przekonany, że wpływ będzie ogromnie pozytywny.

Dylemat moderacji

Moderacja treści – automatyczna i ludzka – jest ostatnią linią obrony przed niepożądaną treścią. Moderacja ludzka jest trudnym zadaniem, z ryzykiem szkody psychicznej z powodu narażenia na najgorsze, co ludzkość może zaoferować. Jest to również drogie i często oskarżane o tendencyjną cenzurę, której platformy starają się ograniczyć.

Automatyczna moderacja przekracza ludzką zdolność do radzenia sobie z potokami nowych treści, ale nie potrafi zrozumieć kontekstu (memes są powszechnym przykładem) i niuansów kulturowych. Obie formy moderacji są niezbędne i konieczne, ale są tylko częścią odpowiedzi.

Często słyszany, konwencjonalny przepis na kontrolowanie sztucznej inteligencji generatywnej brzmi: „Współpraca między liderami technologicznymi, rządem i społeczeństwem obywatelskim jest potrzebna.” Oczywiście, ale co konkretnie?

Rządy, z ich strony, mogą nakłonić platformy społecznościowe do oferowania weryfikacji tożsamości i wyświetlać ją wyraźnie na wszystkich postach. Regulatorzy mogą również utworzyć drogę do wskaźników wiarygodności, które naprawdę pomagają ocenić, czy źródło jest wiarygodne. Współpraca jest konieczna, aby opracować uniwersalne standardy, które dają konkretną wskazówkę i kierunek, aby sektor prywatny nie musiał zgadywać.

Wreszcie, czy powinno być nielegalne tworzenie szkodliwych danych wyjściowych AI? Ustawodawstwo, które zabrania treści przeznaczonej do nielegalnej działalności, mogłoby zmniejszyć objętość toksycznej treści i odciążyć moderatorów. Nie widzę regulacji i praw jako zdolnych do pokonania dezinformacji, ale są one niezbędne w konfrontacji z tym zagrożeniem.

Słoneczna strona ulicy: innowacje

Obietnica innowacji sprawia, że jestem optymistą w tej kwestii. Nie możemy oczekiwać, że politycy lub właściciele platform w pełni nas chronią przed oszustwami generowanymi przez AI. Zostawiają dużą lukę, a to jest dokładnie to, co zainspiruje wynalazek nowej technologii do uwierzytelniania treści i wykrywania fałszerstw.

Ponieważ teraz wiemy o wadach mediów społecznościowych, szybko zrozumieliśmy, że sztuczna inteligencja generatywna może okazać się ogromnym minusem dla ludzkości, ze swoją zdolnością do polaryzacji i dezinformacji.

Optymistycznie, widzę korzyści z wieloaspektowych podejść, w których metody kontroli współpracują, najpierw u źródła, ograniczając tworzenie treści przeznaczonej do nielegalnego użycia. Następnie, przed publikacją, weryfikując tożsamość tych, którzy odmawiają anonimowości. Dalej, jasne oznaczenia, aby pokazać oceny wiarygodności i tożsamość osoby publikującej lub jej brak. Wreszcie, automatyczna i ludzka moderacja mogą odfiltrować niektóre z najgorszych. Spodziewam się, że nowa technologia uwierzytelniania pojawi się wkrótce.

Dodajmy to wszystko, a będziemy mieli znacznie lepsze, choć nigdy nieidealne, rozwiązanie. Tymczasem powinniśmy rozwijać swoje umiejętności, aby rozpoznać, co jest prawdziwe, kto mówi prawdę, a kto próbuje nas oszukać.