Sztuczna inteligencja może zwalczać dezinformację i uprzedzenia w wiadomościach

Dezinformacja i uprzedzenia w wiadomościach stały się jednym z największych wyzwań, jakie społeczeństwo musiało stawić czoła w ostatnich latach. Rzeczy takie jak operacje informacyjne, deepfakes, wpływ finansowy i wykorzystywanie napięć społecznych to nowe narzędzia używane przez jednostki i państwa na całym świecie.

Dezinformacja to ogólny termin dla fałszywych informacji, a odgrywa ona dużą rolę w manipulowaniu opinią publiczną. Jednocześnie jest używana jako atak przeciwko przywódcom politycznym i pogarsza rozdziały między grupami w różnych krajach. Bardziej niż kiedykolwiek, dezinformacja uderza w urny wyborcze i stała się niezwykle skuteczna.

Dezinformacja, która jest nieco inna niż dezinformacja, to celowo myląca lub tendencyjna informacja. Może zawierać manipulowane narracje i fakty. Innymi słowy, jest to propaganda.

Raport z 2019 roku opracowany przez badaczy z Uniwersytetu Oksfordzkiego szczegółowo opisał zorganizowane kampanie dezinformacyjne w 70 różnych krajach, w tym Rosji, Chinach, Wietnamie i Gwatemali.

Gospodarka cyfrowa doprowadziła do wzrostu dezinformacji i uprzedzeń w wiadomościach, a technologie sztucznej inteligencji i platformy mediów społecznościowych stały się sposobem na rozpowszechnianie ich wśród mas.

Widzieliśmy wiele przykładów tego. Na przykład, poprzednie dwie amerykańskie wybory prezydenckie były pełne dezinformacji i uprzedzeń, a to z pewnością będzie kontynuowane w przyszłości. Rynki finansowe również były poddawane krótkoterminowej manipulacji za pomocą dezinformacji i uprzedzeń, a sprawy zagraniczne stają się coraz bardziej napięte w wyniku ich użycia. Napięcia społeczne są wywoływane przez fałszywe informacje przeciwko zwolennikom i przeciwnikom konkretnych spraw, a fałszywe wiadomości są wszechobecne w niemal każdym kraju.

Nasza zależność od mediów społecznościowych i algorytmów uczyniła nas niezwykle podatnymi na dezinformację i uprzedzenia, a stało się łatwo manipulować dużymi grupami ludzi.

Zgodnie z esejem zatytułowanym „Są skłonności, które czynią ludzi podatnymi na dezinformację rozpowszechnianą przez media społeczne”, opublikowanym przez The Conversation, sieć niezależnych mediów, istnieją trzy rodzaje skłonności, które czynią ekosystem mediów społecznościowych podatnym na celową i niecelową dezinformację. Ważne jest, aby uznać, że większość naszych wiadomości pochodzi obecnie z mediów społecznościowych.

Trzy rodzaje skłonności to:

1. Skłonność w mózgu: „Skłonności poznawcze pochodzą z tego, jak mózg przetwarza informacje, które każda osoba spotyka każdego dnia.”
2. Skłonność w społeczeństwie: „Kiedy ludzie łączą się bezpośrednio ze swoimi rówieśnikami, społeczne skłonności, które kierują ich wyborem przyjaciół, zaczynają wpływać na informacje, które widzą.”
3. Skłonność w maszynie: „Trzecia grupa skłonności pochodzi bezpośrednio z algorytmów używanych do określenia, co ludzie widzą w sieci. Zarówno platformy mediów społecznościowych, jak i wyszukiwarki używają ich.”

To połączenie skłonności stworzyło idealne środowisko dla złych aktorów, aby używać naszych obecnych platform informacyjnych jako sposobu na rozpowszechnianie dezinformacji. Ale ważne jest, aby uznać, że skłonność jest również obecna poza tym zakresem. Zwykłe raporty i artykuły są narażone na skłonność ze względu na własne skłonności autora lub publikacji. To nic nowego.

Rozwiązania sztucznej inteligencji dla dezinformacji i uprzedzeń

Rozwój sztucznej inteligencji zapewnił nam wiele nowych i innowacyjnych narzędzi, które można wykorzystać do walki z dezinformacją i uprzedzeniami w wiadomościach.

Na przykład, gdy są odpowiednio zaprojektowane, sztuczna inteligencja może skutecznie wykryć i usunąć pewne dezinformacje i inne problematyczne treści w sieci. Jest już używana do identyfikowania fałszywych botów przez firmy takie jak Google (GOOGL ), Twitter i Facebook. A fałszywe boty są często używane do rozpowszechniania dezinformacji i tendencyjnych wiadomości.

Nowe ramy sztucznej inteligencji muszą być zbadane, aby rozwiązać ten problem, a istniejące muszą być udoskonalone, ponieważ wiele z nich okazało się problematyczne. Problemy te zaczynają stawać się jeszcze bardziej niebezpieczne, gdy pojawiają się konflikty. Na przykład, konflikty wojskowe, takie jak obecny konflikt Rosji i Ukrainy, prowadzą do rozpowszechniania dezinformacji w niezwykle szybkim tempie.

Wydaje się wiele narzędzi wspomaganych przez sztuczną inteligencję. Na przykład, NT CONNECT, międzynarodowy deweloper technologii, ogłosił niedawno uruchomienie swojej aplikacji agregującej wiadomości, NOOZ.AI. Silnik analityczny języka wspomagany przez sztuczną inteligencję ma na celu przynieść przejrzystość do polarizujących uprzedzeń znalezionych w dzisiejszych mediach. Stara się to osiągnąć, utrzymując czytelników świadomych wpływu mediów przed przeczytaniem artykułu.

„Autorzy lub dziennikarze mają tendencję do skłaniania się ku określonemu uprzedzeniu – często bez wiedzy czytelnika”, mówi komunikat prasowy firmy. „Poprzez znajomość historycznego uprzedzenia autora i źródeł wiadomości, konsumenci mogą zbadać artykuł z bardziej obiektywnym umysłem i oprzeć się manipulacji, aby myśleć w określony sposób o jakimkolwiek przedmiocie.”

Narzędzie NOOZ.AI opiera się na czterech kluczowych filarach:

• Analiza opinii: Pomaga czytelnikom określić obecność osobistych uczuć, poglądów, przekonań lub osądów w piśmie dziennikarza.
• Analiza sentymentu: Narzędzie używa analizy sentymentu, aby pomóc czytelnikom ocenić poparcie lub sprzeciw pisarza wobec ogólnych treści wiadomości lub konkretnego tematu.
• Analiza propagandy: Może wykryć potencjalną dezinformację, identyfikując użycie do 18 możliwych technik perswazji.
• Analiza rewizji: Czytelnicy mogą zbadać ewolucję wiadomości i manipulację opinią i sentymentem w czasie.

Aplikacja zapewnia wyniki dla każdego artykułu, z wynikami opinii w zakresie od 0 do 100 i wynikami sentymentu w zakresie od -100 do 100. Śledzi również wszystkie edycje tekstu dla każdej rewizji i daje czytelnikom możliwość porównania różnych wersji.

Według Garry Paxinos, CTO w NT CONNECT:

„Uprzedzenia w raporcie są poważnym problemem we współczesnym społeczeństwie. Dezinformacja jest najczęściej używanym buzzwordem. Ale rzeczywistość jest taka, że język sam w sobie może być użyty do manipulacji i przekonywania czytelnika. Poprzez obiektywnąanalizę języka unikamy subiektywnej skłonności znalezionej w innych podejściach. W przeciwieństwie do subiektywnego oznaczania dezinformacji, nasze podejście polega na uświadamianiu, w jaki sposób można być manipulowanym za pomocą wyolbrzymionych nagłówków, historii rewizji i tekstu artykułów.”