Etyka

Sztuczna inteligencja może zwalczać dezinformację i uprzedzenia w wiadomościach

Alex McFarland
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyNarzędzia AI, takie jak NOOZ.AI, analizują język, aby ujawnić stronniczość i…
Zobacz więcej
  • Narzędzia AI, takie jak NOOZ.AI, analizują język, aby ujawnić stronniczość i manipulację w wiadomościach.
  • Trzy rodzaje uprzedzeń — poznawcze, społeczne i algorytmiczne — sprawiają, że media społecznościowe są podatne na dezinformację.
  • Kampanie dezinformacyjne i wprowadzające w błąd są obecnie wymierzone w wybory w ponad 70 krajach.

Dezinformacja i uprzedzenia w wiadomościach stały się jednym z największych wyzwań, którym społeczeństwo musiało stawić czoła w ostatnich latach. Rzeczy takie jak operacje informacyjne, deepfakes, wpływ finansowy i wykorzystywanie napięć społecznych to nowe narzędzia używane przez jednostki i państwa na całym świecie.

Misinformacja to ogólne określenie fałszywych informacji; odgrywa ona dużą rolę w manipulowaniu opinią publiczną. Jednocześnie jest używana jako atak przeciwko przywódcom politycznym i pogłębia podziały między grupami w różnych krajach. Bardziej niż kiedykolwiek, dezinformacja uderza w urny wyborcze i stała się niezwykle skuteczna.

Dezinformacja, która nieco różni się od ogólnie rozumianych fałszywych informacji, to celowo myląca lub tendencyjna informacja. Może zawierać manipulowane narracje i fakty. Innymi słowy, jest to propaganda.

Raport z 2019 roku opracowany przez badaczy z Uniwersytetu Oksfordzkiego szczegółowo opisał zorganizowane kampanie dezinformacyjne w 70 różnych krajach, w tym Rosji, Chinach, Wietnamie i Gwatemali.

Gospodarka cyfrowa doprowadziła do wzrostu dezinformacji i uprzedzeń w wiadomościach, a technologie sztucznej inteligencji i platformy mediów społecznościowych stały się sposobem na rozpowszechnianie ich wśród mas.

Widzieliśmy wiele przykładów tego. Na przykład, dwa poprzednie amerykańskie wybory prezydenckie były pełne dezinformacji i uprzedzeń, a to z pewnością będzie kontynuowane w przyszłości. Rynki finansowe również były poddawane krótkoterminowej manipulacji za pomocą dezinformacji i uprzedzeń, a sprawy zagraniczne stają się coraz bardziej napięte w wyniku ich użycia. Napięcia społeczne są wywoływane przez fałszywe informacje przeciwko zwolennikom i przeciwnikom konkretnych spraw, a fałszywe wiadomości są wszechobecne w niemal każdym kraju.

Nasza zależność od mediów społecznościowych i algorytmów uczyniła nas niezwykle podatnymi na dezinformację i uprzedzenia, a stało się łatwo manipulować dużymi grupami ludzi.

Zgodnie z esejem zatytułowanym „Uprzedzenia czynią ludzi podatnymi na dezinformację rozpowszechnianą przez media społeczne”, opublikowanym przez The Conversation, sieć mediów non profit, istnieją trzy rodzaje uprzedzeń, które czynią ekosystem mediów społecznościowych podatnym na celową i niecelową dezinformację. Ważne jest, aby uznać, że większość naszych wiadomości pochodzi obecnie z mediów społecznościowych.

Trzy rodzaje uprzedzeń to:

  1. Uprzedzenia w mózgu: „Błędy poznawcze pochodzą z tego, jak mózg przetwarza informacje, które każda osoba spotyka każdego dnia.”
  2. Uprzedzenia w społeczeństwie: „Kiedy ludzie łączą się bezpośrednio ze swoimi rówieśnikami, uprzedzenia społeczne, które kierują ich wyborem przyjaciół, zaczynają wpływać na informacje, które widzą.”
  3. Uprzedzenia w maszynie: „Trzecia grupa uprzedzeń pochodzi bezpośrednio z algorytmów używanych do określenia, co ludzie widzą w sieci. Zarówno platformy mediów społecznościowych, jak i wyszukiwarki używają ich.”

To połączenie uprzedzeń stworzyło idealne środowisko dla podmiotów działających w złej wierze, aby używać naszych obecnych platform informacyjnych jako sposobu na rozpowszechnianie dezinformacji. Ale ważne jest, aby uznać, że stronniczość jest również obecna poza tym zakresem. Zwykłe raporty i artykuły są narażone na stronniczość ze względu na własne skłonności autora lub publikacji. To nic nowego.

Rozwiązania sztucznej inteligencji dla dezinformacji i uprzedzeń

Rozwój sztucznej inteligencji zapewnił nam wiele nowych i innowacyjnych narzędzi, które można wykorzystać do walki z dezinformacją i uprzedzeniami w wiadomościach.

Na przykład, gdy jest odpowiednio zaprojektowana, sztuczna inteligencja może skutecznie wykryć i usunąć pewne dezinformacje i inne problematyczne treści w sieci. Jest już używana do identyfikowania fałszywych botów przez firmy takie jak Google (GOOGL ), Twitter i Facebook. A fałszywe boty są często używane do rozpowszechniania dezinformacji i tendencyjnych wiadomości.

Nowe ramy sztucznej inteligencji muszą być zbadane, aby rozwiązać ten problem, a istniejące muszą być udoskonalone, ponieważ wiele z nich okazało się problematyczne. Problemy te zaczynają stawać się jeszcze bardziej niebezpieczne, gdy pojawiają się konflikty. Na przykład, konflikty wojskowe, takie jak obecny konflikt Rosji i Ukrainy, prowadzą do rozpowszechniania dezinformacji w niezwykle szybkim tempie.

Trwają prace nad wieloma narzędziami wspomaganych przez sztuczną inteligencję. Na przykład, NT CONNECT, międzynarodowy deweloper technologii, ogłosił niedawno uruchomienie swojej aplikacji agregującej wiadomości, NOOZ.AI. Silnik analityczny języka wspomagany przez sztuczną inteligencję ma na celu przynieść przejrzystość do polarizujących uprzedzeń znalezionych w dzisiejszych mediach. Stara się to osiągnąć, utrzymując czytelników świadomych wpływu mediów przed przeczytaniem artykułu.

„Autorzy lub dziennikarze mają tendencję do skłaniania się ku określonemu uprzedzeniu – często bez wiedzy czytelnika”, mówi komunikat prasowy firmy. „Poprzez znajomość historycznego uprzedzenia autora i źródeł wiadomości, konsumenci mogą zbadać artykuł z bardziej obiektywnym umysłem i oprzeć się manipulacji, aby myśleć w określony sposób o jakimkolwiek przedmiocie.”

Narzędzie NOOZ.AI opiera się na czterech kluczowych filarach:

  • Analiza opinii: Pomaga czytelnikom określić obecność osobistych uczuć, poglądów, przekonań lub osądów w piśmie dziennikarza.
  • Analiza sentymentu: Narzędzie używa analizy sentymentu, aby pomóc czytelnikom ocenić poparcie lub sprzeciw pisarza wobec ogólnych treści wiadomości lub konkretnego tematu.
  • Analiza propagandy: Może wykryć potencjalną dezinformację, identyfikując użycie do 18 możliwych technik perswazji.
  • Analiza rewizji: Czytelnicy mogą zbadać ewolucję wiadomości i manipulację opinią i sentymentem w czasie.

Aplikacja zapewnia wyniki dla każdego artykułu, z wynikami opinii w zakresie od 0 do 100 i wynikami sentymentu w zakresie od -100 do 100. Śledzi również wszystkie edycje tekstu dla każdej rewizji i daje czytelnikom możliwość porównania różnych wersji.

Według Garry Paxinos, CTO w NT CONNECT:

„Uprzedzenia w raporcie są poważnym problemem we współczesnym społeczeństwie. Dezinformacja jest najczęściej używanym i nadużywanym modnym terminem. Ale rzeczywistość jest taka, że język sam w sobie może być użyty do manipulacji i przekonywania czytelnika. Poprzez obiektywną analizę języka unikamy subiektywnej stronniczości znalezionej w innych podejściach. W przeciwieństwie do subiektywnego oznaczania dezinformacji, nasze podejście polega na uświadamianiu, w jaki sposób można być manipulowanym za pomocą wyolbrzymionych nagłówków, historii rewizji i tekstu artykułów.”

Alex prowadzi operacje informacyjne zasilane AI w Unite.AI, łącząc dziennikarstwo, badania i automatyzację, aby wspierać terminowe i skalowalne relacjonowanie sztucznej inteligencji. Jego praca pomaga zapewnić, że nowe osiągnięcia w dziedzinie AI są prezentowane efektywnie, przy zachowaniu standardów redakcyjnych publikacji.