Wykrywanie mowy nienawiści za pomocą sztucznej inteligencji w celu walki ze stereotypami i dezinformacją

Dziś internet jest krwią życia globalnej komunikacji i połączenia. Jednak wraz z tą bezprecedensową łącznością online, świadkujemy również ciemnej strony ludzkiego zachowania, czyli mowy nienawiści, stereotypów i szkodliwych treści. Problemy te przeniknęły do mediów społecznościowych, forów internetowych i innych wirtualnych przestrzeni, powodując trwałe szkody dla jednostek i społeczeństwa. Stąd potrzeba wykrywania mowy nienawiści.

Zgodnie z Pew Research Center, 41% amerykańskich dorosłych twierdzi, że osobiście doświadczyło internetowego wykorzystania, a 25% to ofiary ciężkiego prześladowania.

Aby stworzyć bardziej pozytywne i szanujące środowisko online, niezbędne jest przyjęcie proaktywnych środków i wykorzystanie potęgi technologii. W tym zakresie sztuczna inteligencja (AI) zapewnia innowacyjne rozwiązania w celu wykrycia i zwalczania mowy nienawiści i stereotypów.

Ograniczenia obecnych technik łagodzenia & Potrzeba proaktywnych środków

Obecne środki łagodzenia mowy nienawiści są ograniczone. Nie mogą one skutecznie powstrzymać rozprzestrzeniania się szkodliwych treści w sieci. Ograniczenia te obejmują:

• Reaktywne podejścia, które w dużej mierze opierają się na moderacji przez ludzi i statycznych algorytmach, mają trudności z nadążaniem za szybkim rozprzestrzenianiem się mowy nienawiści.
• Ogromna ilość treści online przytłacza moderatorów, powodując opóźnione reakcje i pomijanie przypadków szkodliwej retoryki.
• Ponadto, zrozumienie kontekstu i ewoluujące niuanse języka stanowią wyzwania dla systemów automatycznych w celu identyfikacji i interpretacji przypadków mowy nienawiści.

Aby rozwiązać te ograniczenia i stworzyć bezpieczniejsze środowisko online, niezbędna jest zmiana ku proaktywnym środkom. Przyjmując środki oparte na sztucznej inteligencji, możemy umocnić nasze społeczności cyfrowe, promując inkluzję i spójne środowisko online.

Identyfikacja i oznaczanie mowy nienawiści za pomocą AI

W walce z mową nienawiści, AI jawi się jako potężny sojusznik, z algorytmami machine learning (ML) w celu identyfikacji i oznaczania szkodliwych treści w szybki i dokładny sposób. Analizując ogromne ilości danych, modele AI mogą nauczyć się rozpoznawać wzorce i niuanse języka związane z mową nienawiści, umożliwiając im skuteczne klasyfikowanie i reagowanie na obraźliwe treści.

Aby przeszkolić modele AI do dokładnego wykrywania mowy nienawiści, stosuje się techniki uczenia nadzorowanego i nienadzorowanego. Uczenie nadzorowane polega na dostarczaniu oznaczonych przykładów mowy nienawiści i nieobraźliwych treści, aby nauczyć model rozróżniać między tymi dwiema kategoriami. W przeciwieństwie do tego, techniki uczenia nienadzorowanego i półnadzorowanego wykorzystują nieoznaczone dane, aby rozwijać zrozumienie modelu mowy nienawiści.

Wykorzystanie technik przeciwmowy AI w celu walki z mową nienawiści

Przeciwmowa jawi się jako potężna strategia walki z mową nienawiści, bezpośrednio wyzywając i rozprawiając się z szkodliwymi narracjami. Obejmuje generowanie przekonywujących i informacyjnych treści w celu promowania empatii, zrozumienia i tolerancji. Umożliwia jednostkom i społecznościom aktywne uczestniczenie w tworzeniu pozytywnego środowiska cyfrowego.

Chociaż szczegółowe informacje o poszczególnych modelach przeciwmowy mogą się różnić w zależności od technologii AI i podejść developerskich, niektóre wspólne cechy i techniki obejmują:

• Generowanie języka naturalnego (NLG): Modele przeciwmowy wykorzystują NLG do tworzenia ludzkich odpowiedzi w formie pisanej lub mówionej. Odpowiedzi są spójne i kontekstowo istotne dla konkretnego przypadku mowy nienawiści, której się przeciwstawiają.
• Analiza sentymentu: Modele przeciwmowy AI wykorzystują analizę sentymentu, aby ocenić emocjonalny ton mowy nienawiści i dostosować swoje odpowiedzi odpowiednio. Zapewnia to, że przeciwmowa jest zarówno skuteczna, jak i empatyczna.
• Zrozumienie kontekstu: Analizując kontekst otaczający mowę nienawiści, modele przeciwmowy mogą generować odpowiedzi, które rozprawiają się z konkretnymi problemami lub nieporozumieniami, przyczyniając się do bardziej skutecznej i ukierunkowanej przeciwmowy.
• Różnorodność danych: Aby uniknąć uprzedzeń i zapewnić sprawiedliwość, modele przeciwmowy są szkolone na różnorodnych zbiorach danych reprezentujących różne perspektywy i niuanse kulturowe. Pomaga to w generowaniu inkluzywnych i wrażliwych na kulturę odpowiedzi.
• Uczenie się z opinii użytkowników: Modele przeciwmowy mogą ciągle się poprawiać, ucząc się z opinii użytkowników. Ten obieg informacji umożliwia modelowi udoskonalenie swoich odpowiedzi na podstawie rzeczywistych interakcji, zwiększając ich skuteczność w czasie.

Przykłady walki z mową nienawiści za pomocą AI

Rzeczywistym przykładem techniki przeciwmowy AI jest “Metoda przekierowania” opracowana przez Google’s Jigsaw i Moonshot CVE. Metoda przekierowania wykorzystuje ukierunkowaną reklamę, aby dotrzeć do osób podatnych na ekstremistyczne ideologie i mowę nienawiści. Ten podejście oparty na AI ma na celu odwiedzenie osób od angażowania się w szkodliwe treści i promowanie empatii, zrozumienia i odejścia od ekstremistycznych przekonań.

Badacze opracowali również nowy model AI o nazwie BiCapsHate, który działa jako potężne narzędzie przeciwko mowie nienawiści online, jak opisano w IEEE Transactions on Computational Social Systems. Wspiera on dwukierunkową analizę języka, poprawiając zrozumienie kontekstu dla dokładnego określenia nienawistnych treści. Ten postęp ma na celu złagodzenie szkodliwego wpływu mowy nienawiści na media społecznościowe, oferując potencjał dla bezpieczniejszych interakcji online.

Podobnie, badacze z University of Michigan wykorzystali AI do walki z mową nienawiści online, stosując podejście o nazwie Rule By Example (RBE). Wykorzystując głębokie uczenie, podejście to uczy się reguł klasyfikacji mowy nienawiści na podstawie przykładów nienawistnych treści. Reguły te są stosowane do tekstu wejściowego, aby identyfikować i przewidywać mowę nienawiści online w sposób dokładny.

Etyczne rozważania dla modeli wykrywania mowy nienawiści

Aby maksymalizować skuteczność modeli przeciwmowy AI, etyczne rozważania są niezwykle ważne. Jednak równie ważne jest znalezienie balansu między wolnością słowa a zakazem rozpowszechniania szkodliwych treści, aby uniknąć cenzury.

Przejrzystość w tworzeniu i wdrażaniu modeli przeciwmowy AI jest niezbędna, aby zapewnić zaufanie i odpowiedzialność wśród użytkowników i interesariuszy. Równie ważne jest zapewnienie sprawiedliwości, ponieważ uprzedzenia w modelach AI mogą utrwalać dyskryminację i wykluczenie.

Na przykład, AI zaprojektowany do identyfikacji mowy nienawiści może nieumyślnie nasilić rasowe uprzedzenia. Badania wykazały, że czołowe modele AI do wykrywania mowy nienawiści były 1,5 raza bardziej skłonne do oznaczania tweetów afroamerykańskich jako obraźliwe. Były one 2,2 raza bardziej skłonne do oznaczania tweetów jako mowę nienawiści, które zostały napisane w afroamerykańskim angielskim. Podobne dowody pojawiły się w badaniu 155 800 postów związanych z mową nienawiści na Twitterze, podkreślając wyzwanie rozwiązania problemu rasowych uprzedzeń w moderowaniu treści AI.

W innym badaniu, badacze przetestowali cztery systemy AI do wykrywania mowy nienawiści i stwierdzili, że wszystkie one mają trudności z dokładnym identyfikowaniem toksycznych zdań. Aby zdiagnozować dokładne problemy w tych modelach wykrywania mowy nienawiści, stworzyli taksonomię 18 typów mowy nienawiści, w tym obraźliwych słów i groźb. Wskazali również 11 scenariuszy, które utrudniają AI, takich jak używanie wulgaryzmów w nieobraźliwych wypowiedziach. W efekcie badanie wyprodukowało HateCheck, otwarty zbiór danych składający się z prawie 4 000 przykładów, mający na celu poprawę zrozumienia niuansów mowy nienawiści przez modele AI.

Świadomość i umiejętności cyfrowe

Walka z mową nienawiści i stereotypami wymaga proaktywnego i wielowymiarowego podejścia. Dlatego też podnoszenie świadomości i promowanie umiejętności cyfrowych jest kluczowe w walce z mową nienawiści i stereotypami.

Edukowanie osób o wpływie szkodliwych treści na kształtowanie się kultury empatii i odpowiedzialnego zachowania online. Strategie, które zachęcają do myślenia krytycznego, umożliwiają użytkownikom odróżnienie prawomocnych dyskusji od mowy nienawiści, zmniejszając rozpowszechnianie szkodliwych narracji. Ponadto, wyposażenie użytkowników w umiejętności identyfikowania i skutecznego reagowania na mowę nienawiści jest niezwykle ważne. To umożliwi im wyzwanie i przeciwdziałanie szkodliwej retoryce, przyczyniając się do bezpieczniejszego i bardziej szanującego środowiska cyfrowego.

W miarę ewolucji technologii AI, potencjał do rozwiązania problemu mowy nienawiści i stereotypów z większą precyzją i wpływem rośnie wykładniczo. Dlatego też ważne jest umocnienie AI-opartej przeciwmowy jako potężnego narzędzia w kształtowaniu empatii i pozytywnego zaangażowania online.

Dla uzyskania więcej informacji na temat trendów i technologii AI, odwiedź unite.ai.