Detectarea discursului urât și a stereotipurilor cu ajutorul inteligenței artificiale pentru a combate discriminarea și dezinformarea

Astăzi, internetul este esența comunicării și conectivității globale. Cu toate acestea, odată cu această conectivitate online fără precedent, asistăm și la partea întunecată a comportamentului uman, și anume discursul urât, stereotipurile și conținutul dăunător. Aceste probleme au pătruns în rețelele sociale, forumurile online și alte spații virtuale, provocând daune durabile indivizilor și societății. Prin urmare, este nevoie de detectarea discursului urât.

Conform Centrului de Cercetare Pew, 41% dintre adulții americani spun că au întâlnit abuzuri pe internet, iar 25% sunt victime ale hărțuirii severe.

Pentru a promova un mediu online mai pozitiv și respectuos, este esențial să adoptăm măsuri proactive și să valorificăm puterea tehnologiei. În acest sens, Inteligența Artificială (IA) oferă soluții inovatoare pentru a detecta și combate discursul urât și stereotipurile.

Limitările tehnicilor de mitigare actuale și nevoia de măsuri proactive

Măsurile actuale de mitigare a discursului urât sunt limitate. Ele nu pot preveni eficient răspândirea conținutului dăunător online. Aceste limitări includ:

• Abordările reactive, care se bazează în principal pe moderarea umană și algoritmii statici, nu pot ține pasul cu răspândirea rapidă a discursului urât.
• Volumul imens de conținut online copleșește moderatorii umani, rezultând în răspunsuri întârziate și exemple de retorică dăunătoare neglijate.
• Înțelegerea contextuală și nuanțele evolutive ale limbajului prezintă provocări pentru sistemele automate în identificarea și interpretarea exemplarelor de discurs urât.

Pentru a aborda aceste limitări și a promova un mediu online mai sigur, este necesară o schimbare către măsuri proactive. Prin adoptarea măsurilor bazate pe IA, putem consolida comunitățile noastre digitale, promovând incluziunea și o lume online coezivă.

Identificarea și semnalizarea discursului urât cu ajutorul IA

În lupta împotriva discursului urât, IA devine un aliat puternic, cu algoritmi de învățare automată (ML) pentru a identifica și semnaliza conținutul dăunător rapid și precis. Prin analizarea unor cantități imense de date, modelele IA pot învăța să recunoască modele și nuanțe lingvistice asociate cu discursul urât, permițându-le să categorizeze și să răspundă la conținutul ofensiv în mod eficient.

Pentru a antrena modelele IA pentru detectarea precisă a discursului urât, se utilizează tehnici de învățare supervizată și nesupervizată. Învățarea supervizată implică furnizarea de exemple etichetate de discurs urât și conținut ne-dăunător pentru a preda modelului să distingă între cele două categorii. În contrast, metodele de învățare nesupervizată și semi-supervizată utilizează date ne-etichetate pentru a dezvolta înțelegerea modelului cu privire la discursul urât.

Utilizarea tehnicilor de contra-discurs IA pentru combaterea discursului urât

Contra-discursul devine o strategie puternică pentru a combate discursul urât, provocând și abordând direct narativele dăunătoare. Acesta implică generarea de conținut persuasiv și informativ pentru a promova empatia, înțelegerea și toleranța. Acesta împuternicește indivizi și comunități să participe activ la crearea unui mediu digital pozitiv.

Deși detaliile specifice ale modelelor de contra-discurs pot varia în funcție de tehnologia IA și abordările de dezvoltare, unele caracteristici și tehnici comune includ:

• Generarea limbajului natural (NLG): Modelele de contra-discurs utilizează NLG pentru a produce răspunsuri omenești în formă scrisă sau vorbită. Răspunsurile sunt coerente și contextual relevante pentru exemplarul specific de discurs urât pe care îl contrazic.
• Analiza sentimentului: Modelele IA de contra-discurs utilizează analiza sentimentului pentru a evalua tonul emoțional al discursului urât și pentru a-și adapta răspunsurile în consecință. Acest lucru asigură că contra-discursul este atât impactant, cât și empatic.
• Înțelegerea contextuală: Prin analizarea contextului care înconjoară discursul urât, modelele de contra-discurs pot genera răspunsuri care abordează probleme sau concepții greșite specifice, contribuind la contra-discurs mai eficient și focalizat.
• Diversitatea datelor: Pentru a evita prejudecățile și a asigura echitatea, modelele de contra-discurs sunt antrenate pe seturi de date diverse care reprezintă perspective și nuanțe culturale variate. Acest lucru ajută la generarea de răspunsuri incluzive și sensibile cultural.
• Învățarea din feedback-ul utilizatorilor: Modelele de contra-discurs pot îmbunătăți continuu prin învățarea din feedback-ul utilizatorilor. Acest buclă de feedback permite modelului să-și rafineze răspunsurile pe baza interacțiunilor din lumea reală, îmbunătățindu-și eficacitatea în timp.

Exemple de combatere a discursului urât cu ajutorul IA

Un exemplu din lumea reală al unei tehnici de contra-discurs IA este “Metoda Redirect” dezvoltată de Jigsaw de la Google și Moonshot CVE. Metoda Redirect utilizează publicitatea țintită pentru a ajunge la indivizi vulnerabili la ideologii extremiste și discurs urât. Acest abordaj bazat pe IA își propune să descurajeze indivizii de a se implica cu conținut dăunător și să promoveze empatia, înțelegerea și o schimbare de la credințele extremiste.

Cercetătorii au dezvoltat, de asemenea, un model IA inovator numit BiCapsHate care acționează ca un instrument puternic împotriva discursului urât online, așa cum a fost raportat în IEEE Transactions on Computational Social Systems. Acesta susține o analiză bidirecțională a limbajului, îmbunătățind înțelegerea contextuală pentru determinarea precisă a conținutului urât. Acest progres își propune să atenueze impactul dăunător al discursului urât pe rețelele sociale, oferind potențialul pentru interacțiuni online mai sigure.

La fel, cercetătorii de la Universitatea din Michigan au utilizat IA pentru a combate discursul urât online folosind o abordare numită Regula prin Exemplu (RBE). Utilizând învățarea profundă, această abordare învață regulile de clasificare a discursului urât din exemple de conținut urât. Aceste reguli sunt aplicate textului de intrare pentru a identifica și prezice discursul urât online cu precizie.

Considerații etice pentru modelele de detectare a discursului urât

Pentru a maximiza eficacitatea modelelor IA de contra-discurs, considerațiile etice sunt esențiale. Cu toate acestea, este important să se echilibreze libertatea de exprimare și interzicerea răspândirii conținutului dăunător pentru a evita cenzura.

Transparența în dezvoltarea și implementarea modelelor IA de contra-discurs este esențială pentru a promova încrederea și responsabilitatea între utilizatori și stakeholderi. De asemenea, asigurarea echității este la fel de importantă, deoarece prejudecățile din modelele IA pot perpetua discriminarea și excluderea.

De exemplu, IA proiectată pentru a identifica discursul urât poate involuntar amplifica prejudecățile rasiale. Cercetările au arătat că principalele modele IA de detectare a discursului urât erau de 1,5 ori mai probabil să eticheteze tweet-urile afro-americanilor ca ofensivoare. Erau de 2,2 ori mai probabil să eticheteze tweet-urile ca discurs urât cele scrise în engleza afro-americană. Dovezi similare au apărut dintr-un studiu asupra a 155.800 de postări pe Twitter legate de discursul urât, subliniind provocarea de a aborda prejudecățile rasiale în moderarea conținutului IA.

Într-un alt studiu, cercetătorii au testat patru sisteme IA pentru detectarea discursului urât și au constatat că toate luptă pentru a identifica precis propozițiile toxice. Pentru a diagnostica exact problemele din aceste modele de detectare a discursului urât, ei au creat o taxonomie a 18 tipuri de discurs urât, incluzând injurii și limbajul amenințător. De asemenea, au subliniat 11 scenarii care îngreunează IA, cum ar fi utilizarea de profanitate în declarații ne-urâte. Ca rezultat, studiul a produs HateCheck, un set de date deschis cu aproape 4.000 de exemple, având scopul de a îmbunătăți înțelegerea nuanțelor discursului urât pentru modelele IA.

Conștientizarea și alfabetizarea digitală

Combaterea discursului urât și a stereotipurilor necesită o abordare proactivă și multidimensională. Prin urmare, creșterea conștientizării și promovarea alfabetizării digitale este vitală în combaterea discursului urât și a stereotipurilor.

Educația indivizilor cu privire la impactul conținutului dăunător promovează o cultură a empatiei și a comportamentului online responsabil. Strategiile care încurajează gândirea critică împuternicesc utilizatorii să distingă între discursul legitim și discursul urât, reducând răspândirea narativelor dăunătoare. De asemenea, dotarea utilizatorilor cu abilitățile de a identifica și răspunde eficient la discursul urât este vitală. Acest lucru îi va împuternici să provoace și să contrazică retorica dăunătoare, contribuind la un mediu digital mai sigur și mai respectuos.

Pe măsură ce tehnologia IA evoluează, potențialul de a aborda discursul urât și stereotipurile cu o precizie și un impact mai mare crește exponențial. Prin urmare, este important să consolidăm contra-discursul bazat pe IA ca un instrument puternic în promovarea empatiei și a implicării pozitive online.

Pentru mai multe informații despre tendințele și tehnologia IA, vizitați unite.ai.