Têkoşîna Axaftina Nefretê ya AI-yê ji bo Têkoşîna Stereotyping & Dezenformasyonê

Îro, înternet jiyana ragihandin û girêdana gerdûnî ye. Lêbelê, bi vê girêdana serhêl a bêhempa, em di heman demê de dibin şahidê aliyê tarî yê tevgera mirovî, ango axaftina nefretê, stereotip û naveroka zirardar. Van pirsgirêkan li ser medyaya civakî, forumên serhêl, û deverên din ên virtual ketine, zirarek mayînde li kes û civakê kiriye. Ji ber vê yekê, pêdivî bi tespîtkirina axaftina nefretê heye.

Li gorî Navenda Lêkolînê ya Pew, 41% ji mezinên Amerîkî dibêjin ku ew bi xwe rastî destdirêjiya înternetê hatine, û 25% mexdûrên tacîzên dijwar in.

Ji bo teşwîqkirina jîngehek serhêl a erênî û rêzdar, hembêzkirina tedbîrên aktîf û karanîna hêza teknolojiyê pêdivî ye. Di vî warî de, Îstixbarata Hunerî (AI) çareseriyên nûjen peyda dike da ku axaftin û stereotipên nefretê kifş bike û çareser bike.

Sînorkirinên Teknîkên Kêmkirinê yên Niha & Pêdiviya Tedbîrên Proaktîf

Tedbîrên heyî yên ji bo kêmkirina axaftina nefretê sînordar in. Ew nikarin bi bandor belavbûna naveroka zirardar a serhêl asteng bikin. Van sînoran ev in:

• Nêzîkatiyên reaktîf, ku bi giranî xwe dispêrin nermbûna mirovan û algorîtmayên statîk, têdikoşin ku bi belavbûna bilez a axaftina nefretê re rêve bibin.
• Hêjmara zêde ya naveroka serhêl moderatorên mirovî dişewitîne, di encamê de bersivên derengmayî û mînakên retorîka zerardar ên winda ne.
• Di heman demê de, têgihîştina çarçove û hûrgelên ziman ên pêşkeftî ji pergalên otomatîk re dijwariyan çêdike ku mînakên axaftina nefretê bi rast nas bikin û şîrove bikin.

Ji bo çareserkirina van tixûban û teşwîqkirina jîngehek serhêl a ewledar, guheztinek berbi tedbîrên proaktîf pêdivî ye. Bi pejirandina tedbîrên bi AI-ê ve, em dikarin civakên xwe yên dîjîtal xurt bikin, tevlêbûn û cîhanek serhêl a hevgirtî teşwîq bikin.

Nasîn û alaqa Axaftina Nefretê Bi Bikaranîna AI

Di şerê li dijî axaftina nefretê de, AI wekî hevalbendek berbiçav derdikeve holê, bi algorîtmayên fêrbûna makîneyê (ML) re ku naveroka zirardar bi lez û bez nas bike û ala bike. Bi analîzkirina jimarek mezin a daneyan, modelên AI-ê dikarin fêr bibin ku qalib û nîgarên zimanî yên ku bi axaftina nefretê re têkildar in nas bikin, ji wan re bihêle ku bi rengek bandor li naveroka êrîşkar kategorîze bikin û bersivê bidin.

Ber modelên AI-ê perwerde bikin ji bo rast axiftina Kînî teknîkên fêrbûnê yên tesbîtkirin, çavdêrîkirin û neçavdêrî têne bikar anîn. Fêrbûna çavdêrîkirî pêşkêşkirina nimûneyên binavkirî yên axaftina nefretê û naveroka ne-zerardar peyda dike da ku modelê fêr bike ku di navbera her du kategoriyan de ji hev cihê bike. Berevajî vê, rêbazên fêrbûnê yên neçavdêrî û nîv-serperiştkirî daneyên nenavkirî bikar tînin da ku têgihîştina modelê ya axaftina nefretê pêşve bibin.

Ji bo Têkoşîna Li Dijî Axaftina Nefretê Bi Karanîna Teknîkên Dij-Axaftina AI-yê

Counterspeech wekî stratejiyek hêzdar a şerkirinê derdikeve holê axiftina Kînî bi rasterast bi dijwarî û lêdana vegotinên zirardar. Ew hilberandina naverokek dilnizm û agahdar dike ku empatî, têgihiştin û toleransê pêşve bibe. Ew hêz dide kes û civakan ku bi rengek çalak beşdarî afirandina jîngehek dîjîtal a erênî bibin.

Digel ku hûrguliyên taybetî yên modelên dijberî axaftina kesane li ser bingeha teknolojiya AI-ê û nêzîkatiyên pêşkeftinê cûda dibe, hin taybetmendî û teknîkên hevpar ev in:

• Nifşa Zimanê Xwezayî (NLG): Modelên dijberî axaftinê NLG-ê bikar tînin da ku bersivên mîna mirovan di forma nivîskî an axaftinê de hilberînin. Bersiv bi mînaka taybetî ya axaftina nefretê ya ku li dijî wê tê kirin re hevgirtî û bi çarçowe re têkildar in.
• Analîzasyona Hişmendiyê: Modelên dijberî axaftinê yên AI-ê analîza hestyarî bikar tînin da ku dengê hestyarî ya axaftina nefretê binirxînin û bersivên wan li gorî xwe biguncînin. Ev piştrast dike ku axaftina dijber hem bandorker û hem jî empatîk e.
• Têgihiştina Naverok: Bi analîzkirina çarçoweya li dora axavtina nefretê, modelên dijberî axaftinê dikarin bersivên ku li ser mijarên taybetî an têgihiştinên xelet têne destnîşan kirin, biafirînin, beşdarî li dijî axiftina bi bandortir û baldartir bibin.
• Pirrengiya daneyan: Ji bo ku ji alîgiriyan dûr nekevin û dadmendiyê misoger bikin, modelên dijberî axaftinê li ser danehevên cihêreng ên ku perspektîfên cihêreng û nuwazeyên çandî temsîl dikin têne perwerde kirin. Ev di afirandina bersivên tevhev û hesas ên çandî de dibe alîkar.
• Fêrbûna ji Bersiva Bikarhêner: Modelên dijberî axaftinê dikarin bi hînbûna ji bertekên bikarhêner bi domdarî baştir bibin. Ev lûleya bersivê dihêle ku model bersivên xwe li ser bingeha danûstendinên cîhana rastîn safî bike, û bandora xwe bi demê re zêde bike.

Nimûneyên Têkoşîna Bi Axaftina Nefretê Bi Bikaranîna AI

Nimûneyek cîhana rastîn a teknîkek dijberî AI-ê ev e "Rêbaza Beralîkirin” pêşxistin ji aliyê Jigsaw ya Google û Moonshot CVE. Rêbaza Beralîkirinê reklamên armanckirî bikar tîne da ku bigihîje kesên ku ji îdeolojiyên tundrew û axaftina nefretê re têkildar in. Armanca vê nêzîkatiya bi AI-ê ew e ku kesan ji tevlêbûna naverokek zirardar dûr bixe û empatî, têgihiştin û dûrketina ji baweriyên tundrew pêşve bixe.

Lekolînwanan jî modelek nû ya AI-ê bi navê pêşve xistin BiCapsHate ku wekî amûrek bihêz li dijî axaftina nefretê ya serhêl tevdigere, wekî ku tê de hate ragihandin Danûstandinên IEEE li ser Pergalên Civakî yên Hesabkirî. Ew analîzek dualî ya ziman piştgirî dike, ji bo destnîşankirina rast a naveroka nefret têgihîştina çarçovê zêde dike. Ev pêşkeftin hewl dide ku bandora zirarê ya axaftina nefretê ya li ser medyaya civakî sivik bike, potansiyela danûstendinên serhêl ên ewledar pêşkêşî dike.

Bi heman awayî, lêkolînerên li Zanîngeha Michigan AI-ê bi kar anîne da ku li dijî axaftina nefretê ya serhêl bi karanîna nêzîkatiyek bi navê şer bikin Rêbaz Bi Nimûne (RBE). Bi karanîna fêrbûna kûr, ev nêzîkatî qaîdeyên dabeşkirina axaftina nefretê ji mînakên naveroka nefret fêr dibe. Van qaîdeyan ji bo têketina nivîsê têne sepandin da ku axaftina nefretê ya serhêl rast nas bike û pêşbîn bike.

Nêrînên Etîkî yên ji bo Modelên Tespîtkirina Axaftina Nefretê

Ji bo zêdekirina bandorkeriya modelên dijberî-axaftina bi AI-ê, ramanên exlaqî serekî ne. Lêbelê, girîng e ku hevsengiya axaftina azad û qedexekirina belavkirina naveroka zirardar were girtin da ku ji sansurê dûr bikevin.

Zelalbûn di pêşkeftin û bicîhkirina modelên dijberî axaftina AI-ê de ji bo bihêzkirina bawerî û berpirsiyariyê di nav bikarhêner û beşdaran de pêdivî ye. Di heman demê de, temînkirina dadmendiyê bi heman rengî girîng e, wekî pêşbaziyên di modelên AI-ê de dikare cihêkarî û dûrxistinê berdewam bike.

Mînakî, AI-ya ku ji bo destnîşankirina axaftina nefretê hatî sêwirandin dikare bêhemdî zêde bike biasiya nijadî. Lêkolînê diyar kir ku modelên pêşeng ên axaftina nefretê ya AI-ê 1.5 qat zêdetir dibe ku tweetên Afrîkî-Amerîkî wekî êrîşkar nîşan bidin. Ew 2.2 qat zêdetir îhtîmal e ku tweetên ku tê de têne nivîsandin wekî axaftinên nefretê nîşan bidin Afrîkî-Amerîkî English. Delîlên bi vî rengî ji lêkolînek li ser 155,800 postên Twitter-ê yên têkildarî axaftinên nefretê derketin holê, ku dijwariya çareserkirina neyartiya nijadî di naverastkirina naveroka AI-ê de ronî dike.

Din xwendina zanko, lêkolîneran çar pergalên AI-ê ji bo tespîtkirina axaftina nefretê ceriband û dît ku hemî ji wan re têdikoşin ku bi rastî hevokên jehrîn nas bikin. Ji bo teşhîskirina pirsgirêkên rast ên di van modelên tespîtkirina axaftina nefretê de, wan taksonomiyek ji 18 cûreyên axaftina nefretê, di nav de çêr û zimanê tehdîdkar jî, ava kirin. Di heman demê de wan 11 senaryoyên ku AI-ê vedişêrin jî ronî kirin, wek mînak bikaranîna bêbextiyê di gotinên ne-nefret de. Wekî encamek, lêkolînek çêkir HateCheck, komek daneya çavkaniya vekirî ya hema hema 4,000 mînakan, armanc dike ku têgihîştina hûrgelên axaftina nefretê ji bo modelên AI-ê zêde bike.

Hişyarî & Xwendina Dîjîtal

Têkoşîna li dijî axaftinên nefretê û stereotip nêzîkatiyek aktîf û piralî dixwaze. Ji ber vê yekê, bilindkirina hişmendiyê û pêşvebirina xwende-nivîsendetiya dîjîtal di şerê li dijî axaftinên nefretê û stereotip de girîng e.

Perwerdekirina kesan di derbarê bandora naveroka zerardar de çandek empatî û behreya serhêl a berpirsiyar çêdike. Stratejiyên ku ramana rexnegir teşwîq dikin, bikarhêneran hêz dide ku di navbera axaftinên rewa û axaftina nefretê de ji hev cuda bikin, belavbûna vegotinên zirardar kêm dike. Di heman demê de, peydakirina bikarhêneran bi jêhatîbûnên ku nas bikin û bi bandor bersivê bidin axaftina nefretê jî girîng e. Ew ê hêzê bide wan ku li hember retorîka zirardar bixebitin û li ber xwe bidin, beşdarî jîngehek dîjîtal a ewledar û rêzdartir bibin.

Her ku teknolojiya AI-ê pêş dikeve, potansiyela çareserkirina axaftinên nefretê û stereotipên bi rastbûn û bandorek mezintir bi qat zêde dibe. Ji ber vê yekê, girîng e ku meriv axaftina dijberî-hêza AI-ê wekî amûrek hêzdar di xurtkirina empatî û tevlêbûna erênî ya serhêl de xurt bike.

Ji bo bêtir agahdarî di derbarê meyl û teknolojiya AI-ê de, biçin yekbûn.ai.