TextFooler Algorithm Fools NLP AI

Algorîtma û pergalên hilberandina zimanê xwezayî di van salên dawî de her çend balkêş bûne, ew hîn jî ji celebek îstîsmarê ku wekî "mînakek dijber" tê zanîn xeternak in. Mînakên dijber ên bêjeyên bi baldarî hatine çêkirin ku dikarin bibin sedema ku pergalek NLP bi awayên nediyar û nexwestî tevbigere. Bernameyên AI-ê dikarin bi van mînakên xerîb re xelet tevbigerin, û di encamê de, lêkolînerên AI-ê hewl didin ku rêyên ji bo parastina li hember bandorên mînakên dijber dîzayn bikin.

Di van demên dawî de, tîmek lêkolîner hem ji Zanîngeha Hong Kongê û hem jî ji Ajansa Zanist, Teknolojî û Lêkolînê li Sîngapurê ji bo afirandina algorîtmayek ku xetera mînakên dijber destnîşan dike hevkarî kirin. Wekî ku Wired ragihand, algorîtma hate dublajkirin TextFooler ji hêla tîmê lêkolînê ve û ew bi hûrgulî beşên hevokê diguhezîne, bandor dike ka çawa dabeşkerek NLP dikare hevokê şîrove bike. Mînakî, algorîtmayek hevokek veguherand hevokek din a mîna hev û hevok di nav dabeşkerek hatî çêkirin da ku diyar bike ka vekolînek neyînî an erênî ye. Hevoka eslî ev bû:

“Karakter, bi awayekî nepêkandî hatine avêtin çêkirî rewş, in giştî ji rastiyê dûr ketine.”

Bûye vê hevokê:

“Karakter, bi awayekî nepêkandî hatine avêtin pispor rewş, in bi temamî ji rastiyê dûr ketine.”

Van guheztinên nazik teşwîq kir ku dabeşkera nivîsê li şûna negatîf, nirxandinê wekî erênî binav bike. Tîma lêkolînê heman nêzîkatî (guheztina hin peyvan bi hevwateyan) li ser gelek danehevên cihêreng û algorîtmayên dabeşkirina nivîsê ceriband. Tîma lêkolînê radigihîne ku wan karîbû rastbûna dabeşkirina algorîtmayek ji %10 dakeve tenê %90. Ev tevî wê yekê ye ku kesên van hevokan dixwînin dê wan bi heman wateyê şîrove bikin.

Van encam di serdemek ku algorîtmayên NLP û AI-ê her ku diçe bêtir têne bikar anîn, û ji bo karên girîng ên wekî nirxandina îdîayên bijîjkî an analîzkirina belgeyên qanûnî têkildar in. Nayê zanîn ka ji bo nimûneyên dijber ên algorîtmayên ku niha têne bikar anîn çiqas xeternak in. Tîmên lêkolînê li çaraliyê cîhanê hîn jî hewl didin ku diyar bikin ka çiqas bandorek wan dikare hebe. Di van demên dawî de, raporek ku ji hêla koma AI-yê ya Stanford-Navenda Mirovan ve hatî weşandin pêşniyar kir ku mînakên dijber dikarin algorîtmayên AI bixapînin û ji bo sextekariya bacê werin bikar anîn.

Di lêkolîna dawî de hin sînor hene. Mînakî, dema ku Sameer Singh, alîkarê profesorê zanistiya komputerê li UC Irvine, destnîşan dike ku rêbaza dijber a ku hatî bikar anîn bandorker bû, ew xwe dispêre hin zanyariyên mîmariya AI-ê. Pêdivî ye ku AI çend caran were lêkolîn kirin heya ku komek peyvan bi bandor were dîtin, û dibe ku êrîşên wusa dubare ji hêla bernameyên ewlehiyê ve werin dîtin. Singh û hevkarên xwe lêkolîna xwe li ser vê mijarê kirine û dîtin ku pergalên pêşkeftî yên mîna algorîtmayên OpenAI dikarin nivîsek nijadperest, zirardar bigihînin dema ku bi hin hevokên teşwîqê têne xwestin.

Mînakên dijber di heman demê de dema ku bi daneyên dîtbarî yên mîna wêne an vîdyoyê re mijûl dibin pirsgirêkek potansiyel in. Nimûneyek navdar pêkanîna hin veguheztinên dîjîtal ên nazik li ser wêneyek pitikek heye, ku dabeşkerê wêneyê dike. ji bo şîrovekirina wê wekî monitor an PC-ya sermaseyê. Di mînakek din de, lêkolîna ku ji hêla profesorê UC Berekely Dawn Song ve hatî çêkirin dît ku mînakên dijberî dikarin werin bikar anîn da ku biguhezînin ka nîşanên rê ji hêla pergalên dîtina komputerê ve têne fêm kirin, ku dibe ku ji bo wesayîtên xweser xeternak be.

Lêkolînek mîna ya ku ji hêla tîmê Hong Kong-Singapore ve hatî kirin dikare ji endezyarên AI-ê re bibe alîkar ku çêtir fam bikin ka algorîtmayên AI-ê çi cûreyên lawaziyê hene, û bi potansiyel rêyên ji bo parastina li hember van qelsiyan sêwirînin. Mînakî, dabeşkerên ensembleyê dikarin werin bikar anîn da ku şansê ku mînakek dijber bikaribe pergala dîtina komputerê bixapîne kêm bike. Bi vê teknîkê re, hejmareke dabeşker têne bikar anîn û di wêneya têketinê de veguherînên sivik têne çêkirin. Piraniya dabeşkeran dê bi gelemperî aliyên naveroka rastîn a wêneyê nas bikin, ku paşê bi hev re têne berhev kirin. Encam ev e ku heke çend ji dabeşkeran jî werin xapandin, piraniya wan dê nebin û wêne dê bi rêkûpêk were dabeş kirin.