Xetereyên Chatbotên AI-ê - Û Meriv Çawa Li Dijî Wan

Dema ku wekî bernameyên axaftinê yên otomatîk dihat hesibandin, chatbotên AI-ê naha dikarin danûstendinên ku hema ji mirovan nayên cûda kirin fêr bibin û bikin. Lêbelê, xetereyên chatbotên AI-ê bi heman rengî cihêreng in.

Vana dikarin ji kesên ku wan xelet bikar tînin bigire heya xetereyên ewlehiya sîber ya rastîn. Ji ber ku mirov her ku diçe bi teknolojiya AI-ê ve girêdayî ye, zanîna bertekên potansiyel ên karanîna van bernameyan girîng e. Lê bot xeternak in?

1. Bias û Cudakarî

Yek ji xetereyên herî mezin ên chatbotên AI-ê meyla wan a berbi nerînên zirardar e. Ji ber ku AI di navbera nuqteyên daneyê de ku mirov pir caran ji dest wan nagirin, pêwendiyan çêdike, ew dikare di daneyên perwerdehiya xwe de aligirên nazik, nepenî hilgire da ku xwe fêrî cihêkariyê bike. Wekî encamek, chatbots dikarin zû fêr bibin ku naveroka nijadperestî, zayendperestî an bi rengek din cûdaxwaz bişewitînin, hetta di daneyên perwerdehiya wê de tiştek wusa tund tune.

Mînaka sereke bota kirêkirinê ya hilweşandî ya Amazon e. Di 2018 de, derket holê ku Amazon projeyek AI-ê terikandibû ji ber ku ew serlêdanên jinan ceza dikir. Ji ber ku piraniya rezûyên ku botê li ser hatine perwerde kirin mêr bûn, wê xwe fêr kir ku serlêderên mêr bijartir in, her çend daneyên perwerdehiyê bi eşkere nebêjin.

Chatbots ku naveroka înternetê bikar tînin da ku xwe fêr bikin ka meriv çawa bi xwezayî çawa têkilî daynin meyldar in ku hê bêtir pêşbaziyên tund nîşan bidin. Di sala 2016-an de, Microsoft dest bi chatbotek bi navê Tay kir ku fêrî teqlîdkirina postên medya civakî bû. Di nav çend saetan de, ew dest bi tweetkirina naveroka pir êrîşkar kir, rê dide Microsoft ku berî demek dirêj hesabê rawestîne.

Ger pargîdanî dema ku van botan ava dikin û bicîh dikin haydar nebin, dibe ku ew bi xeletî bibin sedema rewşên bi vî rengî. Chatbots dikarin xerîdaran xirab bikin an naveroka zerardar a ku ew ê pêşî lê bigirin belav bikin.

2. Rîskên ewlehiya sîber

Xetereyên teknolojiya chatbotê ya AI-ê di heman demê de dikare ji mirovan û karsaziyan re xeterek ewlehiya sîberê rasterast jî çêbike. Yek ji celebên herî bikêr ên êrîşên sîber fîshing û xapandinên vishing e. Ev tê de hene êrîşkarên sîber ku rêxistinên pêbawer teqlîd dikin wek bank an dezgehên hikûmetê.

Xapandinên phishing bi gelemperî bi e-name û peyamên nivîsê dixebitin - klîkkirina li ser girêdanê dihêle ku malware têkeve pergala komputerê. Gava ku di hundurê xwe de, vîrus dikare ji dizîna agahdariya kesane bigire heya girtina pergalê ji bo fidyê her tiştî bike.

Rêjeya êrîşên fîshingê di dema û piştî pandemiya COVID-19 de her ku diçe zêde dibe. Ajansa Ewlekariya Sîber & Binesaziyê 84% ji kesan dîtin bi agahdariya hesas bersiv da peyamên phishing an jî li ser zencîreyê bitikîne.

Phishers teknolojiya chatbotê ya AI-ê bikar tînin da ku lêgerîna mexdûran bixweber bikin, wan qanih bikin ku li ser girêdanan bikirtînin û dev ji agahdariya kesane berdin. Chatbots ji hêla gelek saziyên darayî - wekî bankan - têne bikar anîn da ku ezmûna karûbarê xerîdar xweş bikin.

Phishers Chatbots dikarin heman daxwazên xweser ên ku bank bikar tînin ji bo xapandina mexdûran bişopînin. Di heman demê de ew dikarin bixweber jimareyên têlefonê bigerin an rasterast li ser platformên danûstendinê yên înteraktîf bi mexdûran re têkilî daynin.

3. Data Poisoning

Jehrkirina daneyan êrîşek sîberî ya ku ji nû ve hatî fikirîn e ku rasterast îstîxbarata sûnî hedef digire. Teknolojiya AI-ê ji daneyên daneyan fêr dibe û wê agahiyê bikar tîne da ku peywiran biqedîne. Ev ji bo hemî bernameyên AI-ê rast e, bêyî ku armanc û fonksiyonên wan be.

Ji bo AI-yên chatbot, ev tê vê wateyê ku pir bersivên pirsên mimkun ên ku bikarhêner dikarin ji wan re bidin fêr bibin. Lêbelê, ev jî yek ji xetereyên AI-ê ye.

Van berhevokên daneyê bi gelemperî amûr û çavkaniyên çavkaniya vekirî ne ku ji her kesî re peyda dibin. Her çend pargîdaniyên AI-ê bi gelemperî ji çavkaniyên daneya xwe veşartî veşartî diparêzin, êrişkerên sîber dikarin diyar bikin ka kîjan wan bikar tînin û daneyan manîpule dikin.

Êrîşkarên sîber dikarin riyên xwe bibînin bi komên daneyan re tevlihev bikin ji bo perwerdekirina AI-an tê bikar anîn, ku rê dide wan ku biryar û bersivên xwe manîpule bikin. AI dê agahdariya ji daneyên guhertî bikar bîne û kiryarên ku êrîşkar dixwazin pêk bîne.

Mînakî, yek ji çavkaniyên ku herî zêde tê bikar anîn ji bo berhevoka daneyan çavkaniyên Wiki yên wekî Wîkîpediya ye. Her çend dane ji gotara Wîkîpediya zindî nayê jî, ew ji dîmenên daneyên ku di demên taybetî de hatine kişandin tê. Hacker dikarin rêyek bibînin ku daneyan biguherînin da ku ji wan sûd werbigirin.

Di mijara AI-yên chatbot de, hacker dikarin daneyên daneyan ên ku ji bo perwerdekirina chatbotên ku ji bo saziyên bijîjkî an darayî dixebitin têne bikar anîn xera bikin. Ew dikarin bernameyên chatbotê manîpule bikin da ku agahdariya derewîn bidin xerîdar ku dikarin wan bikirtînin ser girêdanek ku tê de malware an malperek xapînok heye. Gava ku AI dest bi kişandina daneyên jehrî dike, ew zehmet e ku were tespît kirin û dikare bibe sedema binpêkirinek girîng di ewlehiya sîberê de ku ji bo demek dirêj ve bêhiş dimîne.

Meriv çawa Xetereyên Chatbotên AI-ê çareser dike

Van xetereyan xemgîn in, lê ew nayê vê wateyê ku bot bi xwezayî xeternak in. Berevajî vê, divê hûn bi baldarî nêzikî wan bibin û dema ku chatbots ava dikin û bikar tînin van xetereyan bifikirin.

Mifteya pêşîlêgirtina AI-ê li seranserê perwerdehiyê lêgerîna wê ye. Bê guman wê li ser daneyên cûrbecûr perwerde bikin û bi taybetî wê bername bikin da ku di biryara xwe de ji faktorkirina tiştên mîna nijad, zayend an meyla zayendî dûr nekevin. Di heman demê de çêtirîn e ku meriv tîmek cihêreng a zanyarên daneyê hebe ku karên hundurîn ên chatbotan binirxînin û pê ewle bibin ku ew çu alîgiran nîşan nadin, her çend nazik be.

Parastina çêtirîn li dijî phishing perwerdehiyê ye. Hemî karmendan perwerde bikin ku bibînin nîşanên hevpar ên hewldanên phishing ji ber vê yekê nekevin ber van êrîşan. Belavkirina hişmendiya xerîdar li dora pirsgirêkê jî dê bibe alîkar.

Hûn dikarin bi sînordarkirina gihîştina daneyên perwerdehiya chatbots pêşî li jehrîbûna daneyê bigirin. Tenê kesên ku hewcedariya wan bi gihîştina van daneyan heye da ku karên xwe rast bikin divê xwedî destûr bin - têgehek ku jê re tê gotin prensîba kêmtirîn îmtiyazê. Piştî bicihanîna wan qedexeyan, tedbîrên verastkirinê yên bihêz ên mîna pejirandina pir-faktorî an biyometrîk bikar bînin da ku pêşî li xetereyên sûcdarên sîber ku di nav hesabek destûrdar de hack dikin bigirin.

Li hember Xetereyên Piştgiriya AI-ê Hişyar bimînin

Zehmetiya çêkirî teknolojiyek bi rastî ecêb e ku bi sepanên hema bêje bêdawî ye. Lêbelê, xetereyên AI-ê dibe ku ne diyar bin. Bot xeternak in? Ne xwerû, lê sûcdarên sîberê dikarin wan bi awayên cihêreng têkder bikar bînin. Ew bi bikarhêneran re ye ku biryar bidin ka serîlêdanên vê teknolojiya nû-vedî çi ne.