Yaron Singer, maamulaha guud ee sirdoonka adag & borofisar cilmiga kumbuyuutarka ka dhiga jaamacada Harvard - Taxanaha Wareysiga

Yaron Singer waa maamulaha guud Sirdoonka Adag iyo Professor Sayniska Kombiyuutarka iyo Xisaabta Codsaday ee Harvard. Yaron wuxuu caan ku yahay natiijooyinka horumarka mashiinka barashada, algorithms, iyo hagaajinta. Markii hore, Yaron wuxuu ka soo shaqeeyay Google Research wuxuuna PhD ka qaatay UC Berkeley.

Maxaa markii hore kugu soo jiitay cilmiga kumbuyuutarka iyo barashada mashiinka?

Safarkaygu wuxuu ku bilaabmay xisaab, kaas oo ii horseeday cilmiga kombuyuutarka, kaas oo i saaray wadadii barashada mishiinka. Xisaabtu markii hore waxay soo jiidatay xiisahayga sababtoo ah nidaamkeeda axiomatic ayaa i siisay awood aan ku abuuro adduunyo cusub. Sayniska kombuyuutarka, waxaan ka bartay caddaymaha jira, laakiin sidoo kale algorithms-yada ka dambeeya. Marka laga eego dhinaca hal-abuurka, cilmiga kombuyuutarku waa sawiridda xuduudaha u dhexeeya waxa aan awoodno iyo ma sameyn karno.

Xiisaha aan u qabo barashada mashiinka ayaa had iyo jeer ku qotonta xiisaha xogta dhabta ah, ku dhawaad ​​dhinaca jireed ee. Inaad wax ka soo qaadatid dunida dhabta ah oo aad ku dayato si aad wax macno leh u samayso. Waxaan dhab ahaantii injineerin karnaa adduun ka wanaagsan anagoo adeegsanayna qaabayn macno leh. Markaa xisaabtu waxay i siisay aasaas aan wax ku caddeeyo, cilmiga kombuyuutarku wuxuu iga caawiyaa inaan arko waxa la samayn karo iyo waxa aan la samayn karin, iyo barashada mashiinka waxay awood ii siinaysaa inaan ku daydo fikradahan adduunka.

Ilaa dhowaan aad ahayd Professor Sayniska Kombiyuutarka iyo Xisaabta la dabaqay ee Jaamacadda Harvard, maxay ahaayeen qaar ka mid ah waxyaabaha muhiimka ah ee aad ka qaadatay khibraddan?

Waxa ugu weyn ee aan ka qaadanayo in aan xubin ka noqdo kulliyadda Harvard waa in ay kobciso rabitaanka qofka ee samaynta waxyaabo waaweyn. Harvard dhaqan ahaan waxay leedahay macalimiin yar, rajada laga filayo kuliyada raadraaca waa in wax laga qabto dhibaatooyinka waaweyn oo la abuuro goobo cusub. Waa inaad noqotaa qof dhiiran. Tani waxay ku dhammaatay inay noqoto diyaargarow weyn oo lagu bilaabayo qayb-abuuritaan bilow ah oo qeexaya meel cusub. Ma aha qasab inaan kugula taliyo inaad marka hore marto jidka Harvard -laakin haddii aad taas ka badbaaddo, dhisidda bilawga waa sahlan tahay.

Ma qeexi kartaa daqiiqadaaga 'aha' markii aad xaqiiqsatay in nidaamyada AI ee casriga ah ay u nugul yihiin xogta xun, oo leh qaar ka mid ah saameyno fogaan kara?

Markii aan arday ka qalin jabiyay UC Berkeley, waxaan qaatay wakhti fasax ah si aan u sameeyo bilow dhistay moodooyinka barashada mashiinka suuqgeynta shabakadaha bulshada. Tani waxay soo noqotay sanadkii 2010. Waxa aanu haynay xog aad u badan oo ka socota warbaahinta bulshada, waxaanan ku calaamadeynay dhammaan moodooyinka meel eber ah. Saamaynta maaliyadeed ee dukaamada tafaariiqda ayaa ahayd mid aad u muhiim ah sidaa darteed waxaan si dhow ula soconay waxqabadka moodooyinka. Tan iyo markii aan isticmaalnay xogta warbaahinta bulshada, waxaa jiray khaladaad badan oo ku saabsan gelinta, iyo sidoo kale qulqulka. Waxaan aragnay in khaladaad aad u yar ay keeneen isbeddel weyn oo ku yimid qaabka wax soo saarka waxayna keeni karaan natiijooyin dhaqaale xumo oo tafaariiqda isticmaalaya alaabta.

Markii aan u wareegay shaqada Google+ (kuweenna xusuusta), waxaan arkay saameyn isku mid ah. Si ka sii yaab badan, nidaamyada sida AdWords oo sameeyay saadaalin ku saabsan suurtagalnimada dadka inay gujiyaan xayeysiiska ereyada muhiimka ah, waxaan ogaanay in khaladaad yar oo ku jira gelinta moodeelka ay horseedaan saadaal aad u liidata. Marka aad dhibaatadan ka markhaati kacdo miisaanka Google, waxaad ogaanaysaa in dhibaatadu tahay mid caalami ah.

Khibradani waxay si weyn u qaabeeyeen diiradda cilmi-baaristayda, waxaanan ku qaatay waqtigeyga Harvard si aan u baadho sababta moodooyinka AI ay u sameeyaan khaladaadka iyo, muhiimad ahaan, sida loo naqshadeeyo algorithms kuwaas oo ka hortagi kara moodooyinka inay khalad sameeyaan. Tani, dabcan, waxay keentay daqiiqado 'aha' badan iyo, ugu dambeyntii, abuuritaanka sirdoon adag.

Ma wadaagi kartaa sheekada hiddaha ee ka dambeysa Intelligence adag?

Sirdoonka adag wuxuu ku bilaabay cilmi baaris ku saabsan waxa markii hore ahaa mushkilad aragtiyeed: waa maxay dammaanadaha aan ku yeelan karno go'aannada la sameeyo iyadoo la adeegsanayo moodooyinka AI. Kojin waxa uu ahaa arday wax ka barta Harvard, waananu wada shaqaynay, anaga oo markii hore qorayay waraaqo cilmi baadhiseed. Markaa, waxay ku bilaabataa qoraal qoraal ah oo qeexaya waxa aasaas ahaan suurtogal ah iyo wax aan macquul ahayn, aragti ahaan. Natiijooyinkani markii dambe waxay sii wadeen barnaamij loogu talagalay naqshadaynta algorithms iyo moodooyinka kuwaas oo ku adag guuldarrada AI. Waxaan markaa dhisnaa habab ka shaqeyn kara algorithms-yadan ficil ahaan. Intaa ka dib, bilaabista shirkad ay ururadu isticmaali karaan nidaam sidan oo kale ah waxay ahayd tilaabada xigta ee dabiiciga ah.

Qaar badan oo ka mid ah arrimaha ay sirdoonku wax ka qabtaan waa khaladaadka aamusan, waa maxay kuwani iyo maxaa ka dhigaya kuwo aad khatar u ah?

Ka hor inta aan la bixin qeexitaan farsamo ee khaladaadka aamusan, waxaa habboon in dib loo qaado oo aan fahamno sababta aan u daryeeli karno AI samaynta khaladaadka meesha ugu horeysa. Sababta aan u daryeeleyno moodooyinka AI ee khaladaadka sameeya waa cawaaqibta khaladaadkan. Dunideenu waxay u adeegsanaysaa AI si ay u habayso go'aamada muhiimka ah: yaa hela amaah ganacsi iyo heerka ribada, yaa hela caymis caafimaad iyo heerkee, xaafadaha ay tahay in booliisku roondo, yaa u badan tahay inuu noqdo musharaxa ugu sarreeya shaqo, sideen u habayn lahayn amniga madaarka, iyo wixi la mida. Xaqiiqda ah in moodooyinka AI ay aad ugu nugul yihiin khaladaadka waxay la macno tahay in otomaatigga go'aamadan muhiimka ah aan dhaxalno khatar aad u weyn. Xagga sirdoonka adag waxaan ugu yeernaa tan "AI Khatarta" hadafkayaga shirkadu waa inaan tirtirno khatarta AI.

Khaladaadka aamusan waa qaladaadka moodooyinka AI halkaas oo qaabka AI uu helo gelinta oo uu soo saaro saadaal ama go'aan khalad ah ama eex ah wax soo saar ahaan. Marka, dusha sare, wax kasta oo nidaamku wuxuu u muuqdaa OK, taas oo qaabka AI uu sameynayo waxa ay tahay inuu sameeyo marka laga eego dhinaca shaqada. Laakiin saadaasha ama go'aanku waa khalad. Khaladaadkan waa aamusan yihiin sababtoo ah nidaamku ma oga in uu khalad jiro. Tani waxay noqon kartaa mid aad uga xun kiiskii qaabka AI uusan soo saarin wax soo saar, sababtoo ah waxay qaadan kartaa waqti dheer ururada si ay u ogaadaan in nidaamkooda AI uu khaldan yahay. Kadibna, khatarta AI waxay noqotaa guuldarrooyin AI taasoo keeni karta cawaaqib xun.

Sirdoonka adag ayaa asal ahaan nashqadeeyay AI Firewall, fikrad markii hore loo arkayay mid aan macquul ahayn. Waa maxay sababta tani caqabad farsamo u tahay?

Hal sabab oo AI Firewall u yahay caqabad noocan oo kale ah waa sababtoo ah waxay ka soo horjeedaa jaantuska bulshada ML. Bulshada ML qaabkeedii hore wuxuu ahaa si loo ciribtiro khaladaadka, qofku wuxuu u baahan yahay inuu quudiyo xog badan, oo ay ku jirto xogta xun ee moodooyinka. Marka taas la sameeyo, moodooyinka ayaa naftooda tababari doona oo baran doona sida loo saxo khaladaadka. Dhibaatada habkaas ayaa ah in ay keento saxnaanta moodeelka oo si weyn hoos ugu dhaca. Natiijooyinka ugu caansan ee sawirada, tusaale ahaan, waxay keenaan saxnaanta moodalka AI inuu hoos uga dhaco 98.5% ilaa 37%.

Firewall-ka AI wuxuu bixiyaa xal ka duwan. Waxaan ka saareynaa dhibaatada aqoonsiga qaladka doorka abuurista saadaasha, taas oo macnaheedu yahay in dab-damiska uu diiradda saari karo hal shaqo oo gaar ah: go'aamin haddii barta xogta ay soo saari doonto saadaal khaldan.

Tani waxay ahayd caqabad lafteeda ah sababtoo ah dhibka bixinta saadaalinta hal dhibic oo xog ah. Waxaa jira sababo badan oo sababta moodooyinka ay u sameeyaan khaladaadka, sidaas darteed dhisidda tignoolajiyada saadaalin karta khaladaadkan ma ahayn hawl fudud. Aad ayaan u nasiib badannahay inaan helno injineerada aan sameyno.

Sidee buu nidaamku uga caawin karaa ka hortagga eexda AI?

Eexda moodelku waxay ka timi farqiga u dhexeeya xogta qaabka lagu tababaray iyo xogta ay adeegsanayso si loo saadaaliyo. Ku noqoshada khatarta AI, eexdu waa arrin weyn oo loo aaneeyo khaladaadka aamusan. Tusaale ahaan, tani inta badan waa arrin la xiriirta dadweynaha aan la matalin. Qaabka ayaa laga yaabaa inuu leeyahay eex sababtoo ah wuxuu arkay xog yar oo ka timid dadkaas, taas oo si weyn u saameyn doonta waxqabadka qaabkaas iyo saxnaanta saadaasha. Firewall-ka AI wuxuu uga digayaa hay'adaha kala duwanaanshiyaha xogtan wuxuuna ka caawin karaa qaabka inuu go'aanno sax ah gaaro.

Waa maxay qaar ka mid ah khataraha kale ee ku wajahan hay'adaha in dab-damiska AI uu ka caawiyo ka hortagga?

Shirkad kasta oo AI u adeegsata inay otomaatig u samayso go'aamada, gaar ahaan go'aamada muhiimka ah, waxay si toos ah u soo bandhigtaa khatarta. Xogta xun waxay noqon kartaa mid yar sida galinta eber halkii ay ka ahaan lahayd mid walina waxay keenaysaa cawaaqib xumo. Haddi ay khatartu tahay saadaal caafimaad oo khaldan ama saadaal been ah oo ku saabsan amaahinta, AI Firewall waxay ka caawisaa ururada inay ka hortagaan khatarta guud ahaan.

Ma jiraan wax kale oo aad jeclaan lahayd inaad la wadaagto oo ku saabsan Sirdoonka Adag?

Sirdoonka adag ayaa si xawli ah u koraya waxaana aanu helaynaa musharixiin badan oo waaweyn oo codsanaya jagooyin. Laakiin wax aan runtii rabo inaan ku nuuxnuuxsado dadka ka fikiraya inay codsadaan ayaa ah in tayada ugu muhiimsan ee aan ka raadineyno musharrixiinta ay tahay hamigooda howlgalka. Waxaan helnaa inaan la kulanno murashaxiin badan oo farsamo ahaan xoog leh, sidaa darteed runtii waxay hoos ugu dhacdaa fahamka inay runtii xiiseeyaan baabi'inta khatarta AI si ay adduunka uga dhigaan meel ammaan ah oo ka wanaagsan.

Adduunyada aynu u socono, go'aamo badan oo ay hadda dadku gaadhayaan ayaa si toos ah loo samayn doonaa. Haddaynu jeclayn iyo haddii kaleba, taasi waa xaqiiq jirta. Marka la eego taas, dhammaanteen haddii aan nahay sirdoonka adag waxaan rabnaa in go'aamo toos ah loo sameeyo si mas'uuliyadi ku jirto. Markaa, qof kasta oo ku faraxsan samaynta saamaynta, ee fahmaya habka ay tani u saamayn karto nolosha dadka, waa musharrax aanu raadinayno inuu ku biiro sirdoonka xooggan. Waxaan raadineynaa dareenkaas. Waxaan raadineynaa dadka abuuri doona tignoolajiyadan oo adduunka oo dhan uu isticmaali doono.

Waad ku mahadsan tahay wareysiga weyn, waxaan ku riyaaqay barashada aragtidaada ku saabsan ka hortagga eexda AI iyo baahida loo qabo firewall AI, akhristayaasha raba inay wax badan bartaan waa inay booqdaan Sirdoonka Adag.