Vísindamenn gervigreindar þróa hraðvirka aðferð til að reikna út öryggisbil, tilkynna hvenær ekki ætti að treysta líkaninu

Vísindamenn frá MIT hafa nýlega þróað tækni sem gerir netlíkönum fyrir djúpnám kleift að reikna hratt út öryggisstig, sem gæti hjálpað gagnafræðingum og öðrum gervigreindarnotendum að vita hvenær á að treysta spánum sem líkanið gefur.

AI kerfi sem byggjast á gervi tauganetum eru ábyrg fyrir sífellt fleiri ákvörðunum þessa dagana, þar á meðal mörgum ákvörðunum sem snúa að heilsu og öryggi fólks. Vegna þessa ættu taugakerfi að hafa einhverja aðferð til að meta traust á útkomu þeirra, sem gerir gagnafræðingum kleift að segja hversu áreiðanlegar spár þeirra eru. Nýlega hannaði hópur vísindamanna frá Harvard og MIT fljótlega leið fyrir taugakerfi til að búa til vísbendingu um sjálfstraust líkans samhliða spám þess.

Djúpnámslíkön hafa orðið sífellt flóknari á síðasta áratug og geta nú auðveldlega staðið sig betur en menn í gagnaflokkunarverkefnum. Djúpnámslíkön eru notuð á sviðum þar sem heilsu og öryggi fólks getur verið í hættu ef það mistekst, akstur sjálfstýrðra farartækja og greiningu sjúkdóma út frá skönnun. Í þessum tilfellum er ekki nóg að líkan sé 99% nákvæmt, 1% skipta sem líkanið mistekst getur leitt til stórslysa. Þar af leiðandi þarf að vera til leið sem gagnafræðingar geta ákvarðað hversu áreiðanleg tiltekin spá er.

Það eru nokkrar leiðir til að búa til öryggisbil ásamt spám um taugakerfi, en hefðbundnar aðferðir til að meta óvissu fyrir taugakerfi eru frekar hægar og reikningslega dýrar. Taugakerfi geta verið ótrúlega stór og flókin, uppfull af milljörðum stika. Bara það að búa til spár getur verið reikningslega dýrt og tekið töluverðan tíma og það tekur enn lengri tíma að búa til sjálfstraust fyrir spárnar. Flestar fyrri aðferðir til að mæla óvissu hafa reitt sig á sýnatöku eða að keyra net aftur og aftur til að fá mat á trausti þess. Þetta er ekki alltaf gerlegt fyrir forrit sem krefjast háhraðaumferðar.

Eins og greint var frá af MIT News, Alexander Amini leiðir sameinaðan hóp vísindamanna frá MIT og Harvard, og samkvæmt Amini flýtir aðferðin sem rannsakendur þeirra hafa þróað ferlinu við að búa til óvissuáætlanir með því að nota tækni sem kallast „djúp sönnunarhvarf“. Amini útskýrði í gegnum MIT að gagnafræðingar krefjast bæði háhraðalíkana og áreiðanlegra mata á óvissu svo hægt sé að greina ótraust líkön. Til þess að varðveita bæði hraða líkansins og búa til óvissumat, hönnuðu rannsakendur leið til að meta óvissu út frá einni keyrslu líkansins.

Rannsakendur hönnuðu tauganetlíkanið á þann hátt að líkindadreifing varð til samhliða hverri ákvörðun. Netið heldur sönnunargögnum fyrir ákvörðunum sínum á meðan á þjálfunarferlinu stendur og býr til líkindadreifingu byggða á sönnunargögnunum. Sannandi dreifingin táknar traust líkansins og það táknar óvissu fyrir bæði lokaákvörðun líkansins sem og upprunalegu inntaksgögnin. Það er mikilvægt að fanga óvissu fyrir bæði inntaksgögn og ákvarðanir þar sem að draga úr óvissu er háð því að vita uppsprettu óvissunnar.

Rannsakendur prófuðu óvissumatstækni sína með því að beita henni í tölvusjónverkefni. Eftir að líkanið var þjálfað á röð mynda, myndaði það bæði spár og óvissumat. Netið spáði réttilega mikilli óvissu fyrir tilvik þar sem röng spá var gerð. „Það var mjög stillt á villurnar sem netið gerir, sem við teljum að hafi verið eitt það mikilvægasta við að dæma gæði nýs óvissumats,“ sagði Amini varðandi prófunarniðurstöður líkansins.

Rannsóknarteymið hélt áfram að gera fleiri prófanir með netarkitektúr þeirra. Til þess að álagsprófa tæknina prófuðu þeir einnig gögnin á „utan dreifingar“ gögnum, gagnapakka sem samanstanda af hlutum sem netið hafði aldrei séð áður. Eins og búist var við tilkynnti netið meiri óvissu fyrir þessa óséðu hluti. Þegar það var þjálfað í umhverfi innandyra sýndi netið mikla óvissu þegar það var prófað á myndum úr umhverfi utandyra. Prófin sýndu að netið gæti varpa ljósi á þegar ákvarðanir þess voru háðar mikilli óvissu og ætti ekki að treysta þeim við ákveðnar, áhættusamar aðstæður.

Rannsóknarteymið greindi meira að segja frá því að netið gæti greint hvenær myndir hefðu verið teknar. Þegar rannsóknarhópurinn breytti myndum með andstæðingi hávaða merkti netið nýbreyttu myndirnar með mikilli óvissumati, þrátt fyrir að áhrifin hafi verið of lúmsk til að meðalmaður áhorfanda gæti séð þær.

Ef tæknin reynist áreiðanleg gæti djúpt sönnunarhvarf bætt öryggi gervigreindarlíkana almennt. Samkvæmt Amini gæti djúpt sönnunarhvarf hjálpað fólki að taka varlegar ákvarðanir þegar þeir nota gervigreindarlíkön í áhættusömum aðstæðum. Eins og Amini útskýrði í gegnum MIT News:

„Við erum farin að sjá miklu meira af þessum [tauganet] módelum streyma út úr rannsóknarstofunni og inn í raunheiminn, inn í aðstæður sem snerta menn með hugsanlega lífshættulegum afleiðingum. Sérhver notandi aðferðarinnar, hvort sem það er læknir eða einstaklingur í farþegasæti ökutækis, þarf að vera meðvitaður um áhættu eða óvissu sem fylgir þeirri ákvörðun.“