Forskere utvikler “DeepTrust” verktøyet for å øke tillit til kunstig intelligens

Sikkerheten og tillit til kunstig intelligens (AI) er ett av de største aspektene ved teknologien. Det er konstant forbedret og arbeidet med av topp-eksperter innen de forskjellige feltene, og det vil være avgjørende for den fullstendige implementeringen av AI i samfunnet.

Noen av denne nye arbeidet kommer fra University of Southern California, hvor USC Viterbi Engineering-forskere har utviklet et nytt verktøy som kan generere automatiske indikatorer for om AI-algoritmer er pålitelige i deres data og prediksjoner.

Forskningen ble publisert i Frontiers in Artificial Intelligence, med tittelen “There is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks”. Forfatterne av artikkelen inkluderer Mingxi Cheng, Shahin Nazarian og Paul Bogdan fra USC Cyber Physical Systems Group.

Tillit til neurale nettverk

En av de største oppgavene i dette området er å få neurale nettverk til å generere prediksjoner som kan stoles på. I mange tilfeller er dette det som stopper den fullstendige innføringen av teknologi som avhenger av AI.

For eksempel, selvkjørende kjøretøy må kunne handle uavhengig og ta nøyaktige beslutninger på autopilot. De må være i stand til å ta disse beslutningene ekstremt raskt, samtidig som de tolker og gjenkjenner objekter på veien. Dette er avgjørende, spesielt i situasjoner der teknologien må kunne skille mellom en fartshumper, et annet objekt eller et levende vesen.

Andre scenarier inkluderer selvkjørende kjøretøy som må bestemme hva de skal gjøre når et annet kjøretøy møter dem frontalt, og den mest komplekse beslutningen av alle er hvis selvkjørende kjøretøyet må bestemme om det skal treffe det det oppfatter som et annet kjøretøy, et objekt eller et levende vesen.

Dette betyr at vi plasserer en ekstremt stor tillit i evnen til selvkjørende kjøretøyers programvare til å ta riktige beslutninger på brøkdelen av et sekund. Det blir enda vanskeligere når det er motstridende informasjon fra forskjellige sensorer, som datavisjon fra kameraer og Lidar.

Hovedforfatter Minxi Cheng bestemte seg for å ta opp dette prosjektet etter å ha tenkt, “Selv mennesker kan være usikre i visse beslutningssituasjoner. I tilfeller med motstridende informasjon, hvorfor kan maskiner ikke fortelle oss når de ikke vet?”

DeepTrust

Verktøyet som ble utviklet av forskerne heter DeepTrust, og det kan kvantifisere usikkerheten, ifølge Paul Bogdan, en assosiert professor i Ming Hsieh Department of Electrical and Computer Engineering.

Laget brukte nesten to år på å utvikle DeepTrust, hovedsakelig ved å bruke subjektiv logikk til å vurdere neurale nettverk. I ett eksempel på verktøyet i arbeid, kunne det se på meningsmålingene fra presidentvalget i 2016 og forutsi at det var en større feilmargin for Hillary Clinton å vinne.

DeepTrust-verktøyet gjør det også enklere å teste påliteligheten av AI-algoritmer som vanligvis er trent på opptil millioner av datapunkter. Den andre måten å gjøre dette på er ved å uavhengig sjekke hver enkelt datapunkt for å teste nøyaktigheten, som er en ekstremt tidskrevende oppgave.

Ifølge forskerne, er arkitekturen av disse neurale nettverksystemene mer nøyaktig, og nøyaktighet og tillit kan maksimeres samtidig.

“Ifølge vår kunnskap, finnes det ingen tillitskvantifiseringsmodell eller verktøy for dyp læring, kunstig intelligens og maskinlæring. Dette er den første tilnærmingen og åpner nye forskningsretninger,” sier Bogdan.

Bogdan tror også at DeepTrust kan hjelpe til å skyve AI fremover til et punkt der det er “bevisst og tilpasningsdyktig”.