Výzkumníci vyvinuli nástroj „DeepTrust“ pro zvýšení důvěryhodnosti umělé inteligence

Bezpečnost a důvěryhodnost umělé inteligence (AI) je jedním z největších aspektů této technologie. Je neustále zlepšována a vyvíjena nejlepšími odborníky v různých oblastech a bude mít zásadní význam pro plné nasazení AI ve společnosti.

Někteří z těchto nových prací pocházejí z University of Southern California, kde výzkumníci z USC Viterbi Engineering vyvinuli nový nástroj, který je schopen generovat automatické indikátory pro to, zda jsou algoritmy AI důvěryhodné ve svých datech a předpovědích.

Výzkum byl zveřejněn v Frontiers in Artificial Intelligence, pod názvem „Ještě existuje naděje: Kvantifikace názoru a důvěryhodnosti v neuronových sítích“. Autoři článku zahrnují Mingxi Cheng, Shahin Nazarian a Paula Bogdana ze skupiny USC Cyber Physical Systems.

Důvěryhodnost neuronových sítí

Jedním z největších úkolů v této oblasti je zajistit, aby neuronové sítě generovaly předpovědi, které lze důvěřovat. V mnoha případech je to to, co brání plnému nasazení technologií, které spoléhají na AI.

Například autonomní vozidla jsou povinna jednat nezávisle a dělat přesná rozhodnutí v režimu autopilota. Musí být schopna dělat tato rozhodnutí extrémně rychle, zatímco rozkládají a rozpoznávají objekty na silnici. To je zásadní, zejména ve scénářích, kdy by technologie musela rozlišit mezi rychlostním bumpem, jiným objektem nebo živým tvorem.

Další scénáře zahrnují autonomní vozidlo, které rozhoduje, co dělat, když se mu jiný vůz postaví čelem, a nejkomplexnější rozhodnutí ze všech je, zda by autonomní vozidlo muselo rozhodnout, zda zasáhnout to, co vnímá jako jiný vůz, objekt nebo živý tvor.

To vše znamená, že jsme položili extrémní množství důvěry do schopnosti softwaru autonomního vozidla učinit správné rozhodnutí za zlomek sekundy. Stává se to ještě obtížnějším, když je zde rozporuplná informace z různých senzorů, jako je počítačové vidění z kamer a Lidar.

Vedoucí autor Minxi Cheng se rozhodl tento projekt zahájit, protože si myslel, „I lidé mohou být nerozhodní v určitých rozhodovacích scénářích. V případech, kdy je zde rozporuplná informace, proč nemohou stroje říci, zda nevědí?“

DeepTrust

Nástroj, který byl vytvořen výzkumníky, se jmenuje DeepTrust a je schopen kvantifikovat množství nejistoty, podle Paula Bogdana, asocičního profesora na katedře elektrotechniky a počítačového inženýrství Ming Hsieh.

Tým strávil téměř dva roky vývojem DeepTrust, především pomocí subjektivní logiky pro hodnocení neuronových sítí. V jednom příkladu fungování nástroje byl schopen prozkoumat prezidentské volby v roce 2016 a předpovědět, že je větší marže chyby pro vítězství Hillary Clintonové.

Nástroj DeepTrust také usnadňuje testování spolehlivosti algoritmů AI, které jsou obvykle trénovány na miliony datových bodů. Jiný způsob, jak to udělat, je nezávisle zkontrolovat každý z datových bodů pro testování přesnosti, což je extrémně časově náročná úloha.

Podle výzkumníků je architektura těchto neuronových sítí více přesná a přesnost a důvěryhodnost lze maximalizovat současně.

„Naše znalosti neexistuje žádný model nebo nástroj pro kvantifikaci důvěryhodnosti pro hluboké učení, umělou inteligenci a strojové učení. Toto je první přístup a otevírá nové směry výzkumu,“ říká Bogdan.

Bogdan také věří, že DeepTrust může pomoci posunout AI dopředu do bodu, kdy je „vědomá a adaptivní“.