Cercetătorii dezvoltă instrumentul “DeepTrust” pentru a crește încrederea în inteligența artificială

Siguranța și încrederea în inteligența artificială (IA) sunt unul dintre cele mai importante aspecte ale tehnologiei. Este în continuă îmbunătățire și dezvoltare de către experți de top din diferite domenii, și va fi crucială pentru implementarea deplină a IA în societate.

Unele dintre aceste noi lucrări provin de la Universitatea din California de Sud, unde cercetătorii de la USC Viterbi Engineering au dezvoltat un instrument nou capabil să genereze indicatori automatici pentru a determina dacă algoritmii IA sunt de încredere în datele și previziunile lor.

Cercetarea a fost publicată în Frontiers in Artificial Intelligence, intitulată „Există speranță după toate: Cuantificarea opiniei și a încrederii în rețelele neuronale”. Autorii articolului includ Mingxi Cheng, Shahin Nazarian și Paul Bogdan de la USC Cyber Physical Systems Group.

Încrederea în rețelele neuronale

Una dintre cele mai importante sarcini în acest domeniu este să se obțină previziuni de la rețelele neuronale care pot fi de încredere. În multe cazuri, acesta este motivul pentru care tehnologia care se bazează pe IA nu este adoptată în totalitate.

De exemplu, vehiculele autonome trebuie să acționeze independent și să ia decizii precise în mod automat. Ele trebuie să fie capabile să ia aceste decizii extrem de rapid, în timp ce descifrează și recunosc obiecte pe drum. Acest lucru este crucial, în special în scenarii în care tehnologia ar trebui să descifreze diferența dintre o denivelare a drumului, un alt obiect sau un organism viu.

Alte scenarii includ vehiculul autonom care decide ce să facă atunci când un alt vehicul se confruntă cu el, și cea mai complexă decizie dintre toate este dacă vehiculul autonom trebuie să decidă între a lovi ceea ce percepe ca fiind un alt vehicul, un obiect sau un organism viu.

Toate acestea înseamnă că punem o cantitate extremă de încredere în capacitatea software-ului vehiculului autonom de a lua decizia corectă în doar fracțiuni de secundă. Devine și mai dificil atunci când există informații contradictorii de la diferiți senzori, cum ar fi viziunea computerizată de la camere și Lidar.

Autorul principal Minxi Cheng a decis să ia acest proiect după ce a gândit: “Chiar și oamenii pot fi indeciși în anumite scenarii de luare a deciziilor. În cazurile în care există informații contradictorii, de ce nu pot mașinile să ne spună când nu știu?”

DeepTrust

Instrumentul creat de cercetători se numește DeepTrust și este capabil să cuantifice cantitatea de incertitudine, conform lui Paul Bogdan, profesor asociat în Departamentul de Inginerie Electrică și Informatică Ming Hsieh.

Echipa a petrecut aproape doi ani dezvoltând DeepTrust, utilizând în principal logica subiectivă pentru a evalua rețelele neuronale. Într-un exemplu al instrumentului care funcționează, a fost capabil să analizeze sondajele electorale din 2016 și să prevadă că există o marjă de eroare mai mare pentru victoria lui Hillary Clinton.

Instrumentul DeepTrust face și mai ușor testarea fiabilității algoritmilor IA care sunt antrenați pe până la milioane de puncte de date. Alt mod de a face acest lucru este prin verificarea independentă a fiecărui punct de date pentru a testa acuratețea, ceea ce este o sarcină extrem de consumatoare de timp.

Conform cercetătorilor, arhitectura acestor sisteme de rețele neuronale este mai precisă, și precizia și încrederea pot fi maximizate simultan.

“În ceea ce știm, nu există niciun model sau instrument de cuantificare a încrederii pentru învățarea profundă, inteligența artificială și învățarea mașinilor. Acesta este primul abord și deschide noi direcții de cercetare”, spune Bogdan.

Bogdan crede, de asemenea, că DeepTrust ar putea ajuta la promovarea IA până la punctul în care devine “conștient și adaptiv”.