Google Creează Un Nou Program de Inteligență Artificială Explicabilă Pentru a Îmbunătăți Transparența și Debogarea

Recent, Google (GOOGL ) a anunțat crearea unei noi platforme cloud menite să ofere insights despre modul în care un program de inteligență artificială ia decizii, făcând mai ușoară debogarea programului și îmbunătățind transparența. Conform raportului publicat de The Register, platforma cloud se numește Inteligență Artificială Explicabilă și reprezintă o încercare majoră a Google de a investi în explicabilitatea inteligenței artificiale.

Rețelele neuronale artificiale sunt utilizate în majoritatea sistemelor de inteligență artificială din lume. Rețelele neuronale care rulează aplicațiile de inteligență artificială majore pot fi extraordinar de complexe și mari, și pe măsură ce complexitatea sistemului crește, devine tot mai greu de intuit de ce a fost luată o anumită decizie de sistem. Așa cum explică Google în raportul lor, pe măsură ce sistemele de inteligență artificială devin mai puternice, ele devin și mai complexe și, prin urmare, mai greu de debogat. Transparența este, de asemenea, pierdută atunci când se întâmplă acest lucru, ceea ce înseamnă că algoritmii predispuși pot fi dificil de recunoscut și abordat.

Faptul că raționamentul care determină comportamentul sistemelor complexe este atât de greu de interpretat are adesea consecințe dramatice. Pe lângă faptul că face dificilă combaterea prejudecăților inteligenței artificiale, poate fi extraordinar de greu de a face distincția între corelațiile spurii și corelațiile cu adevărat importante și interesante.

Numeroase companii și grupuri de cercetare explorează moduri de a aborda problema “cutiei negre” a inteligenței artificiale și de a crea un sistem care să explice adecvat de ce anumite decizii au fost luate de o inteligență artificială. Platforma Inteligență Artificială Explicabilă a Google reprezintă propria încercare a companiei de a aborda această provocare. Inteligența Artificială Explicabilă este alcătuită din trei unelte diferite. Primul instrument este un sistem care descrie care caracteristici au fost selectate de o inteligență artificială și afișează, de asemenea, un scor de atribuire care reprezintă cantitatea de influență pe care o anumită caracteristică o are asupra predicției finale. Raportul Google despre instrumentul respectiv oferă un exemplu de predicție a duratei unei plimbări cu bicicleta pe baza variabilelor precum precipitațiile, temperatura actuală, ziua săptămânii și ora de start. După ce rețeaua ia decizia, se oferă feedback care afișează care caracteristici au avut cel mai mare impact asupra predicțiilor.

Cum oferă acest instrument un astfel de feedback în cazul datelor de imagine? În acest caz, instrumentul produce o suprapunere care evidențiază regiunile imaginii care au avut cea mai mare greutate în decizia luată.

Un alt instrument găsit în kitul de unelte este instrumentul “Ce-ar fi”, care afișează fluctuațiile potențiale ale performanței modelului pe măsură ce se manipulează atributele individuale. În final, ultimul instrument poate fi configurat pentru a oferi rezultate de probă recenzorilor umani la un interval regulat.

Dr. Andrew Moore, șeful științific al Google pentru inteligență artificială și învățare automată, a descris inspirația pentru proiect. Moore a explicat că, acum aproximativ cinci ani, comunitatea academică a început să se îngrijoreze cu privire la efectele nocive ale utilizării inteligenței artificiale și că Google a dorit să se asigure că sistemele sale erau utilizate numai în moduri etice. Moore a descris un incident în care compania a încercat să proiecteze un program de viziune computerizată pentru a alerta lucrătorii de construcții dacă cineva nu purta o cască, dar s-a îngrijorat că monitorizarea ar putea fi prea departe și deveni deumanizantă. Moore a spus că a existat un motiv similar pentru care Google a decis să nu lanseze o interfață de recunoaștere facială generală, deoarece compania a dorit să aibă mai mult control asupra modului în care era utilizată tehnologia și să se asigure că era utilizată numai în moduri etice.

Moore a subliniat de ce este atât de important ca deciziile inteligenței artificiale să fie explicabile:

“Dacă aveți un sistem critic pentru siguranță sau un lucru important din punct de vedere social care poate avea consecințe neintenționate dacă credeți că modelul dvs. a făcut o greșeală, trebuie să puteți diagnostica. Vrem să explicăm cu atenție ce poate și ce nu poate face explicabilitatea. Nu este o panacee.