Dezvăluirea prejudecăților în Inteligența Artificială: Provocări și Soluții

Avansarea recentă a inteligenței artificiale generative a dus la o explozie a aplicațiilor enterprise în diverse industrii, inclusiv finanțe, sănătate, transport. Dezvoltarea acestei tehnologii va conduce, de asemenea, la alte tehnologii emergente, cum ar fi tehnologiile de apărare cibernetică, avansurile în computarea cuantică și tehnici de comunicare wireless de ultimă generație. Cu toate acestea, această explozie a tehnologiilor de ultimă generație vine cu propriile sale provocări.

De exemplu, adoptarea inteligenței artificiale poate permite atacuri cibernetice mai sofisticate, limitări ale memoriei și stocării datorită creșterii puterii de calcul și preocupări etice legate de prejudecățile prezentate de modelele de inteligență artificială. Vestea bună este că NTT Research a propus o modalitate de a depăși prejudecățile în rețelele neuronale profunde (DNN), un tip de inteligență artificială.

Această cercetare reprezintă o descoperire semnificativă, având în vedere că modelele de inteligență artificială lipsite de prejudecăți vor contribui la procesele de angajare, sistemul de justiție penală și sănătate, atunci când nu sunt influențate de caracteristici precum rasa, sexul. În viitor, discriminarea are potențialul de a fi eliminată prin utilizarea acestor sisteme automate, îmbunătățind astfel inițiativele de afaceri DE&I la nivelul întregii industrii. În cele din urmă, modelele de inteligență artificială cu rezultate lipsite de prejudecăți vor îmbunătăți productivitatea și vor reduce timpul necesar pentru finalizarea acestor sarcini. Cu toate acestea, puține afaceri au fost obligate să întrerupă programele lor generate de inteligență artificială din cauza soluțiilor prejudecate ale tehnologiei.

De exemplu, Amazon a întrerupt utilizarea unui algoritm de angajare atunci când a descoperit că algoritmulul a arătat o preferință pentru candidații care foloseau cuvinte precum “executat” sau “capturat” mai frecvent, care erau mai prevalente în CV-urile bărbaților. Un alt exemplu flagrant de prejudecată provine de la Joy Buolamwini, una dintre cele mai influente persoane în domeniul inteligenței artificiale în 2023, conform TIME, în colaborare cu Timnit Gebru la MIT, care a descoperit că tehnologiile de analiză facială au demonstrat rate de eroare mai mari atunci când au evaluat minoritățile, în special femeile minoritare, posibil din cauza datelor de antrenare insuficient reprezentative.

Recent, rețelele neuronale profunde au devenit omniprezente în știință, inginerie și afaceri, și chiar în aplicații populare, dar ele se bazează uneori pe atribute spurii care pot transmite prejudecăți. Conform unui studiu MIT din ultimii ani, oamenii de știință au dezvoltat rețele neuronale profunde capabile să analizeze cantități uriașe de intrări, inclusiv sunete și imagini. Aceste rețele pot identifica caracteristici comune, permițându-le să clasifice cuvinte sau obiecte țintă. În prezent, aceste modele se află în fruntea domeniului ca principalele modele pentru replicarea sistemelor senzoriale biologice.

Cercetătorul senior NTT Research și asociatul Centrului de Științe ale Creierului de la Universitatea Harvard, Hidenori Tanaka, și alți trei oameni de știință au propus depășirea limitărilor fine-tuning-ului naiv, metoda standard de reducere a erorilor sau a “pierderii” unei DNN, cu un nou algoritm care reduce dependența modelului de atributele predispuse la prejudecăți.

Ei au studiat peisajele de pierderi ale rețelelor neuronale prin lentila conectivității modurilor, observația că minimizatorii rețelelor neuronale obținuți prin antrenarea pe un set de date sunt conectați prin căi simple de pierderi reduse. În mod specific, ei s-au întrebat: sunt minimizatorii care se bazează pe mecanisme diferite pentru a face previziuni conectați prin căi simple de pierderi reduse?

Ei au descoperit că fine-tuning-ul naiv nu este capabil să schimbe fundamental mecanismul decizional al unui model, deoarece necesită mutarea într-o vale diferită pe peisajul de pierderi. În schimb, trebuie să conduceți modelul peste barierele care separă “sinks” sau “văile” cu pierderi reduse. Autorii numesc acest algoritm corectiv Connectivity-Based Fine-Tuning (CBFT).

Înainte de această descoperire, o DNN care clasifică imagini, cum ar fi o imagine a unui pește (o ilustrație utilizată în acest studiu), utiliza atât forma obiectului, cât și fundalul ca parametri de intrare pentru previziune. Căile sale de minimizare a pierderilor ar fi funcționat, așadar, în moduri mecanic diferite: unul bazat pe atributul legitim al formei și celălalt pe atributul spurios al culorii fundalului. Ca atare, aceste moduri ar fi lipsit de conectivitate liniară, sau de o cale simplă de pierderi reduse.

Echipa de cercetare înțelege lentila mecanică asupra conectivității modurilor, considerând două seturi de parametri care minimizează pierderea utilizând fundaluri și forme de obiecte ca atribute de intrare pentru previziune, respectiv. Și apoi s-au întrebat: sunt astfel de minimizatori mecanic diferiți conectați prin căi de pierderi reduse în peisaj? Afectează diferența dintre mecanismele lor simplitatea căilor de conectivitate? Putem exploata această conectivitate pentru a comuta între minimizatori care utilizează mecanismele noastre dorite?

În alte cuvinte, rețelele neuronale profunde, în funcție de ceea ce au învățat în timpul antrenării pe un anumit set de date, pot se comporta foarte diferit atunci când sunt testate pe un alt set de date. Propunerea echipei s-a concentrat pe conceptul de asemănări comune. Se bazează pe ideea anterioară a conectivității modurilor, dar cu o întorsătură – ia în considerare modul în care funcționează mecanismele asemănătoare. Cercetarea lor a condus la următoarele descoperiri revelatoare:

• minimizadorii care au mecanisme diferite pot fi conectați într-un mod complex, neliniar
• când doi minimizatori sunt conectați liniar, acest lucru este strâns legat de modul în care sunt asemănătoare mecanismele lor
• fine-tuning-ul simplu poate să nu fie suficient pentru a elimina caracteristicile nedorite dobândite în timpul antrenării anterioare
• dacă găsiți regiuni care sunt liniar deconectate în peisaj, puteți face schimbări eficiente în funcționarea internă a unui model.

În timp ce această cercetare reprezintă un pas major în direcția valorificării potențialului deplin al inteligenței artificiale, preocupările etice legate de inteligența artificială pot să rămână o luptă în urcare. Tehnologii și cercetători lucrează pentru a combate alte slăbiciuni etice în inteligența artificială și în alte modele de limbaj mare.

Inteligența artificială poate fi utilizată pentru a colecta și a prelucra cantități uriașe de date personale. Utilizarea neautorizată sau neetică a acestor date poate compromite confidențialitatea indivizilor, ducând la preocupări legate de supraveghere, încălcări de date și furt de identitate. Inteligența artificială poate reprezenta, de asemenea, o amenințare atunci când vine vorba de răspunderea aplicațiilor sale autonome, cum ar fi mașinile autonome. Stabilirea cadrului legal și a standardelor etice pentru responsabilitate și răspundere va fi esențială în anii următori.

În concluzie, creșterea rapidă a tehnologiei de inteligență artificială generativă oferă perspective promițătoare pentru diverse industrii, de la finanțe și sănătate la transport. În ciuda acestor evoluții promițătoare, preocupările etice legate de inteligența artificială rămân substanțiale. Pe măsură ce navigăm această eră transformativă a inteligenței artificiale, este esențial ca tehnologii, cercetători și factori de decizie politică să lucreze împreună pentru a stabili cadre legale și standarde etice care vor asigura utilizarea responsabilă și benefică a tehnologiei de inteligență artificială în anii următori. Oamenii de știință de la NTT Research și de la Universitatea din Michigan sunt cu un pas înainte, cu propunerea lor pentru un algoritm care ar putea elimina prejudecățile din inteligența artificială.