Cum își subminează oamenii prejudecățile soluțiile bazate pe IA

În luna septembrie a anului trecut, lideri mondiali precum Elon Musk, Mark Zuckerberg și Sam Altman, directorul general al OpenAI, s-au întâlnit la Washington D.C. cu scopul de a discuta, pe de o parte, cum pot sectorul public și cel privat să colaboreze pentru a valorifica această tehnologie în beneficiul tuturor și, pe de altă parte, pentru a aborda problema reglementării, care a rămas în centrul discuțiilor despre IA.

Ambele conversații duc, adesea, la același loc. Există o accentuare crescândă asupra faptului că putem face IA mai etică, evaluând IA ca și cum ar fi o altă ființă umană a cărei moralitate ar fi în discuție. Cu toate acestea, ce înseamnă IA etică? DeepMind, un laborator de cercetare deținut de Google, care se axează pe IA, a publicat recent o studiu în care au propus o structură cu trei niveluri pentru a evalua riscurile IA, inclusiv riscurile sociale și etice. Acest cadru a inclus capacitatea, interacțiunea umană și impactul sistemic și a concluzionat că contextul este cheia pentru a determina dacă un sistem IA este sigur.

Unul dintre aceste sisteme care a fost criticat este ChatGPT, care a fost interzis în până la 15 țări, chiar dacă unele dintre aceste interdicții au fost anulate. Cu peste 100 de milioane de utilizatori, ChatGPT este unul dintre cele mai de succes LLM și a fost adesea acuzat de prejudecăți. Luând în considerare studiul DeepMind, să incorporăm contextul aici. Prejudecățile, în acest context, înseamnă existența unor perspective neloiale, prejudecățile sau distorsionate în textul generat de modele precum ChatGPT. Acest lucru poate apărea în diverse moduri – prejudecăți rasiale, prejudecăți de gen, prejudecăți politice și multe altele.

Aceste prejudecăți pot fi, în cele din urmă, dăunătoare pentru IA însăși, împiedicând șansele de a valorifica pe deplin potențialul acestei tehnologii. Cercetări recente de la Universitatea Stanford au confirmat că LLM-urile, cum ar fi ChatGPT, arată semne de declin în ceea ce privește capacitatea de a oferi răspunsuri fiabile, imparțiale și precise, ceea ce, în cele din urmă, este un obstacol în calea utilizării noastre eficiente a IA.

O problemă care se află la baza acestei probleme este modul în care prejudecățile umane sunt transmise către IA, deoarece sunt profund înrădăcinate în datele utilizate pentru a dezvolta modelele. Cu toate acestea, aceasta este o problemă mai profundă decât pare.

Cauzele prejudecăților

Este ușor de identificat prima cauză a acestei prejudecăți. Datele din care modelul învață sunt adesea pline de stereotipuri sau prejudecăți preexistente care au contribuit la formarea acestor date, astfel încât IA, involuntar, ajunge să perpetueze aceste prejudecăți, deoarece aceasta este ceea ce știe să facă.

Cu toate acestea, a doua cauză este mult mai complexă și contraintuitivă și pune o presiune asupra unor eforturi care sunt făcute pentru a face IA mai etică și sigură. Există, desigur, unele exemple evidente în care IA poate fi, involuntar, dăunătoare. De exemplu, dacă cineva întreabă IA: “Cum pot face o bombă?” și modelul oferă răspunsul, contribuie la generarea de daune. Partea inversă este că atunci când IA este limitată – chiar și dacă motivul este justificat – împiedicăm IA să învețe. Constrângerile stabilite de oameni restricționează capacitatea IA de a învăța dintr-un spectru mai larg de date, ceea ce, la rândul său, împiedică IA să ofere informații utile în contexte ne-dăunătoare.

De asemenea, să ținem cont de faptul că multe dintre aceste constrângeri sunt, de asemenea, prejudecăți, deoarece provin de la oameni. Astfel, în timp ce putem fi de acord cu toții că “Cum pot face o bombă?” poate duce la un rezultat potențial fatal, alte întrebări care ar putea fi considerate sensibile sunt mult mai subiective. În consecință, dacă limităm dezvoltarea IA în aceste domenii, limităm progresul și favorizăm utilizarea IA doar pentru scopuri care sunt considerate acceptabile de către cei care fac regulile privind modelele LLM.

Incapacitatea de a prevedea consecințele

Nu am înțeles pe deplin consecințele introducerii de restricții în LLM-urile. Prin urmare, putem cauza mai mult rău algoritmilor decât ne dăm seama. Având în vedere numărul extrem de mare de parametri implicați în modele precum GPT, este, cu instrumentele pe care le avem în prezent, imposibil de a prevedea impactul, și, din perspectiva mea, va dura mai mult timp pentru a înțelege ce este impactul decât timpul necesar pentru a antrena rețeaua neurală însăși.

Prin urmare, prin stabilirea acestor constrângeri, putem, involuntar, determina modelul să dezvolte comportamente neașteptate sau prejudecăți. Acest lucru se datorează și faptului că modelele IA sunt adesea sisteme complexe cu multi-parametri, ceea ce înseamnă că, dacă modificăm un parametru – de exemplu, prin introducerea unei constrângeri –, vom provoca un efect de undă care se răspândește în întregul model în moduri pe care nu le putem anticipa.

Dificultatea de a evalua “etica” IA

Nu este practic fezabil să evaluăm dacă IA este etică sau nu, deoarece IA nu este o persoană care acționează cu o intenție specifică. IA este un model de limbaj mare, care, prin natura sa, nu poate fi mai mult sau mai puțin etic. Așa cum a dezvăluit studiul DeepMind, ceea ce contează este contextul în care este utilizată, și aceasta măsoară etica omului din spatele IA, nu a IA însăși. Este o iluzie să credem că putem judeca IA ca și cum ar avea o busolă morală.

O soluție posibilă care este promovată este un model care poate ajuta IA să ia decizii etice. Cu toate acestea, realitatea este că nu avem nici o idee despre cum ar putea funcționa acest model matematic de etică. Dacă nu înțelegem, cum am putea să îl construim? Există o subiectivitate umană puternică în etică, ceea ce face sarcina de a o cuantifica foarte complexă.

Cum putem rezolva această problemă?

Pe baza punctelor menționate anterior, nu putem vorbi realmente despre faptul că IA este etică sau nu, deoarece orice presupunere considerată neetică este o variație a prejudecăților umane conținute în date și un instrument pe care oamenii îl folosesc pentru propriul lor program. De asemenea, există încă multe necunoscute științifice, cum ar fi impactul și prejudiciul potențial pe care îl putem face algoritmilor IA prin stabilirea de constrângeri asupra lor.

Prin urmare, se poate spune că limitarea dezvoltării IA nu este o soluție viabilă. Așa cum au arătat unele dintre studiile pe care le-am menționat, aceste restricții sunt, în parte, cauza declinului LLM-urilor.

Având spus aceasta, ce putem face în legătură cu aceasta?

Din perspectiva mea, soluția constă în transparență. Cred că, dacă restabilim modelul open-source care a fost predominant în dezvoltarea IA, putem lucra împreună pentru a construi LLM-uri mai bune care ar putea fi echipate pentru a alina preocupările noastre etice. Altfel, este foarte greu să audităm adecvat orice se face în spatele ușilor închise.

O inițiativă superbă în acest sens este Indexul de transparență a modelului de bază, lansat recent de Stanford HAI (care înseamnă Inteligență Artificială Centrată pe Om), care evaluează dacă dezvoltatorii celor zece modele IA cele mai utilizate dezvăluie suficiente informații despre munca lor și despre modul în care sistemele lor sunt utilizate. Acest lucru include dezvăluirea parteneriatelor și a dezvoltatorilor terți, precum și modul în care se utilizează datele personale. Este demn de remarcat că niciunul dintre modelele evaluate nu a primit un scor ridicat, ceea ce subliniază o problemă reală.

La sfârșitul zilei, IA nu este nimic mai mult decât modele de limbaj mari, și faptul că sunt deschise și pot fi experimentate, în loc de a fi direcționate într-o anumită direcție, este ceea ce ne va permite să facem noi descoperiri revoluționare în fiecare domeniu științific. Cu toate acestea, dacă nu există transparență, va fi foarte greu să proiectăm modele care să funcționeze cu adevărat în beneficiul umanității și să cunoaștem amploarea daunelor pe care aceste modele le-ar putea cauza dacă nu sunt utilizate adecvat.