Biasul Inteligenței Artificiale și Stereotipurile Culturale: Efecte, Limitări și Mitigare

Inteligența Artificială (IA), în special Inteligența Artificială Generativă, continuă să depășească așteptările cu capacitatea sa de a înțelege și a imita cogniția și inteligența umană. Cu toate acestea, în multe cazuri, rezultatele sau previziunile sistemelor de IA pot reflecta diverse tipuri de bias de IA, cum ar fi cele culturale și rasiale.

Blogul „Barbies din Lume” de la Buzzfeed (care este acum șters) manifestă clar aceste biasuri culturale și inexactități. Aceste „barbies” au fost create folosind Midjourney – un generator de imagini de IA de top, pentru a afla cum ar arăta barbies din fiecare parte a lumii. Vom discuta mai mult despre acest subiect mai târziu.

Dar acesta nu este primul caz în care IA a fost „rasistă” sau a produs rezultate inexacte. De exemplu, în 2022, Apple (AAPL ) a fost dată în judecată pentru acuzații că senzorul de oxigen din sânge al Apple Watch era biasat împotriva persoanelor de culoare. Într-un alt caz raportat, utilizatorii de Twitter au descoperit că algoritmul de decupare automată a imaginilor de la Twitter favoriza fețele persoanelor albe în detrimentul celor negre și ale femeilor în detrimentul bărbaților. Acestea sunt provocări critice, și abordarea lor este semnificativ dificilă.

În acest articol, vom examina ce este biasul de IA, cum afectează societatea noastră și vom discuta pe scurt cum pot practicienii să mitigeze aceste biasuri pentru a aborda provocări precum stereotipurile culturale.

Ce este Biasul de IA?

Biasul de IA apare atunci când modelele de IA produc rezultate discriminatorii împotriva anumitor demografii. Există mai multe tipuri de biasuri care pot pătrunde în sistemele de IA și produce rezultate inexacte. Unele dintre aceste biasuri de IA sunt:

• Biasul Stereotipic: Biasul stereotipic se referă la fenomenul în care rezultatele unui model de IA constau în stereotipuri sau noțiuni percepute despre o anumită demografie.
• Biasul Racial: Biasul racial în IA apare atunci când rezultatul unui model de IA este discriminatoriu și injust față de o persoană sau un grup pe baza etniei sau rasei.
• Biasul Cultural: Biasul cultural intervine atunci când rezultatele unui model de IA favorizează o anumită cultură în detrimentul alteia.

În afară de biasuri, alte probleme pot împiedica rezultatele unui sistem de IA, cum ar fi:

• Inexactități: Inexactitățile apar atunci când rezultatele produse de un model de IA sunt inexacte din cauza datelor de antrenare inconsistente.
• Halucații: Halucațiile apar atunci când modelele de IA produc rezultate fictive și false care nu se bazează pe date factuale.

Impactul Biasului de IA asupra Societății

Impactul biasului de IA asupra societății poate fi dăunător. Sistemele de IA biasate pot produce rezultate inexacte care amplifică prejudecățile existente în societate. Aceste rezultate pot crește discriminarea și încălcarea drepturilor, pot afecta procesele de angajare și pot reduce încrederea în tehnologia de IA.

De asemenea, rezultatele biasate de IA pot duce la previziuni inexacte care pot avea consecințe grave pentru indivizi nevinovați. De exemplu, în august 2020, Robert McDaniel a devenit ținta unui act criminal datorită algoritmului de poliție predictivă al Departamentului de Poliție din Chicago, care l-a etichetat ca „persoană de interes”.

Similar, sistemele de IA pentru sănătate biasate pot avea rezultate acute asupra pacienților. În 2019, Science a descoperit că un algoritm medical larg utilizat în SUA era biasat rasial împotriva persoanelor de culoare, ceea ce a dus la faptul că pacienții negri au primit mai puțină îngrijire medicală de înalt risc.

Barbies din Lume

În iulie 2023, Buzzfeed a publicat un blog care conținea 194 de barbies generate de IA din toată lumea. Postarea a devenit virală pe Twitter. Deși Buzzfeed a scris o declarație de dezavuare, nu a putut opri utilizatorii de internet să observe inexactitățile rasiale și culturale. De exemplu, imaginea de IA a unei barbie germane purta uniforma unui general SS nazist.

Similar, imaginea de IA a unei barbie din Sudanul de Sud era prezentată ținând un pistol lângă ea, reflectând biasul profund înrădăcinat în algoritmii de IA.

În afară de aceasta, mai multe imagini au arătat inexactități culturale, cum ar fi barbie din Qatar care purta un ghutra, o căciulă tradițională purtată de bărbații arabi.

Acest post de blog a primit o reacție puternică pentru stereotipuri culturale și bias. Școala Interdisciplinară din Londra (LIS) a numit acest rău reprezentativ care trebuie să fie controlat prin impunerea standardelor de calitate și stabilirea organismelor de supraveghere a IA.

Limitările Modelelor de IA

IA are potențialul de a revoluționa multe industrii. Dar, dacă scenarii precum cele menționate anterior se multiplică, poate duce la o scădere a adoptării generale a IA, ceea ce poate duce la oportunități ratate. Asemenea cazuri apar de obicei din cauza limitărilor semnificative ale sistemelor de IA, cum ar fi:

• Lipsa Creativității: Deoarece IA poate lua decizii doar pe baza datelor de antrenare furnizate, îi lipsește creativitatea de a gândi în afara cutiei, ceea ce împiedică rezolvarea creativă a problemelor.

• Lipsa Înțelegerii Contextuale: Sistemele de IA au dificultăți în a înțelege nuanțele contextuale sau expresiile lingvistice ale unei regiuni, ceea ce duce adesea la erori în rezultate.

• Biasul de Antrenare: IA se bazează pe date istorice care pot conține mostre discriminatorii. În timpul antrenamentului, modelul poate învăța ușor modele discriminatorii pentru a produce rezultate biasate și injuste.

Cum să Reducem Biasul în Modelele de IA

Experții estimează că până în 2026, 90% din conținutul online ar putea fi generat sintetic. Prin urmare, este vital să minimizăm rapid problemele prezente în tehnologiile de IA Generativă.

Există mai multe strategii cheie care pot fi implementate pentru a reduce biasul în modelele de IA. Unele dintre acestea sunt:

• Asigurarea Calității Datelor: Ingestia de date complete, exacte și curate într-un model de IA poate ajuta la reducerea biasului și la producerea de rezultate mai precise.
• Date Diverse: Introducerea de seturi de date diverse într-un sistem de IA poate ajuta la mitigarea biasului, deoarece sistemul de IA devine mai inclusiv în timp.

• Bucle de Feedback: Cu un bucle de feedback și învățare constant, modelele de IA pot îmbunătăți treptat rezultatele

• Reglementări Îmbunătățite: Reglementările globale de IA sunt esențiale pentru menținerea calității sistemelor de IA la nivel transfrontalier. Prin urmare, organizațiile internaționale trebuie să colaboreze pentru a asigura standardizarea IA.

• Adoptarea Îmbunătățită a IA Responsabile: Strategiile de IA responsabilă contribuie pozitiv la mitigarea biasului de IA, cultivând echitatea și precizia în sistemele de IA și asigurându-se că acestea servesc o bază de utilizatori diversă, în timp ce se străduie să îmbunătățească în mod constant.

Prin integrarea seturilor de date diverse, a responsabilității etice și a mijloacelor de comunicare deschise, putem asigura că IA este o sursă de schimbare pozitivă la nivel global.

Dacă doriți să aflați mai multe despre bias și rolul Inteligenței Artificiale în societatea noastră, citiți următoarele bloguri.

• Cum orașele implementează tehnologii de top care utilizează algoritmi de IA nebiasați
• IA poate combate dezinformarea și biasul în știri
• Bias și echitate a sistemelor bazate pe IA în cadrul crimei financiare
• Un verificator de bias bazat pe IA pentru articole de știri, disponibil în Python