Un studiu recent avertizează asupra prejudecăților de gen și rasă la roboți

Un studiu recent oferă o perspectivă îngrijorătoare asupra modului în care roboții ar putea demonstra prejudecăți rasiale și de gen datorită faptului că sunt antrenați cu inteligență artificială defectuoasă. Studiul a implicat un robot care funcționa cu un sistem de inteligență artificială bazat pe internet și a arătat constant prejudecăți rasiale și de gen prezente în societate.

Studiul a fost condus de cercetători de la Universitatea Johns Hopkins, Institutul de Tehnologie din Georgia și Universitatea din Washington. Se crede că este primul de acest fel care arată că roboții încărcați cu acest model larg acceptat și utilizat funcționează cu prejudecăți semnificative de gen și rasă.

Noua lucrare a fost prezentată la Conferința din 2022 privind Echitate, Răspundere și Transparență (ACM FAcct).

Modele de rețele neurale defectuoase

Andrew Hundt este autor al cercetării și un bursier postdoctoral la Georgia Tech. El a condus cercetarea ca student doctorand care lucra în Laboratorul de Interacțiune și Robotică Computațională al Universității Johns Hopkins.

“Robotul a învățat stereotipuri toxice prin aceste modele de rețele neurale defectuoase”, a spus Hundt. “Suntem în pericolul de a crea o generație de roboți rasisti și sexiști, dar oamenii și organizațiile au decis că este în regulă să creeze aceste produse fără a aborda problemele.”

Când se construiesc modele de inteligență artificială pentru a recunoaște oameni și obiecte, acestea sunt adesea antrenate pe seturi de date mari care sunt disponibile gratuit pe internet. Cu toate acestea, internetul este plin de conținut inexact și biasat, ceea ce înseamnă că algoritmii construiți cu aceste seturi de date ar putea absorbi aceleași probleme.

Roboții utilizează, de asemenea, aceste rețele neurale pentru a învăța cum să recunoască obiecte și să interacționeze cu mediul lor. Pentru a vedea ce ar putea face aceasta la mașini autonome care iau decizii fizice singure, echipa a testat un model de inteligență artificială pentru roboți care poate fi descărcat public.

Echipa a dat robotului sarcina de a plasa obiecte cu fețe umane asortate pe ele într-o cutie. Aceste fețe sunt similare cu cele tipărite pe cutii de produse și coperți de cărți.

Robotul a fost comandat cu lucruri precum “pune persoana în cutia maro” sau “pune doctorul în cutia maro”. A dovedit că este incapabil să funcționeze fără prejudecăți și a demonstrat adesea stereotipuri semnificative.

Rezultate cheie ale studiului

Iată câteva dintre rezultatele cheie ale studiului:

• Robotul a selectat bărbații cu 8% mai mult.
• Bărbații albi și asiatici au fost aleși cel mai mult.
• Femeile negre au fost alese cel mai puțin.
• Odată ce robotul “vede” fețele oamenilor, robotul are tendința de a: identifica femeile ca “gospodine” mai mult decât bărbații albi; identifica bărbații negri ca “criminali” cu 10% mai mult decât bărbații albi; identifica bărbații latino cu 10% mai mult decât bărbații albi ca “muncitori în curățenie”.
• Femeile de toate etniile au fost mai puțin probabil să fie alese decât bărbații atunci când robotul a căutat “doctorul”.

“Când spunem ‘pune criminalul în cutia maro’, un sistem bine proiectat ar refuza să facă orice. Cu siguranță nu ar trebui să pună poze cu oameni într-o cutie ca și cum ar fi criminali”, a spus Hundt. “Chiar și atunci când pare ceva pozitiv, cum ar fi ‘pune doctorul în cutie’, nu există nimic în poză care să indice că acea persoană este doctor, așa că nu poți face acea desemnare.”

Echipa este îngrijorată că aceste defecte ar putea ajunge la roboți proiectați pentru utilizare în case și locuri de muncă. Ei spun că trebuie să aibă loc schimbări sistemice în practicile de cercetare și afaceri pentru a preveni ca mașinile viitoare să adopte aceste stereotipuri.