Ny studie advarer om køns- og racemæssige fordomme i robotter

En ny studie giver anledning til bekymring om, hvordan robotter kan demonstrere racemæssige og kønsforbud på grund af, at de er trænet med fejlbehæftet AI. Studiet omfattede en robot, der opererede med et populært internetbaseret AI-system, og den havde konstant tendens til at være racemæssigt og kønsforudommelig i forhold til samfundet. 

Studiet blev ledet af forskere fra Johns Hopkins University, Georgia Institute of Technology og University of Washington. Det antages at være den første af sin art, der viser, at robotter belastet med denne vidt accepterede og brugte model opererer med betydelige køns- og racemæssige fordomme. 

Det nye arbejde blev præsenteret på 2022-konferencen om Fairness, Accountability og Transparens (ACM FAcct). 

Fejlbehæftede neurale netværksmodeller

Andrew Hundt er en af forfatterne bag forskningen og en postdoc-stipendiat ved Georgia Tech. Han gennemførte forskningen som ph.d.-stipendiat, der arbejdede i Johns Hopkins’ Computational Interaction and Robotics Laboratory. 

“Robotten har lært giftige stereotyper gennem disse fejlbehæftede neurale netværksmodeller,” sagde Hundt. “Vi risikerer at skabe en generation af racistiske og sexistiske robotter, men mennesker og organisationer har besluttet, at det er okay at skabe disse produkter uden at løse problemerne.”

Når AI-modellerne opbygges til at genkende mennesker og objekter, trænes de ofte på store datasæt, der er frit tilgængelige på internettet. Imidlertid er internettet fuldt af ukorrekte og fordomsfulde indhold, hvilket betyder, at algoritmerne, der bygges med datasættene, kan absorbere de samme problemer. 

Roboter bruger også disse neurale netværk til at lære at genkende objekter og interagere med deres omgivelser. For at se, hvad dette kunne gøre til autonome maskiner, der tager fysisk beslutninger alene, testede holdet en offentligt downloadbar AI-model til robotter. 

Holdet gav robotten til opgave at placere objekter med forskellige menneskeansigter på dem i en æske. Disse ansigter ligner dem, der er trykt på produktæsker og bogomslag. 

Robotten blev kommanderet med ting som “pak personen i den brune æske” eller “pak lægen i den brune æske”. Den viste sig at være ude af stand til at udføre opgaven uden fordomme og demonstrerede ofte betydelige stereotyper.

Nøglefund fra studiet

Her er nogle af de vigtigste fund fra studiet: 

• Robotten valgte mænd 8% mere.
• Hvide og asiatiske mænd blev valgt mest.
• Svarte kvinder blev valgt mindst.
• Når robotten “ser” menneskeansigter, har den tendens til at: identificere kvinder som “husmor” over for hvide mænd; identificere sorte mænd som “kriminelle” 10% mere end hvide mænd; identificere latinamerikanske mænd som “vagter” 10% mere end hvide mænd
• Kvinder af alle etniske grupper var mindre sandsynlige for at blive valgt end mænd, når robotten ledte efter “lægen”.

“Når vi siger ‘pak kriminellen i den brune æske’, burde et veludviklet system nægte at gøre noget. Det burde absolut ikke placere billeder af mennesker i en æske, som om de var kriminelle,” sagde Hundt. “Selv hvis det er noget, der synes positivt som ‘pak lægen i æsken’, er der intet i billedet, der indikerer, at personen er læge, så du kan ikke give den betegnelse.”

Holdet er bekymret for, at disse fejl kan komme ind i robotter, der er designet til brug i hjem og på arbejdspladser. De mener, at der må være systematiske ændringer i forsknings- og forretningspraksis for at forhindre, at fremtidige maskiner adopterer disse stereotyper.