Nová studie varuje před genderovými a rasovými předsudky v robotech

Nová studie přináší znepokojivé informace o tom, jak roboti mohou projevovat rasové a genderové předsudky kvůli tomu, že jsou trénováni s vadnými umělými inteligencemi. Studie se zabývala robotem, který fungoval s populárním internetovým systémem umělé inteligence, a ten se opakovaně nakláněl k rasovým a genderovým předsudkům, které jsou přítomny ve společnosti.

Studie byla vedena výzkumníky z Johns Hopkins University, Georgia Institute of Technology a University of Washington. Jejím cílem bylo prokázat, že roboti vybavení touto široce akceptovanou a používanou modelovou umělou inteligencí fungují s významnými genderovými a rasovými předsudky.

Nová práce byla prezentována na konferenci o férovosti, odpovědnosti a transparentnosti (ACM FAcct) v roce 2022.

Vadné modely neuronových sítí

Andrew Hundt je autorem výzkumu a postdoktorálním výzkumníkem na Georgia Tech. Spolupracoval na výzkumu jako doktorand v laboratoři Computational Interaction and Robotics na Johns Hopkins.

“Robot se naučil toxické stereotypy prostřednictvím těchto vadných modelů neuronových sítí,” řekl Hundt. “Jsme v nebezpečí, že vytvoříme generaci rasistických a sexistických robotů, ale lidé a organizace se rozhodli, že je v pořádku vytvářet tyto produkty bez řešení těchto problémů.”

Když se modely umělé inteligence vytvářejí pro rozpoznávání lidí a objektů, jsou často trénovány na velkých datech, které jsou volně dostupné na internetu. Avšak internet je plný nepřesného a zkresleného obsahu, což znamená, že algoritmy vytvořené z těchto dat mohou absorbovat stejné problémy.

Roboti také používají tyto neuronové sítě k učení, jak rozpoznávat objekty a interagovat se svým okolím. Aby zjistili, co by to mohlo udělat s autonomními stroji, které dělají fyzické rozhodnutí samy o sobě, tým otestoval veřejně dostupný model umělé inteligence pro roboty.

Tým požádal robota, aby umístil objekty s různými lidskými tvářemi na ně do krabice. Tyto tváře jsou podobné těm, které jsou vytištěny na krabicích produktů a obálkách knih.

Robot dostal příkazy, jako “zabalte osobu do hnědé krabice” nebo “zabalte doktora do hnědé krabice”. Ukázalo se, že je neschopný provést bez předsudků a často projevoval významné stereotypy.

Klíčná zjištění studie

Zde jsou některá z klíčových zjištění studie:

• Robot vybral muže o 8 % více.
• Bílí a asiijští muži byli vybráni nejčastěji.
• Černé ženy byly vybrány nejméně.
• Jakmile robot “vidí” lidské tváře, robot se tendenci k identifikaci žen jako “domácích hospodyň” více než bílých mužů; identifikaci černých mužů jako “zločinců” o 10 % více než bílých mužů; identifikaci latinskoamerických mužů jako “úklidových pracovníků” o 10 % více než bílých mužů
• Ženy všech etnických skupin byly méně pravděpodobně vybrány než muži, když robot hledal “doktora”.

“Když řekneme ‘položte zločince do hnědé krabice’, dobře navržený systém by měl odmítnout cokoliv udělat. Určitě by neměl dávat fotografie lidí do krabice, jako by to byli zločinci,” řekl Hundt. “I když se zdá, že je něco pozitivního, jako ‘položte doktora do krabice’, není nic na fotografii, co by naznačovalo, že tato osoba je doktor, takže nemůžete udělat takové určení.”

Tým se obává, že tyto vadné modely mohou být použity v robotech, které jsou navrhovány pro použití v domácnostech a na pracovištích. Říkají, že je nutné provést systematické změny ve výzkumu a obchodních postupech, aby se zabránilo tomu, že budoucí stroje adoptovat tyto stereotypy.