Výzkumníci v oblasti AI navrhují stanovení odměn za zjištění předpojatosti AI, aby se AI stalo etičtějším

Tým výzkumníků v oblasti AI z firem a vývojových laboratoří, jako jsou Intel, Google Brain a OpenAI, doporučuje využít odměn za zjištění předpojatosti AI, aby se zajistilo etické využití AI. Tým výzkumníků nedávno vydal několik návrhů týkajících se etického využití AI a jedním z nich je návrh, že odměňování lidí za zjištění předpojatosti v AI by mohlo být účinným způsobem, jak učinit AI spravedlivějším.

Jak uvádí VentureBeat, výzkumníci z různých firem po celých Spojených státech a Evropě se spojili, aby vytvořili soubor etických pravidel pro vývoj AI, stejně jako návrhy, jak tato pravidla splnit. Jedním z návrhů, které výzkumníci učinili, bylo nabídnout odměny vývojářům, kteří objeví předpojatost v programech AI. Návrh byl učiněn v článku nazvaném „Směrem k důvěryhodnému vývoji AI: Mechanismy pro podporu ověřitelných tvrzení“.

Jako příklady předpojatostí, které tým výzkumníků doufá řešit, byly zjištěny předpojaté údaje a algoritmy ve všech typech aplikací, od zdravotnických aplikací až po systémy rozpoznávání obličeje používané policejními složkami. Jedním z takových případů předpojatosti je nástroj PATTERN pro hodnocení rizika, který byl nedávno použit ministerstvem spravedlnosti USA pro třídění vězňů a rozhodnutí, kteří z nich mohou být propuštěni, když se snižují velikosti vězeňské populace v reakci na pandemii koronaviru.

Praxe odměňování vývojářů za zjištění nežádoucího chování v počítačových programech je starou, ale toto by mohlo být poprvé, kdy etická rada AI vážně prosazuje tuto myšlenku jako možnost boje proti předpojatosti AI. Přestože je nepravděpodobné, že existuje dostatek vývojářů AI, kteří by mohli najít dostatek předpojatostí, aby se zajistilo, že AI je etické, stále by to mohlo pomoci společnostem snížit celkovou předpojatost a získat lepší představu o typech předpojatostí, které pronikají do jejich systémů AI.

Autoři článku vysvětlili, že koncept bug-bounty lze rozšířit na AI pomocí odměn za předpojatost a bezpečnost a že správné použití této techniky by mohlo vést k lepší dokumentaci dat a modelů. Dokumentace by lépe odrážela omezení obou modelu a dat. Výzkumníci dokonce poznamenali, že stejná myšlenka by mohla být aplikována na další vlastnosti AI, jako je interpretovatelnost, bezpečnost a ochrana soukromí.

Jak se diskuse o etických principech AI dále rozvíjí, mnoho lidí si uvědomilo, že samotné principy nejsou dostatečné a že je třeba podniknout kroky k zajištění etického využití AI. Autoři článku poznamenali, že „stávající předpisy a normy v průmyslu a akademii jsou nedostatečné k zajištění odpovědného vývoje AI“. Spoluzakladatel Google Brain a lídr AI průmyslu Andrew Ng také uvedl, že samotné směrnice nestačí k zajištění odpovědného a spravedlivého využití AI, řekl, že mnohé z nich potřebují být explicitnější a mít akční nápady.

Návrh týmu výzkumníků na lov předpojatostí AI je pokusem přesunout se za rámec etických principů do oblasti etického jednání. Tým výzkumníků učinil několik dalších návrhů, které by mohly podnítit etické jednání v oblasti AI.

Tým výzkumníků učinil několik dalších návrhů, které společnosti mohou následovat, aby své využití AI učinily etičtějším. Navrhují, že by měla být vytvořena centrální databáze incidentů AI a sdílena se širší komunitou AI. Podobně výzkumníci navrhují, že by měla být zavedena auditní stopa a že tyto stopy by měly uchovávat informace o vytváření a nasazení bezpečnostně kritických aplikací na platformách AI.

Aby byla zachována soukromí lidí, výzkumníci navrhují, že by měly být použity techniky zaměřené na soukromí, jako je šifrovaná komunikace, federativní učení a diferenciální soukromí. Kromě toho výzkumníci navrhují, že by měly být široce dostupné otevřené zdrojové alternativy a že komerční modely AI by měly být důkladně prošetřeny. Nakonec tým výzkumníků navrhuje, že by mělo být zvýšeno vládní financování, aby akademické výzkumníci mohli ověřit nároky na výkon hardwaru.