Výzkumníci v oblasti umělé inteligence navrhují odměny za nalezení偏见 v umělé inteligenci, aby se zlepšila etika umělé inteligence

Tým výzkumníků v oblasti umělé inteligence z firem a vývojových laboratoří, jako jsou Intel (INTC ), Google (GOOGL ) Brain a OpenAI, doporučuje použití odměn za nalezení偏见 v umělé inteligenci, aby se zajistila etická utilizace umělé inteligence. Tým výzkumníků nedávno vydal několik návrhů týkajících se etické utilizace umělé inteligence a jedním z nich je návrh, že odměňování lidí za nalezení偏见 v umělé inteligenci by mohlo být účinným způsobem, jak učinit umělou inteligenci spravedlivější.

Podle zprávy VentureBeat se výzkumníci z různých firem v USA a Evropě spojili, aby vytvořili soubor etických pravidel pro vývoj umělé inteligence a návrhy, jak tato pravidla dodržet. Jedním z návrhů, které výzkumníci učinili, bylo nabídnout odměny vývojářům, kteří najdou偏见 v programech umělé inteligence. Tento návrh byl učiněn v článku s názvem „Směrem k důvěryhodnému rozvoji umělé inteligence: Mechanismy pro podporu ověřitelných tvrzení“.

Jako příklady偏见, které tým výzkumníků doufá řešit, byly nalezeny偏见 v datech a algoritmech ve všech typech aplikací, od zdravotnických aplikací po systémy rozpoznávání obličeje používané orgány činnými v trestním řízení. Jedním z takových případů偏见 je nástroj PATTERN pro hodnocení rizik, který byl nedávno použit ministerstvem spravedlnosti USA k třídění vězňů a rozhodnutí, které z nich lze propustit, když se snižuje počet vězňů v reakci na pandemii koronaviru.

Praxe odměňování vývojářů za nalezení nežádoucího chování v počítačových programech je stará, ale toto může být první případ, kdy etický výbor pro umělou inteligenci vážně navrhl tuto myšlenku jako možnost boje proti偏见 v umělé inteligenci. Ačkoli je nepravděpodobné, že existuje dostatek vývojářů umělé inteligence, kteří by mohli najít dostatek偏见, aby se zajistila etika umělé inteligence, tato metoda by mohla pomoci firmám snížit celkovou výši偏见 a získat lepší přehled o typech偏见, které pronikají do jejich systémů umělé inteligence.

Autor článku vysvětluje, že koncept bug-bounty lze rozšířit na umělou inteligenci pomocí odměn za偏见 a bezpečnost a že správné využití této techniky by mohlo vést k lepší dokumentaci dat a modelů. Tato dokumentace by lépe reflektovala omezení obou modelu a dat. Výzkumníci dokonce poznamenávají, že stejná myšlenka by mohla být aplikována na další vlastnosti umělé inteligence, jako je interpretovatelnost, bezpečnost a ochrana soukromí.

Jak se diskuse o etických principech umělé inteligence stále více rozšiřuje, mnoho lidí si uvědomilo, že principy samotné nejsou dostatečné a že je třeba podniknout kroky k zajištění etické utilizace umělé inteligence. Autoři článku poznamenávají, že „stávající předpisy a normy v průmyslu a akademii jsou nedostatečné k zajištění odpovědného rozvoje umělé inteligence“. Spoluzakladatel Google Brain a lídr v oblasti umělé inteligence Andrew Ng také uvedl, že směrnice samotné nejsou dostatečné k zajištění, že umělá inteligence bude využívána odpovědně a spravedlivě, a že mnohé z nich potřebují být explicitnější a mít konkrétní nápady.

Návrh týmu výzkumníků na odměny za nalezení偏见 je pokus přesunout se od etických principů k etickému jednání. Výzkumníci také učinili několik dalších návrhů, které by mohly podnítit etické jednání v oblasti umělé inteligence.

Výzkumníci učinili několik dalších návrhů, které firmy mohou následovat, aby svou utilizaci umělé inteligence učily etičtější. Navrhují, že by měl být vytvořen centralizovaný databáze incidentů umělé inteligence a že by tato databáze měla být sdílena v širší komunitě umělé inteligence. Výzkumníci také navrhují, že by měl být zaveden auditní stop a že tyto stopy by měly uchovávat informace o vytváření a nasazení bezpečnostně kritických aplikací v platformách umělé inteligence.

Aby se zachovala soukromí lidí, výzkumníci navrhují, že by měly být využívány techniky zaměřené na ochranu soukromí, jako jsou šifrované komunikace, federované učení a diferenciální soukromí. Kromě toho výzkumníci navrhují, že by měly být široce dostupné otevřené alternativy a že komerční modely umělé inteligence by měly být důkladně prošetřeny. Nakonec výzkumníci navrhují, že by mělo být zvýšeno vládní financování, aby akademické výzkumné pracovníky mohly ověřit tvrzení o výkonu hardwaru.