Umělá inteligence: Od lidí, pro lidi a lidí

Autor: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI a automatizace ve společnosti Infosys.

Žijeme ve věku technologií, kde umělá inteligence velmi tvrdě pracuje, aby nám usnadnila život – naše telefony nás nyní rozpoznají a odemknou, jakmile nás „uvidí“, máme mapy, které nám pomáhají najít nejkratší a nejméně zanedbané cesty, chytré zařízení, které naše domovy ohřívá a chladí, aniž bychom museli říkat slovo, inteligentní aplikace, které předpovídají a zabraňují podvodům, a mnoho dalšího.

Jenže jsme také měli případy, kdy tyto chytré systémy poháněné umělou inteligencí selhaly z hlediska spravedlnosti a etiky. Například renomovaná banka, se kterou spolupracujeme, podezřívala, že modely umělé inteligence, které používají k hodnocení úvěrové spolehlivosti před vydáním úvěrů, mohou být zaujaté, a proto nás požádala o pomoc. V jiném případě spolupracoval s námi výrobce strojů, aby analyzoval vzorce záručních nároků a odstranil z datového souboru a procesu před rekonstrukcí a automatizací procesu schvalování nároků. Modely umělé inteligence související s náborářstvím jsou často zkorumpovány zaujatostmi věku, pohlaví, rasy, někdy i poštovních směrovacích čísel, ve svých datech – poskytují nespravedlivé výsledky, pokud nejsou kontrolovány.

Vzhledem k enormnímu dopadu, který může mít zaujatost umělé inteligence v celém podniku, etické otázky se staly ústředním tématem ve vývoji, implementaci a používání systémů umělé inteligence. Systémy umělé inteligence jsou kombinací mnoha lidských rozhodnutí, která jsou sama o sobě založena na lidských zaujatostech. Ochrana autonomie a soukromí zaměstnanců, rizika zaujatostí, která ovlivňují kariérní růst a příležitosti, diskriminace založená na barvě pleti, rase nebo pohlaví, absence vysvětlitelnosti voleb provedených řešením umělé inteligence a tím i odpovědnost za rozhodování umělé inteligence, jsou nyní velmi diskutovány, když se jedná o umělou inteligenci a její zásluhy.

Vytvoření zodpovědné umělé inteligence

Zaujatost umělé inteligence může mít dopad na celou organizaci. Je důležité, aby lídři IT zajistili, že umělou inteligenci nasazují etickým způsobem, který funguje s zaměstnanci, a ne proti nim. K tomu by organizace měly zahrnout následující prvky do svých nasazení umělé inteligence.

Správa dat: Etické použití umělé inteligence také závisí na dobře řízeném používání dat, počínaje zdrojem dat eticky a transparentně. K tomu by lídři IT měli vytvořit dobře definovaný rámec správy, který zajistí bezpečnost, integritu a soukromí dat, jakož i zabrání korupci a ztrátě dat – jsou všechny nezbytné.

Odpovědnost: Modely strojového učení musí být spravedlivé, nezaujaté, musí zacházet s lidmi stejně a také rozdělovat výhody spravedlivě (podobné přijímací a odmítací sazby) napříč všemi atributy, jako je rasa, náboženství, pohlaví atd. Musí dosáhnout přijatelné přesnosti nejen z hlediska celkového počtu, ale i z hlediska menšinových tříd. Tyto modely by měly být vysvětlitelné, pokud jde o vysvětlení, jak bylo dosaženo výsledku. Například být schopen vysvětlit, proč model odmítl žádost o úvěr od žadatele A, ale schválil stejnou žádost od žadatele B. Lídři IT, kteří vyvíjejí řešení umělé inteligence, musí zajistit, aby podkladová logika, která řídí tato rozhodnutí, byla jasná pro obchodní partnery, aby byla v podniku větší transparentnost.

Odolnost vůči adversárním útokům: Celý ekosystém umělé inteligence musí souhlasit s potřebou testovat a hackovat modely umělé inteligence prostřednictvím simulací, aby se studovaly potenciální nepříznivé výsledky. Například lídři IT mohou použít následující testy, aby ověřili své systémy umělé inteligence a připravili se na potenciální překážky.

• Modifikace dat:

přímá změna datové sady použitá pro školení prostřednictvím injekce dat, modifikace a logické korekce

• Modifikace modelů:

testování snížení spolehlivosti a nesprávné klasifikace

• Pomocné nástroje:

použití nástrojů k ovlivnění nebo zkorumpování výsledků

Lidský faktor: Modely umělé inteligence musí být zbaveny rizika tím, že budou mít lidi ve všech rozhodovacích bodech a budou mít efektivní záložní mechanismus nebo alternativní cestu, pokud systém umělé inteligence potřebuje být stažen.

Vyvíjení sociálního souhlasu pro umělou inteligenci

Kromě těchto pokynů je třeba podporovat inkluzivní diskuse a debaty mezi všemi lídry v podniku o výhodách, zájmech, nákladech a důsledcích jakéhokoli velkého nasazení umělé inteligence. Pouze takto inkluzivní procesy, které zahrnují všechny zúčastněné strany, aby diskutovaly a rozhodovaly o přijatelných výsledcích a aby vyvažovaly rizika a výhody, jsou pravděpodobně schopny získat licenci k provozu technologií umělé inteligence po celém podniku.