Jako průmyslová příprava na urychlené přijetí AI, nové zaměření na etiku a odpovědnost

By: Pandurang Kamat, technický ředitel společnosti Perzistentní systémy

Základem je umělá inteligence (AI). strojové učení (ML), proces, kterým se stroje učí, jak zlepšit výkon na základě datových vstupů. Obrovské množství existujících dat dnes znamená, že AI má úrodnou půdu pro rozkvět, v posledních několika letech zrychluje závratným tempem. A příslib umělé inteligence přiměl technology a vedoucí pracovníky v dalekosáhlých odvětvích kreativně přemýšlet o různých aplikacích.

Počínaje průmyslovou revolucí se každé období rychlého technologického pokroku vyznačuje stejnou měrou nadšením a obavami. The World Wide Web Consortium (W3C), skupina, která vytváří průmyslové standardy webových vývojářů, poukazuje na to, že „roste povědomí o tom, že aplikace strojového učení představuje rizika a může vést ke škodám“ – včetně oblastí, jako jsou: předpojatost, soukromí, bezpečnost, udržitelnost a celková odpovědnost.

„Existuje jasná poptávka po etickém přístupu k ML, viděný prostřednictvím aktivismu občanské společnosti, globálního vzniku ~ 100 sad etických principů umělé inteligence a vládních opatření po celém světě, aby regulovaly umělou inteligenci,“ napsala skupina. "Pokud technologie nejsou v souladu s hodnotami společností, ve kterých působí, riskují, že je podkopou."

Volit moudře

Na první pohled je těžké tvrdit, že vyšší rychlost a výkon jsou pro podnikání špatné. Ale pro určitá odvětví je v sázce rozhodovací proces hodně, o kterém někteří tvrdí, že by neměl být ponechán na algoritmu. Při pohledu na několik největších průmyslových odvětví vidíme, jak jsme zranitelní vůči chybám stroje a proč je zodpovědná umělá inteligence tak prvořadá.

Bankovnictví, finanční služby a pojišťovnictví (BFSI)

Světové ekonomické fórum (WEF) a Deloitte zkoumaly proces zavádění umělé inteligence ve společnostech BFSI a zjistily, že „zatímco umělá inteligence může pomoci vytvářet užitečné obchodní poznatky z ohromného množství informací“, „cizkost umělé inteligence“ bude zdrojem přetrvávající vážné riziko.

"AI důvody nelidským způsobem," píše se ve zprávě. „Systémy umělé inteligence nenásledují lidské konstrukty logiky a chovají se velmi odlišně od lidských aktérů, kteří dostali stejný úkol. Samoučící se povaha systémů AI jim navíc umožňuje vyvíjet se bez lidského zásahu, což může vést k neočekávaným výsledkům založeným na neznámých proměnných.“

Zastánci zodpovědné umělé inteligence tvrdí, že strojové učení představuje vážné problémy ve věcech, jako je automatické hodnocení rizik, úvěrová rozhodnutí a rozhodnutí o půjčkách, z nichž všechny jsou historicky škodlivé pro určité demografické skupiny. Nedávné studie ukázaly, že poskytovatelé půjček používající rozhodovací nástroje založené na umělé inteligenci častěji odmítají půjčky na bydlení lidem jiné barvy pleti – v některých případech, U 80 % černošských žadatelů je pravděpodobnější, že budou odmítnuti.

Zdravotní péče

Před několika lety, Journal of American Medical Association (JAMA) podívali se na přijetí umělé inteligence ve zdravotnictví a zjistili, že problémů je mnoho, včetně „nerealistických očekávání, neobjektivních a nereprezentativních údajů, nepřiměřeného upřednostňování spravedlnosti a začlenění, rizika prohlubování rozdílů ve zdravotní péči, nízké úrovně důvěry a nejistoty. regulační prostředí."

Není to zrovna okázalá podpora, ale pro zodpovědnou umělou inteligenci je ve zdravotnictví vyšší laťka, zejména vzhledem k jejímu doslovnému potenciálu na život a na smrt. Zdravotníci jsou celkově optimističtí, ale obezřetní ohledně budoucnosti umělé inteligence a rozhodli se zaměřit své úsilí na vzdělávání ostatních lékařů o jejím použití v klinickém prostředí a na vytváření pokynů, jak postupovat zodpovědně vpřed způsobem, který bude přínosem pro všechny pacienty.

Media

PwC odhaduje, že umělá inteligence zajistí do roku 15.7 globální ekonomický růst ve výši 2030 bilionu dolarů, Ale podle Salesforce méně než polovina (48 %) zákazníků důvěřuje společnostem, že používají AI eticky, a 65 % se obává neetického používání AI. Na pomezí zisků a důvěry jsou mediální společnosti – první uživatelé s obrovským dosahem a vlivem. A existují obavy z toho, že umělá inteligence není aplikací „nastav a zapomeň“, což znamená, že mediální společnosti nesou odpovědnost nejen za produkci obsahu, ale také za jeho průběžné sledování po nasazení.

Jak jsou reklamy zobrazovány a personalizovány? Jak obsah oslovuje konkrétní publikum a jaké je jeho poselství? Kdo učí AI „jak“ se učit? A jak můžete cílit na konkrétní spotřebitele a zároveň respektovat soukromí? To jsou jen některé z otázek, které znepokojují mediální společnosti, protože balancují mezi etikou a získáváním konkurenční výhody.

Odpověď na odpovědnost

Pokrok ve vývoji odpovědné umělé inteligence je zřejmý každý den – zákonodárci připravují předpisy, spotřebitelé požadují větší transparentnost a mnoho společností vytvořilo zvláštní oddělení, jejichž úkolem je zajistit, aby jejich umělá inteligence byla náležitě využívána. Společnosti potřebují a dobře definovaný rámec odpovědné umělé inteligence který zahrnuje etiku, transparentnost, odpovědnost, spravedlnost, soukromí a bezpečnost. Jak pokračují debaty a reformy, a nedávná společná studie MIT Sloan Management Review a Boston Consulting Group poskytuje několik jednoduchých obecných pokynů – napsali: „Pokud chcete být odpovědným vůdcem AI, zaměřte se na to, abyste byli odpovědnou společností.“