Jak průmysly připravují urychlenou adopci umělé inteligence, nový důraz na etiku a odpovědnost

Od: Panduranga Kamata, CTO společnosti Persistent Systems

Umělá inteligence (AI) je ve své podstatě machine learning (ML), proces, při kterém se stroje učí, jak zlepšit výkon na základě vstupních dat. Ohromné množství existujících dat dnes znamená, že AI má úrodnou půdu pro rozkvět, zrychluje v posledních letech nevídaným tempem. A slib AI dostal technlogy a výkonné pracovníky v různých odvětvích, aby mysleli kreativně o jeho různých aplikacích.

Od průmyslové revoluce každá doba rychlého technologického pokroku je charakterizována stejnými částmi nadšení a obav. World Wide Web Consortium (W3C), skupina, která vytváří standardy pro webové vývojáře, uvádí, že „je zde rostoucí povědomí o tom, že aplikace machine learningu představuje rizika a může vést k újmám“ – včetně oblastí, jako je: předpojatost, soukromí, bezpečnost, udržitelnost a celková odpovědnost.

„Je zde jasná poptávka po etickém přístupu k ML, viditelná prostřednictvím aktivit občanské společnosti, vzniku asi 100 souborů etických principů AI na celém světě a vládních kroků po celém světě k regulaci AI,“ napsala skupina. „Pokud technologie nejsou sladěny s hodnotami společností, ve kterých působí, riskují je podkopat.“

Vyberte moudře

Na povrchu je těžké tvrdit, že zvýšená rychlost a výstup jsou špatné pro podnikání. Ale pro některá odvětví je mnoho na hře s procesem rozhodování, který by neměl být ponechán na algoritmu. Podívejme se na některá z největších odvětví a uvidíme, jak zranitelní jsme vůči chybám strojů a proč je odpovědná AI tak důležitá.

Bankovnictví, finanční služby a pojištění (BFSI)

Světové ekonomické fórum (WEF) a Deloitte zkoumaly proces nasazení AI ve společnostech BFSI a zjistily, že „ačkoli AI může pomoci vytvořit užitečné obchodní poznatky z ohromného množství informací“, „cizost AI“ bude zdrojem trvalého vážného rizika.

„AI důvodně jedná jinak, než lidé,“ stojí v zprávě. „Systémy AI nedodržují lidské konstrukce logiky a chovají se velmi odlišně od lidských aktérů při stejném úkolu. Kromě toho se systémy AI samy učí, aby se vyvíjely bez lidského vstupu, což může vést k neočekávaným výsledkům na základě neznámých proměnných.“
Návštěvníci odpovědné AI tvrdí, že machine learning představuje vážné problémy v oblastech, jako je automatické hodnocení rizika, úvěry a rozhodnutí o půjčkách, které jsou historicky předpojaté vůči určitým demografickým skupinám. Nedávné studie ukázaly, že věřitelé, kteří používali AI-založené rozhodovací motory, byli častěji odmítali hypotéky lidem barevné pleti – v některých případech 80 % černochů je více pravděpodobně odmítnuto.

Zdravotnictví

Před několika lety Journal of the American Medical Association (JAMA) zkoumal adopci AI ve zdravotnictví a zjistil, že existuje mnoho výzev, včetně „nerealistických očekávání, předpojatých a nereprezentativních dat, nedostatečné prioritizace rovnosti a inkluze, rizika zhoršení zdravotních disparit, nízké úrovně důvěry a nejistých regulačních prostředí“.

To není právě uznání, ale existuje vyšší laťka pro odpovědnou AI ve zdravotnictví, zejména vzhledem k její literalní životně důležité potenci. Celkově jsou zdravotničtí profesionálové optimističtí, ale opatrní ohledně budoucnosti AI, soustředí se na vzdělávání ostatních praktiků o jejím použití v klinickém prostředí a vytváření pokynů pro to, jak postupovat odpovědně způsobem, který prospívá všem pacientům.

Média

PwC odhaduje, že AI poskytne 15,7 bilionu dolarů globálního ekonomického růstu do roku 2030, ale podle Salesforce méně než polovina (48 %) zákazníků důvěřuje společnostem, aby používaly AI eticky, a 65 % se obává o neetické použití AI. Na křižovatce zisků a důvěry jsou mediální společnosti – raní adoptoři s obrovským dosahem a vlivem. A existují obavy nad skutečností, že AI není „nastav a zapomeň“ aplikací, což znamená, že pro mediální společnosti je jejich odpovědnost nejen při produkci obsahu, ale také při jeho pokračujícím monitorování po nasazení.

Jak jsou reklamy zobrazovány a personalizovány? Jak je obsah doručován konkrétnímu publiku a co je zpráva? Kdo učí AI „jak“ se učit? A jak můžete cílit na konkrétní spotřebitele,同时 respektujete soukromí? To jsou jen některé otázky, které trápí mediální společnosti, když vyvažují etiku se získáním konkurenční výhody.

Odpověď na odpovědnost

Pokrok v rozvoji odpovědné AI je zjevný každý den – zákonodárci připravují regulace, spotřebitelé požadují více transparentnosti a mnoho společností vytvořilo speciální oddělení, která zajišťují, aby jejich AI byla používána vhodně. Společnosti potřebují dobře definovaný rámec odpovědné AI, který pokrývá etiku, transparentnost, odpovědnost, spravedlnost, soukromí a bezpečnost. Když debaty a reformy pokračují, nedávná společná studie MIT Sloan Management Review a Boston Consulting Group poskytuje některé obecné pokyny – napsali, „Pokud chcete být odpovědným lídrem AI, zaměřte se na to, abyste byli odpovědnou společností.“ rs etika, transparentnost, odpovědnost, spravedlnost, soukromí a bezpečnost. Když debaty a reformy pokračují, nedávná společná studie MIT Sloan Management Review a Boston Consulting Group poskytuje některé obecné pokyny – napsali, „Pokud chcete být odpovědným lídrem AI, zaměřte se na to, abyste byli odpovědnou společností.“