Myslitelé

Odvětví se připravují na rychlejší zavádění AI: nový důraz na etiku a odpovědnost

Dr. Pandurang Kamat
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyAI v oblasti BFSI riskuje zesílení předsudků, přičemž černošským žadatelům je o 80 %…
Zobrazit více
  • AI v oblasti BFSI riskuje zesílení předsudků, přičemž černošským žadatelům je o 80 % pravděpodobněji zamítnuta hypotéka.
  • Přijetí AI ve zdravotnictví čelí výzvám, jako jsou zkreslená data a riziko prohlubování nerovností.
  • Mediální společnosti musí monitorovat AI po nasazení, aby vyvážily etiku, soukromí a konkurenční výhodu.

Od: Pandurang Kamat, CTO společnosti Persistent Systems (PERSISTENT.BO )

Umělá inteligence (AI) je ve své podstatě strojové učení (ML), proces, při kterém se stroje učí, jak zlepšit výkon na základě vstupních dat. Ohromné množství existujících dat dnes znamená, že AI má úrodnou půdu pro rozkvět, zrychluje v posledních letech nevídaným tempem. A slib AI dostal technology a výkonné pracovníky v různých odvětvích, aby mysleli kreativně o jeho různých aplikacích.

Od průmyslové revoluce každá doba rychlého technologického pokroku je charakterizována stejnými částmi nadšení a obav. World Wide Web Consortium (W3C), skupina, která vytváří standardy pro webové vývojáře, uvádí, že „je zde rostoucí povědomí o tom, že aplikace strojového učení představuje rizika a může vést k újmám“ – včetně oblastí, jako je: předpojatost, soukromí, bezpečnost, udržitelnost a celková odpovědnost.

„Je zde jasná poptávka po etickém přístupu k ML, viditelná prostřednictvím aktivit občanské společnosti, vzniku asi 100 souborů etických principů AI na celém světě a vládních kroků po celém světě k regulaci AI,“ napsala skupina. „Pokud technologie nejsou sladěny s hodnotami společností, ve kterých působí, riskují je podkopat.“

Vyberte moudře

Na povrchu je těžké tvrdit, že zvýšená rychlost a výstup jsou špatné pro podnikání. Ale pro některá odvětví je mnoho v sázce s procesem rozhodování, který by podle některých neměl být ponechán algoritmu. Podívejme se na některá z největších odvětví a uvidíme, jak zranitelní jsme vůči chybám strojů a proč je odpovědná AI tak důležitá.

Bankovnictví, finanční služby a pojištění (BFSI)

Světové ekonomické fórum (WEF) a Deloitte zkoumaly proces nasazení AI ve společnostech BFSI a zjistily, že „ačkoli AI může pomoci vytvořit užitečné obchodní poznatky z ohromného množství informací“, „cizost AI“ bude zdrojem trvalého vážného rizika.

„AI uvažuje jinak než lidé,“ stojí v zprávě. „Systémy AI nedodržují lidské konstrukce logiky a chovají se velmi odlišně od lidských aktérů při stejném úkolu. Kromě toho se systémy AI samy učí, aby se vyvíjely bez lidského vstupu, což může vést k neočekávaným výsledkům na základě neznámých proměnných.“
Zastánci odpovědné AI tvrdí, že strojové učení představuje vážné problémy v oblastech, jako je automatické hodnocení rizika, úvěry a rozhodnutí o půjčkách, které jsou historicky předpojaté vůči určitým demografickým skupinám. Nedávné studie ukázaly, že věřitelé, kteří používali AI-založené rozhodovací motory, častěji odmítali hypotéky lidem barevné pleti – v některých případech černošští žadatelé mají o 80 % vyšší pravděpodobnost odmítnutí.

Zdravotnictví

Před několika lety Journal of the American Medical Association (JAMA) zkoumal adopci AI ve zdravotnictví a zjistil, že existuje mnoho výzev, včetně „nerealistických očekávání, předpojatých a nereprezentativních dat, nedostatečné prioritizace rovnosti a inkluze, rizika zhoršení zdravotních disparit, nízké úrovně důvěry a nejistých regulačních prostředí“.

To není právě uznání, ale existuje vyšší laťka pro odpovědnou AI ve zdravotnictví, zejména vzhledem k tomu, že může doslova rozhodovat o životě a smrti. Celkově jsou zdravotničtí profesionálové optimističtí, ale opatrní ohledně budoucnosti AI, soustředí se na vzdělávání ostatních praktiků o jejím použití v klinickém prostředí a vytváření pokynů pro to, jak postupovat odpovědně způsobem, který prospívá všem pacientům.

Média

PwC odhaduje, že AI poskytne 15,7 bilionu dolarů globálního ekonomického růstu do roku 2030, ale podle Salesforce (CRM ) méně než polovina (48 %) zákazníků důvěřuje společnostem, aby používaly AI eticky, a 65 % se obává o neetické použití AI. Na křižovatce zisků a důvěry jsou mediální společnosti – raní adoptoři s obrovským dosahem a vlivem. A existují obavy nad skutečností, že AI není „nastav a zapomeň“ aplikací, což znamená, že pro mediální společnosti je jejich odpovědnost nejen při produkci obsahu, ale také při jeho pokračujícím monitorování po nasazení.

Jak jsou reklamy zobrazovány a personalizovány? Jak je obsah doručován konkrétnímu publiku a co je zpráva? Kdo učí AI „jak“ se učit? A jak můžete cílit na konkrétní spotřebitele,a zároveň respektujete soukromí? To jsou jen některé otázky, které trápí mediální společnosti, když vyvažují etiku se získáním konkurenční výhody.

Odpověď na odpovědnost

Pokrok v rozvoji odpovědné AI je zjevný každý den – zákonodárci připravují regulace, spotřebitelé požadují více transparentnosti a mnoho společností vytvořilo speciální oddělení, která zajišťují, aby jejich AI byla používána vhodně. Společnosti potřebují dobře definovaný rámec odpovědné AI, který pokrývá etiku, transparentnost, odpovědnost, spravedlnost, soukromí a bezpečnost. Když debaty a reformy pokračují, nedávná společná studie MIT Sloan Management Review a Boston Consulting Group poskytuje některé obecné pokyny – napsali, „Pokud chcete být odpovědným lídrem AI, zaměřte se na to, abyste byli odpovědnou společností.“

Dr. Pandurang Kamat je technologický ředitel ve společnosti Persistent Systems, je zodpovědný za pokročilý technologický výzkum zaměřený na uvolnění obchodního potenciálu prostřednictvím inovací ve velkém měřítku. Je zkušený technologický lídr, který pomáhá zákazníkům zlepšit uživatelský zážitek, optimalizovat obchodní procesy a vytvářet nové digitální produkty. Jeho vize pro Persistent je být inovačním centrem, které kotví globální a rozmanitý inovační ekosystém, skládající se z akademie a startupů.