Jak mohou společnosti vytvářet zodpovědnou a transparentní umělou inteligenci – Thought Leaders

Od Erica Paternostera, CEO společnosti Infosys Public Services

Sundar Pichai, CEO mateřské společnosti Google Alphabet, popsal vývoj umělých inteligencí jako „hlubší než oheň nebo elektřina“ a COVID-19 přinesl novou naléhavost při uvolňování tohoto technologického slibu. Aplikace umělých inteligencí jsou nyní pevně ve středu pozornosti, zlepšují léčbu COVID-19, stopují potenciální nosiče COVID-19 a nasazují chatboty v reálném čase pro uživatele webů se zásobami. Tyto aplikace ukázaly, že umělá inteligence zlepšuje odolnost podniků a prospívá širší společnosti.

Takže spolu s „cloud-native“ by mohlo být heslo posledního čtvrtletí „AI-first transformation“, termín, který odborníci z oboru věří, že bude platit i po odeznění COVID-19. Pro mnoho firem je slib nižších nákladů (tj. algoritmů dodavatelského řetězce, které sladí nabídku s poptávkou) a vynikajících zvýšení produktivity (tj. když banky používají ověření dokumentů a identity v reálném čase) příliš dobrý, aby se mu could ignorovat.

Proč AI-First Transformation?

Při AI-first transformaci podnik používá umělou inteligenci jako severní hvězdu, snaží se ji použít nejen inteligentně, ale také způsobem, který ovlivňuje rozhodnutí lidí, procesů a systémů v měřítku. Ladí organizace na měnící se dynamiku mezi zaměstnanci, partnery a zákazníky. To jim umožňuje rychle reagovat a splňovat měnící se požadavky, zatímco vytvářejí dlouhodobou konkurenční výhodu.

Ale ne všechny firmy jsou na stejné úrovni zralosti umělé inteligence. Existují některé, které lze nazvat „konvenční skupinou AI“, nebo H1. Tyto firmy, které mají méně zkušeností a investic, obecně používají klasické algoritmy, jako je naivní Bayes, který existuje již 250 let, nebo náhodný les (vyvinutý Tin Kam Ho v roce 1995) ke zvýšení fragmentované inteligence ve stávajících systémech. Takové použití umělé inteligence je striktně založeno na pravidlech a je bastante rigidní, postrádající schopnost zobecnit z pravidel, která objeví. Pak existuje „deep learning skupina“, nebo H2. Tyto firmy přijímají komplexnější umělou inteligenci, včetně neuronových strojových překladů a transkripčních systémů, pro získání konverzačních informací. Takové systémy mají více síly, ale nedovedou snadno vysvětlit, proč dělají věci, které dělají. Také postrádají transparentnost. Pro tyto dvě skupiny je umělá inteligence, kterou používají, často nedůvěryhodná nebo nespolehlivá a může činit zaujatá rozhodnutí, která firmě přinášejí negativní pozornost ze strany vládních orgánů, regulátorů a široké veřejnosti.

Tyto firmy musí učinit kroky, aby posunuly své implementace umělé inteligence o krok dále – do třetí skupiny (H3), kde je umělá inteligence samoučící a generativní. V tomto bodě jsou systémy umělé inteligence polořízené nebo dokonce neřízené. Jsou transparentní a dosahují „zdravého rozumu“ prostřednictvím multitaskového učení. Tyto systémy poskytují bohatější inteligenci a poskytují informace v reálném čase, které lze použít. To je dosaženo prostřednictvím dobře řízené, spravované umělé inteligence, která je interpretovatelná a vysvětlitelná ve všech fázích.

Jak pracovat na více zodpovědné a transparentní umělou inteligenci

Umělá inteligence se stále více používá pro správu škol, pracovních prostorů a dalších veřejných subjektů. V těchto prostředích je důležité, aby umělá inteligence byla spravedlivá a transparentní. Nicméně, jak společnost prochází touto explozí adopce umělé inteligence, regulační orgány poskytují omezené pokyny pro vhodné vývoj a nasazení technologií umělé inteligence. Proto je na společnostech, aby převzaly vedení. Širší technologický průmysl musí použít finanční zdroje a lidský kapitál, aby transformoval počáteční implementace fragmentované umělé inteligence do efektivních, kreativních, zodpovědných a transparentních inteligencí. Aby firmy mohly vstoupit do tohoto prostoru, měly by udělat následující čtyři věci:

• Ponechte lidi ve smyčce: Modely umělé inteligence jsou často navrženy tak, aby fungovaly nezávisle na lidech. Nicméně, lidský prvek je zásadní v mnoha případech. Lidé potřebují kontrolovat rozhodnutí a tránhají zaujatosti a chyby, které často odchylují projekty umělé inteligence. Dvě použití zahrnují detekci podvodů a případy, kdy je zapojena policie. Doporučujeme firmám, aby najímaly praktiky umělé inteligence postupně, ale konzistentně, aby získaly náskok na své cestě za umělou inteligencí.
• Vyřaďte zaujatá data: Nestranná data jsou kritickou podmínkou pro vytváření spolehlivých, spravedlivých a nediskriminačních modelů umělé inteligence. Chcete-li získat představu o jejich důležitosti, umělá inteligence se používá pro výběr životopisů a hodnocení úvěrů bankami a dokonce i ve některých soudních systémech. V tomto prostředí měly nezkontrolované zaujatosti velmi reálné důsledky.
• Zajistěte, aby rozhodnutí byla vysvětlitelná: Tato funkce byla pokryta mnoha velkými zpravodajskými agenturami a správně tak. XAI pomáhá vysvětlit, proč systém umělé inteligence učinil certain rozhodnutí. Odhaluje, které funkce hlubokého učení byly použity více než ostatní k vytvoření předpovědi nebo hypotézy. Porozumění důležitosti funkcí a schopnost ospravedlnit, jak jsou rozhodnutí přijata, je zásadní pro použití, jako jsou autonomní vozidla a počítačové vidění používané v lékařských biopsiích.
• Spolehlivě reprodukujte výsledky: Společná nutnost ve výzkumných projektech, modely umělé inteligence by měly být konzistentní, když poskytují předpovědi v průběhu času. Takové modely by neměly být fázovány, když jsou představeny novým datům.

Tyto čtyři věci vytvoří transparentní, inteligentní ekosystémy, které se pohybují směrem k tomu, co nazýváme „živou firmou“. Zde jsou nediskriminační, vysvětlitelná rozhodnutí učiněna v téměř reálném čase, přičemž celá firma funguje jako citlivý organismus, který je řízen lidmi. Přečtěte si bílou knihu Infosys Knowledge Institute, abyste se dozvěděli více.