Představujeme nové úrovně transparentnosti s umělou inteligencí – Thought Leaders

Od Balakrishny D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, ve společnosti Infosys.

Dne 9. ledna 2020 oznámila Světová zdravotnická organizace veřejnosti výskyt koronavirové infekce v Číně. Tři dny předtím získaly americké Centrum pro kontrolu a prevenci nemocí informace o tomto výskytu. Ale kanadská platforma pro monitorování zdraví BlueDot byla rychlejší, když informovala své zákazníky o výskytu již 31. prosince 2019! Tato platforma používá algoritmy založené na umělé inteligenci, které procházejí zahraniční zpravodajské zprávy, sítě nemocí zvířat a rostlin a oficiální prohlášení, aby poskytla svým klientům včasné varování před nebezpečnými zónami, jako je Wu-chan.

V posledních letech se umělá inteligence stala klíčovým zdrojem transformace, narušení a konkurenční výhody v dnešní rychle se měnící ekonomice. Od sledování epidemií až po obranu, zdravotnictví, autonomní vozidla a vše mezi tím se umělá inteligence široce využívá. PwC předpovídá, že umělá inteligence by mohla přispět až 15,7 bilionu dolarů do globální ekonomiky v roce 2030, při současném tempu růstu.

A přesto, navzdory všem nadějím, které umělá inteligence přináší, stále existují nezodpovězené otázky kolem transparentnosti a důvěryhodnosti. Je důležité pochopit, předpovědět a důvěřovat rozhodovací schopnosti systémů umělé inteligence, zejména v oblastech, které jsou kritické pro život, smrt a osobní pohodu.

Do neznáma

Když byly poprvé zavedeny automatizované systémy pro podporu rozhodování, spoléhaly se na ručně vytvořené pravidla. To usnadňovalo interpretaci i modifikaci jejich chování, ale nebyly škálovatelné. Modely založené na strojovém učení přišly, aby splnily tuto potřebu; nevyžadovaly lidskou intervenci a mohly se učit z dat – čím více, tím lépe. Ačkoli modely hlubokého učení jsou nepřebernými ve své modelovací kapacitě a rozsahu aplikovatelnosti, fakt, že tyto modely jsou většinou černé skříňky, vyvolává znepokojivé otázky ohledně jejich pravdivosti, důvěryhodnosti a zkreslení v kontextu jejich širokého použití.

V současné době neexistuje žádný přímý mechanismus, který by umožnil vysledovat implicitní použití hlubokých učících modelů. U modelů strojového učení s černou skříňkou je primárním typem vysvětlitelnosti post-hoc vysvětlitelnost, což znamená, že vysvětlivky jsou odvozeny z povahy a vlastností výstupů generovaných modelem. Rané pokusy o extrakci pravidel z neuronových sítí (jak se dříve nazývalo hluboké učení) již nejsoucurrently sledovány, protože sítě se staly příliš velkými a rozmanitými pro traktovatelnou extrakci pravidel. Existuje proto naléhavá potřeba zavést interpretovatelnost a transparentnost do samotné podstaty modelování umělé inteligence.

Od noci ke světlu

Tato obava vytvořila potřebu transparentnosti v strojovém učení, která vedla k růstu vysvětlitelné umělé inteligence, nebo XAI. Cílem je řešit hlavní problémy, které brání naší schopnosti plně důvěřovat rozhodování umělé inteligence — včetně zkreslení a transparentnosti. Tento nový obor umělé inteligence přináší odpovědnost, aby se zajistilo, že umělá inteligence bude prospívat společnosti s lepšími výsledky pro všechny zúčastněné.

XAI bude kritický při pomoci se zkreslením, které je inherentní pro systémy a algoritmy umělé inteligence, které jsou programovány lidmi, jejichž pozadí a zkušenosti neúmyslně vedou k vývoji systémů umělé inteligence, které vykazují zkreslení. Nechtěné zkreslení, jako je diskriminace proti konkrétní národnosti nebo etnické skupině, může proniknout, protože systém přidává hodnotu na základě skutečných dat. Například může být zjištěno, že typičtí dlužníci pocházejí z konkrétní etnické skupiny, avšak implementace jakékoli restriktivní politiky na základě tohoto by mohla být proti spravedlivým praktikám. Chybná data jsou další příčinou zkreslení. Například, pokud je určitý rozpoznávač obličeje nepřesný 5 % času kvůli barvě pleti nebo světlu dopadajícímu na obličej, mohlo by to přivést zkreslení. Nakonec, pokud nejsou vaše vzorková data pravdivým zastoupením celé populace, je zkreslení nevyhnutelné.

XAI se snaží řešit, jak jsou černé skříňky rozhodnutí systémů umělé inteligence dosaženy. Prohlíží a snaží se pochopit kroky a modely zapojené do rozhodování. Odpovídá na kritické otázky, jako: Proč systém umělé inteligence učinil konkrétní předpověď nebo rozhodnutí? Proč systém umělé inteligence neudělal něco jiného? Když systém umělé inteligence uspěl nebo selhal? Když systémy umělé inteligence poskytují dostatečnou důvěru v rozhodnutí, aby je bylo možné důvěřovat, a jak může systém umělé inteligence opravit chyby?

Vysvětlitelná, předpověditelná a stopovatelná umělá inteligence

Jedním ze způsobů, jak získat vysvětlitelnost v systémech umělé inteligence, je použití algoritmů strojového učení, které jsou samy o sobě vysvětlitelné. Například jednodušší formy strojového učení, jako jsou rozhodovací stromy, Bayesianovy klasifikátory a další algoritmy, které mají určitou míru stopovatelnosti a transparentnosti ve svém rozhodování. Tyto mohou poskytnout potřebnou viditelnost pro kritické systémy umělé inteligence, aniž by se obětovala příliš mnoho výkonu nebo přesnosti.

Při vědomí potřeby poskytnout vysvětlitelnost pro hluboké učení a další komplexnější algoritmické přístupy, Agentura pro pokročilý výzkum a vývoj ministerstva obrany USA (DARPA) usiluje o vytvoření vysvětlitelných řešení umělé inteligence prostřednictvím série financovaných výzkumných iniciativ. DARPA popisuje vysvětlitelnost umělé inteligence ve třech částech, které zahrnují: přesnost předpovědi, což znamená, že modely vysvětlí, jak jsou závěry dosaženy, aby se zlepšilo budoucí rozhodování; pochopení a důvěra ze strany lidských uživatelů a operátorů, jakož i kontrolu a stopovatelnost akcí prováděných systémy umělé inteligence.

Stopovatelnost umožní lidem vstupovat do smyček rozhodování umělé inteligence a mít schopnost zastavit nebo řídit její úkoly, kdykoli je potřeba. Systém umělé inteligence se neočekává pouze, že provede určitý úkol nebo vynutí rozhodnutí, ale také poskytne transparentní zprávu o tom, proč učinil konkrétní rozhodnutí, s podpůrnou argumentací.

Standardizace algoritmů nebo dokonce přístupů XAI není v současné době možná, ale mohlo by být možné standardizovat úrovně transparentnosti / úrovně vysvětlitelnosti. Standardizační organizace se snaží dosáhnout společných standardních pochopení těchto úrovní transparentnosti, aby usnadnily komunikaci mezi koncovými uživateli a technologickými dodavateli.

Jak vlády, instituce, podniky a široká veřejnost začínají spoléhat na systémy založené na umělé inteligenci, získání jejich důvěry prostřednictvím jasnější transparentnosti procesu rozhodování bude zásadní. Spuštění první globální konference výhradně věnované XAI, Mezinárodní společné konference o umělé inteligenci: Workshop o vysvětlitelné umělé inteligenci, je dalším důkazem, že éra XAI skutečně přišla.