Vysvětlitelnost může řešit problém s umělou inteligencí ve všech odvětvích: nedostatek transparentnosti

Od: Migüel Jetté, VP of R&D Speech, Rev.

V počátcích své existence mohla umělá inteligence spoléhat na novost. Bylo přijatelné, že strojové učení se bude vyvíjet pomalu a udržovat neprůhledný proces, ve kterém výpočet umělých inteligencí je pro průměrného spotřebitele obtížně pochopitelný. To se však mění. Jak více odvětví, jako je zdravotnictví, finance a trestní soudnictví, začínají využívat umělou inteligenci způsobem, který může mít skutečný dopad na životy lidí, více lidí chce vědět, jak jsou algoritmy používány, jak jsou zdrojová data získávána a jak přesné jsou jejich schopnosti. Pokud společnosti chtějí zůstat v čele inovací ve svých trzích, musí se spoléhat na umělou inteligenci, kterou jejich publikum bude důvěřovat. Vysvětlitelnost umělých inteligencí je klíčovým faktorem pro prohloubení tohoto vztahu.

Vysvětlitelnost umělých inteligencí se liší od standardních postupů umělých inteligencí, protože nabízí lidem způsob, jak porozumět tomu, jak algoritmy strojového učení vytvářejí výstup. Vysvětlitelné umělých inteligencí je systém, který může lidem poskytnout potenciální výsledky a nedostatky. Je to systém strojového učení, který může splnit lidskou touhu po spravedlnosti, odpovědnosti a respektu k soukromí. Vysvětlitelné umělých inteligencí je nezbytné pro podniky, aby budily důvěru se spotřebiteli.

Zatímco se umělá inteligence rozšiřuje, poskytovatelé umělých inteligencí musí pochopit, že černá skříňka nemůže. Černé skříňkové modely jsou vytvářeny přímo z dat a často ani vývojář, který vytvořil algoritmus, nemůže určit, co vedlo k naučeným zvykům stroje. Ale vědomý spotřebitel nechce spolupracovat s něčím tak neprůhledným, že nemůže být zodpovědný. Lidé chtějí vědět, jak algoritmus umělých inteligencí dospěje k určitému výsledku bez tajemství zdrojových dat a řízeného výstupu, zejména když chyby umělých inteligencí jsou často způsobeny strojovými předpojatostmi. Jak se umělá inteligence stává pokročilejší, lidé chtějí mít přístup k procesu strojového učení, aby pochopili, jak algoritmus dospěl k určitému výsledku. Lídři ve všech odvětvích musí pochopit, že dříve nebo později lidé nebudou chtít tento přístup pouze preferovat, ale budou ho požadovat jako nezbytnou úroveň transparentnosti.

Systémy rozpoznávání řeči, jako jsou hlasové asistentky, technologie přepisu a další služby, které převádějí lidskou řeč do textu, jsou zvláště postiženy předpojatostmi. Když je služba používána pro bezpečnostní opatření, chyby způsobené akcenty, věkem nebo pozadím osoby, mohou být závažné chyby, takže problém musí být brán vážně. Systémy rozpoznávání řeči lze použít účinně v policejních kamерах, aby automaticky zaznamenávaly a přepisovaly interakce — uchovávaly by záznam, který by, pokud by byl přepisován přesně, mohl zachránit životy. Praxe vysvětlitelnosti bude vyžadovat, aby umělá inteligence nezávisela pouze na zakoupených datech, ale snažila se pochopit charakteristiky příchozího audia, které by mohly přispět k chybám, pokud nějaké existují. Jaký je akustický profil? Je v pozadí hluk? Je mluvčí z neanglicky mluvící země nebo z generace, která používá slovník, který umělá inteligence dosud nenaučila? Strojové učení musí být proaktivní v rychlejším učení a může začít shromažďováním dat, která mohou řešit tyto proměnné.

Nezbytnost se stává zjevnou, ale cesta k implementaci této metodologie nebude vždy mít snadné řešení. Tradiční odpověď na problém spočívá v přidání více dat, ale bude zapotřebí sofistikovanější řešení, zejména když zakoupená data, která mnoho společností používá, jsou vnitřně předpojatá. To je způsobeno tím, že historicky bylo obtížné vysvětlit konkrétní rozhodnutí, které bylo učiněno umělou inteligencí, a to je způsobeno povahou složitosti konec-konec modelů. Ale nyní můžeme a můžeme začít tím, že se zeptáme, jak lidé ztratili důvěru v umělou inteligenci.

Není možné, aby umělá inteligence nedělala chyby. Společnosti musí vytvářet modely, které jsou si vědomy potenciálních nedostatků, identifikují, kdy a kde se problémy vyskytují, a vytvářejí pokračující řešení pro vytvoření silnějších modelů umělých inteligencí:

1. Když se něco pokazí, vývojáři budou muset vysvětlit, co se stalo, a vývojový okamžitý plán pro zlepšení modelu, aby se snížily budoucí podobné chyby.
2. Aby stroj skutečně věděl, zda je správný nebo špatný, vědci musí vytvořit zpětnou smyčku, aby umělá inteligence mohla naučit se své nedostatky a vyvinout se.
3. Jinou cestou, jak systémy rozpoznávání řeči mohou budovat důvěru, zatímco se umělá inteligence stále zlepšuje, je vytvořit systém, který může poskytnout důvěrné skóre, a nabídnout důvody, proč je umělá inteligence méně důvěrná. Například společnosti obvykle generují skóre od nuly do sta, aby odrážely své vlastní nedokonalosti a vytvořily transparentnost se svými zákazníky. V budoucnu mohou systémy poskytovat post-hoc vysvětlení, proč bylo audio obtížné, a nabízet více metadat o audiu, jako je vnímaná úroveň hluku nebo méně pochopitelný akcent.

Další transparentnost povede k lepšímu lidskému dohledu nad tréninkem a výkonem umělých inteligencí. Čím více jsme otevřeni o tom, kde potřebujeme zlepšit, tím více jsme zodpovědní za přijetí opatření pro tato zlepšení. Například výzkumník může chtít vědět, proč byl vygenerován chybný text, aby mohl zmírnit problém, zatímco přepisovatel může chtít důkazy o tom, proč systém rozpoznávání řeči špatně interpretoval vstup, aby mu pomohl s jeho hodnocením platnosti. Udržení lidí ve smyčce může zmírnit některé z nejzřetelnějších problémů, které vznikají, když umělá inteligence zůstává bez dohledu. Může také urychlit čas, který je zapotřebí pro umělou inteligenci, aby chyby chytila, zlepšila a nakonec opravila sama v reálném čase.

Umělá inteligence má schopnost zlepšit životy lidí, ale pouze pokud ji lidé postaví tak, aby fungovala správně. Musíme držet nejen tyto systémy zodpovědné, ale také lidi za inovací. Systémy umělých inteligencí budoucích let se očekává, že budou dodržovat zásady stanovené lidmi, a pouze tehdy budeme mít systém, kterýmu lidé důvěřují. Je čas položit základy a usilovat o tyto zásady nyní, zatímco je stále ještě lidé, kteří slouží sami sobě.