Myslitelé
Vysvětlitelnost může vyřešit problém AI v každém odvětví: nedostatek transparentnosti

Klíčové bodyVysvětlitelná umělá inteligence buduje důvěru spotřebitelů odhalováním procesů…
Zobrazit více
- Vysvětlitelná umělá inteligence buduje důvěru spotřebitelů odhalováním procesů algoritmického rozhodování.
- Systémy automatického rozpoznávání řeči vyžadují transparentnost, aby zmírnily předsudky plynoucí z přízvuku, věku nebo původu.
- Zpětnovazební smyčky a skóre spolehlivosti umožňují umělé inteligenci učit se z chyb a zlepšovat se.
Od: Migüel Jetté, VP of R&D Speech, Rev.
V počátcích své existence mohla umělá inteligence spoléhat na novost. Bylo přijatelné, že strojové učení se bude vyvíjet pomalu a udržovat neprůhledný proces, ve kterém výpočet umělé inteligence je pro průměrného spotřebitele obtížně pochopitelný. To se však mění. Jak více odvětví, jako je zdravotnictví, finance a trestní soudnictví, začínají využívat umělou inteligenci způsobem, který může mít skutečný dopad na životy lidí, více lidí chce vědět, jak jsou algoritmy používány, jak jsou zdrojová data získávána a jak přesné jsou jejich schopnosti. Pokud společnosti chtějí zůstat v čele inovací ve svých trzích, musí se spoléhat na umělou inteligenci, které bude jejich publikum důvěřovat. Vysvětlitelnost umělé inteligence je klíčovým faktorem pro prohloubení tohoto vztahu.
Vysvětlitelnost umělé inteligence se liší od standardních postupů umělé inteligence, protože nabízí lidem způsob, jak porozumět tomu, jak algoritmy strojového učení vytvářejí výstup. Vysvětlitelná umělá inteligence je systém, který může lidem poskytnout potenciální výsledky a nedostatky. Je to systém strojového učení, který může splnit lidskou touhu po spravedlnosti, odpovědnosti a respektu k soukromí. Vysvětlitelná umělá inteligence je nezbytné pro podniky, aby budily důvěru se spotřebiteli.
Zatímco se umělá inteligence rozšiřuje, poskytovatelé umělé inteligence musí pochopit, že přístup černé skříňky nemůže pokračovat beze změny. Černé skříňkové modely jsou vytvářeny přímo z dat a často ani vývojář, který vytvořil algoritmus, nemůže určit, co vedlo k naučeným zvykům stroje. Ale vědomý spotřebitel nechce spolupracovat s něčím tak neprůhledným, že nemůže být zodpovědný. Lidé chtějí vědět, jak algoritmus umělé inteligence dospěje k určitému výsledku bez tajemství zdrojových dat a řízeného výstupu, zejména když chyby umělé inteligence jsou často způsobeny strojovými předpojatostmi. Jak se umělá inteligence stává pokročilejší, lidé chtějí mít přístup k procesu strojového učení, aby pochopili, jak algoritmus dospěl k určitému výsledku. Lídři ve všech odvětvích musí pochopit, že dříve nebo později lidé nebudou chtít tento přístup pouze preferovat, ale budou ho požadovat jako nezbytnou úroveň transparentnosti.
Systémy rozpoznávání řeči, jako jsou hlasové asistentky, technologie přepisu a další služby, které převádějí lidskou řeč do textu, jsou zvláště postiženy předpojatostmi. Když je služba používána pro bezpečnostní opatření, chyby způsobené akcenty, věkem nebo původem osoby, mohou být závažné chyby, takže problém musí být brán vážně. Systémy rozpoznávání řeči lze použít účinně v kamerách nošených na těle policistů, aby automaticky zaznamenávaly a přepisovaly interakce — uchovávaly by záznam, který by, pokud by byl přepisován přesně, mohl zachránit životy. Praxe vysvětlitelnosti bude vyžadovat, aby umělá inteligence nezávisela pouze na zakoupených datech, ale snažila se pochopit charakteristiky příchozího audia, které by mohly přispět k chybám, pokud nějaké existují. Jaký je akustický profil? Je v pozadí hluk? Je mluvčí z neanglicky mluvící země nebo z generace, která používá slovník, který umělá inteligence dosud nenaučila? Strojové učení musí být proaktivní v rychlejším učení a může začít shromažďováním dat, která mohou řešit tyto proměnné.
Nezbytnost se stává zjevnou, ale cesta k implementaci této metodologie nebude vždy mít snadné řešení. Tradiční odpověď na problém spočívá v přidání více dat, ale bude zapotřebí sofistikovanější řešení, zejména když zakoupená data, která mnoho společností používá, jsou vnitřně předpojatá. To je způsobeno tím, že historicky bylo obtížné vysvětlit konkrétní rozhodnutí, které bylo učiněno umělou inteligencí, a to je způsobeno povahou složitosti modelů zpracovávajících celý tok od vstupu po výstup. Ale nyní můžeme a můžeme začít tím, že se zeptáme, jak lidé ztratili důvěru v umělou inteligenci.
Není možné, aby umělá inteligence nedělala chyby. Společnosti musí vytvářet modely, které jsou si vědomy potenciálních nedostatků, identifikují, kdy a kde se problémy vyskytují, a vytvářejí pokračující řešení pro vytvoření silnějších modelů umělé inteligence:
- Když se něco pokazí, vývojáři budou muset vysvětlit, co se stalo, a vypracovat okamžitý plán pro zlepšení modelu, aby se snížily budoucí podobné chyby.
- Aby stroj skutečně věděl, zda je správný nebo špatný, vědci musí vytvořit zpětnou smyčku, aby umělá inteligence mohla naučit se své nedostatky a vyvinout se.
- Jinou cestou, jak systémy rozpoznávání řeči mohou budovat důvěru, zatímco se umělá inteligence stále zlepšuje, je vytvořit systém, který může poskytnout skóre jistoty, a nabídnout důvody, proč je umělá inteligence méně jistá výsledkem. Například společnosti obvykle generují skóre od nuly do sta, aby odrážely své vlastní nedokonalosti a vytvořily transparentnost se svými zákazníky. V budoucnu mohou systémy poskytovat post-hoc vysvětlení, proč bylo audio obtížné, a nabízet více metadat o audiu, jako je vnímaná úroveň hluku nebo méně pochopitelný akcent.
Další transparentnost povede k lepšímu lidskému dohledu nad tréninkem a výkonem umělé inteligence. Čím více jsme otevřeni o tom, kde potřebujeme zlepšit, tím více jsme zodpovědní za přijetí opatření pro tato zlepšení. Například výzkumník může chtít vědět, proč byl vygenerován chybný text, aby mohl zmírnit problém, zatímco přepisovatel může chtít důkazy o tom, proč systém rozpoznávání řeči špatně interpretoval vstup, aby mu pomohl s jeho hodnocením platnosti. Udržení lidí ve smyčce může zmírnit některé z nejzřetelnějších problémů, které vznikají, když umělá inteligence zůstává bez dohledu. Může také urychlit čas, který je zapotřebí pro umělou inteligenci, aby chyby chytila, zlepšila a nakonec opravila sama v reálném čase.
Umělá inteligence má schopnost zlepšit životy lidí, ale pouze pokud ji lidé postaví tak, aby fungovala správně. Musíme držet nejen tyto systémy zodpovědné, ale také lidi za inovací. Systémy umělé inteligence budoucích let se očekává, že budou dodržovat zásady stanovené lidmi, a pouze tehdy budeme mít systém, kterému lidé důvěřují. Je čas položit základy a usilovat o tyto zásady nyní, zatímco je stále ještě lidé, kteří slouží sami sobě.












