Prioritizace důvěryhodnosti v umělých inteligencích

Společnost se stále více spoléhá na aplikace umělé inteligence (AI) a strojového učení (ML), což mění, jak je konzumována informace. Od chatbotů poháněných umělou inteligencí po syntézy informací vygenerované velkými jazykovými modely (LLM) má společnost přístup k více informacím a hlubším znalostem než kdykoli předtím. Nicméně, zatímco technologické společnosti závodí v implementaci umělé inteligence napříč svou hodnotovou řadou, visí nad nimi kritická otázka. Můžeme si opravdu důvěřovat výstupům řešení umělé inteligence?

Můžeme si opravdu důvěřovat výstupům umělé inteligence bez kvantifikace nejistoty

Pro daný vstup může model vygenerovat mnoho dalších stejně pravděpodobných výstupů. To může být způsobeno nedostatečnými trénovacími daty, variacemi v trénovacích datech nebo jinými příčinami. Při nasazování modelů mohou organizace využít kvantifikaci nejistoty k poskytnutí svým koncovým uživatelům jasnějšího pochopení toho, kolik by se měli důvěřovat výstupu modelu AI/ML. Kvantifikace nejistoty je proces odhadování, jaké by mohly být ty ostatní výstupy.

Představte si model, který předpovídá zítřejší nejvyšší teplotu. Model může vygenerovat výstup 21ºC, ale kvantifikace nejistoty aplikovaná na tento výstup může naznačit, že model mohl stejně dobře vygenerovat výstupy 12 ºC, 15 ºC nebo 16 ºC; vědouce to, kolik teď důvěřujeme jednoduché předpovědi 20 ºC? Navzdory svému potenciálu vzbudit důvěru nebo poradit opatrnost mnoho organizací se rozhodlo vynechat kvantifikaci nejistoty kvůli další práci, kterou potřebují udělat pro její implementaci, a také kvůli jejím nárokům na výpočetní zdroje a rychlost inference.

Systémy s lidskou účastí, jako jsou systémy pro lékařskou diagnózu a prognózu, zahrnují lidi jako součást rozhodovacího procesu. Důvěřováním datům zdravotnických řešení AI/ML riskují zdravotničtí profesionálové nesprávnou diagnózu pacienta, což může vést k horším zdravotním výsledkům – nebo horšímu. Kvantifikace nejistoty může umožnit zdravotnickým profesionálům vidět, kvantitativně, kdy mohou důvěřovat výstupům umělé inteligence a kdy by měli zacházet s konkrétními předpověďmi s opatrností. Podobně, v plně automatizovaném systému, jako je samořiditelné auto, může výstup modelu pro odhad vzdálenosti překážky vést ke srážce, která by mohla být jinak zabráněna přítomností kvantifikace nejistoty odhadu vzdálenosti.

Výzva využití Monte Carlo metod pro budování důvěryhodnosti v modelech AI/ML

Monte Carlo metody, vyvinuté během projektu Manhattan, jsou robustním způsobem, jak provést kvantifikaci nejistoty. Zahrnují opakované spouštění algoritmů s mírně odlišnými vstupy, dokud další iterace neposkytnou mnoho další informací ve výstupech; když proces dosáhne tohoto stavu, říká se, že konvergoval. Jednou z nevýhod Monte Carlo metod je, že jsou obvykle pomalé a náročné na výpočet, vyžadující mnoho opakování svých součástí výpočtů, aby se získaly konvergentní výstupy a mají inherентní variabilitu napříč těmito výstupy. Protože Monte Carlo metody používají výstupy generátorů náhodných čísel jako jednu ze svých klíčových stavebních bloků, i když spustíte Monte Carlo s mnoha vnitřními opakováními, výsledky, které získáte, se změní, když proces opakujete se stejnými parametry.

Cesta vpřed k důvěryhodnosti modelů AI/ML

Na rozdíl od tradičních serverů a urychlovačů specifických pro AI se vyvíjí nová generace výpočetních platforem, které jsou navrženy tak, aby přímo zpracovávaly empirické pravděpodobnostní distribuce stejným způsobem, jako tradiční výpočetní platformy zpracovávají celá čísla a hodnoty s plovoucí desetinnou čárkou. Nasazením svých modelů AI na tyto platformy mohou organizace automatizovat implementaci kvantifikace nejistoty na svých předem trénovaných modelech a mohou také urychlit další typy výpočetních úloh, které tradičně používaly Monte Carlo metody, jako jsou výpočty VaR ve finančnictví. Zvláště pro scénář VaR tyto nové platformy umožňují organizacím pracovat s empirickými distribucemi postavenými přímo z reálných tržních dat, místo aby aproximovaly tyto distribuce pomocí vzorků generovaných generátory náhodných čísel, pro přesnější analýzy a rychlejší výsledky.

Nedávné průlomy ve výpočetní technice výrazně snížily bariéry pro kvantifikaci nejistoty. Nedávná výzkumná studie, kterou publikovali moji kolegové a já v workshopu Machine Learning With New Compute Paradigms na NeurIPS 2024, zdůrazňuje, jak platforma next-generation computation, kterou jsme vyvinuli, umožnila analýzu kvantifikace nejistoty běžet více než 100krát rychleji ve srovnání s tradičními Monte-Carlo-based analýzami na high-end serveru Intel-Xeon. Pokroky, jako je tento, umožňují organizacím nasazujícím řešení AI implementovat kvantifikaci nejistoty snadno a spouštět takovou kvantifikaci s nízkými režijními náklady.

Budoucnost důvěryhodnosti AI/ML závisí na pokročilé next-generation komputaci

Jak organizace integrují více řešení AI do společnosti, důvěryhodnost AI/ML se stane top prioritou. Podniky již nemohou dovolit si vynechat implementaci zařízení v nasazeních svých modelů AI, aby spotřebitelé věděli, kdy zacházet s konkrétními výstupy modelu AI s skepsí. Poptávka po takové vysvětlitelnosti a kvantifikaci nejistoty je zřejmá, s přibližně třemi ze čtyř lidí, kteří uvádějí, že by byli ochotni důvěřovat systému AI, kdyby byly zavedeny vhodné mechanismy zajišťující důvěru.

Nové výpočetní technologie dělají implementaci a nasazení kvantifikace nejistoty stále snadnějším. Zatímco průmysl a regulační orgány se potýkají s dalšími výzvami spojenými s nasazením AI ve společnosti, je alespoň příležitost vzbudit důvěru, kterou lidé vyžadují, tím, že se kvantifikace nejistoty stane normou v nasazeních AI.