Priorytetowanie zaufania do sztucznej inteligencji

Społeczeństwo coraz bardziej polega na aplikacjach sztucznej inteligencji (AI) i uczenia maszynowego (ML), co zmienia sposób, w jaki konsumowane są informacje. Od czatbotów zasilanych przez AI po syntezę informacji wytworzoną przez duże modele językowe (LLM), społeczeństwo ma dostęp do więcej informacji i głębszych wglądów niż kiedykolwiek wcześniej. Jednakże, gdy firmy technologiczne rywalizują o wdrożenie AI w swojej łańcuchu wartości, pojawia się krytyczne pytanie. Czy możemy naprawdę ufać wynikom rozwiązań AI?

Czy możemy naprawdę ufać wynikom AI bez kwantyfikacji niepewności

Dla danego wejścia model może wygenerować wiele innych równie prawdopodobnych wyników. Może to być spowodowane niewystarczającymi danymi treningowymi, zmianami w danych treningowych lub innymi przyczynami. Podczas wdrożenia modeli organizacje mogą wykorzystać kwantyfikację niepewności, aby zapewnić swoim użytkownikom końcowym jaśniejsze zrozumienie, ile mogą ufać wynikom modelu AI/ML. Kwantyfikacja niepewności jest procesem szacowania, jakie mogłyby być te inne wyniki.

Wyobraź sobie model, który przewiduje jutrzejszą najwyższą temperaturę. Model może wygenerować wynik 21ºC, ale kwantyfikacja niepewności zastosowana do tego wyniku może wskazać, że model mógł równie dobrze wygenerować wyniki 12 ºC, 15 ºC lub 16 ºC; wiedząc o tym, jak bardzo możemy teraz ufać prostemu przewidzeniu 20 ºC? Pomimo swojego potencjału do wytworzenia zaufania lub nakłonienia do ostrożności, wiele organizacji decyduje się pominąć kwantyfikację niepewności ze względu na dodatkową pracę, którą muszą wykonać, aby ją wdrożyć, a także ze względu na jej wymagania dotyczące zasobów obliczeniowych i szybkości wnioskowania.

Systemy z ludzkim uczestnictwem, takie jak systemy diagnostyki i prognozy medycznej, obejmują ludzi jako część procesu decyzyjnego. Poprzez ślepe zaufanie do danych rozwiązań AI/ML w opiece zdrowotnej, profesjonaliści zdrowia ryzykują błędną diagnozą pacjenta, co może prowadzić do gorszych wyników zdrowotnych – lub co gorsza. Kwantyfikacja niepewności może pozwolić profesjonalistom zdrowia zobaczyć, w jaki sposób mogą bardziej ufać wynikom AI i kiedy powinni traktować określone przewidywania z ostrożnością. Podobnie, w pełni zautomatyzowanym systemie, takim jak samochód bezzałogowy, wynik modelu do szacowania odległości przeszkody może prowadzić do wypadku, który mógłby być uniknięty w obecności kwantyfikacji niepewności odległości.

Wyzwanie wykorzystania metod Monte Carlo do budowania zaufania do modeli AI/ML

Metody Monte Carlo, opracowane podczas projektu Manhattan, są solidnym sposobem wykonania kwantyfikacji niepewności. Obejmują one wielokrotne uruchamianie algorytmów z nieznacznie różnymi wejściami, aż do momentu, gdy dalsze iteracje nie dostarczają już znacznie więcej informacji w wynikach; w momencie, gdy proces osiąga taki stan, mówi się, że osiągnął konwergencję. Jedną z wad metod Monte Carlo jest to, że są one zwykle wolne i wymagające obliczeniowo, wymagające wielu powtórzeń swoich składowych obliczeń, aby uzyskać wynik, który osiągnął konwergencję i mają wrodzoną zmienność w tych wynikach. Ponieważ metody Monte Carlo wykorzystują wyniki generatorów liczb losowych jako jeden z głównych elementów budulcowych, nawet gdy uruchamiasz Monte Carlo z wieloma wewnętrznymi powtórzeniami, wyniki, które uzyskasz, zmienią się, gdy ponownie uruchomisz proces z identycznymi parametrami.

Ścieżka do przodu w kierunku zaufania do modeli AI/ML

W przeciwieństwie do tradycyjnych serwerów i przyspieszaczy AI, nowy rodzaj platform obliczeniowych jest opracowywany w celu bezpośredniego przetwarzania empirycznych rozkładów prawdopodobieństwa w taki sam sposób, w jaki tradycyjne platformy obliczeniowe przetwarzają liczby całkowite i wartości zmiennoprzecinkowe. Poprzez wdrożenie swoich modeli AI na tych platformach, organizacje mogą zautomatyzować wdrożenie kwantyfikacji niepewności w swoich wstępnie przeszkolonych modelach i mogą również przyspieszyć inne rodzaje zadań obliczeniowych, które tradycyjnie wykorzystywały metody Monte Carlo, takie jak obliczenia VaR w finansach. W szczególności, w przypadku scenariusza VaR, ten nowy rodzaj platform umożliwia organizacjom pracę z empirycznymi rozkładami zbudowanymi bezpośrednio z danych rynkowych, a nie z przybliżeniami tych rozkładów za pomocą próbek wygenerowanych przez generatory liczb losowych, co daje bardziej dokładne analizy i szybsze wyniki.

Niedawne przełomy w dziedzinie obliczeń znacznie obniżyły bariery dla kwantyfikacji niepewności. Artykuł badawczy opublikowany niedawno przez moich kolegów i mnie w konferencji Machine Learning With New Compute Paradigms na NeurIPS 2024, podkreśla, jak platforma obliczeniowa next-generation, którą opracowaliśmy, umożliwiła analizę kwantyfikacji niepewności, aby działać ponad 100 razy szybciej w porównaniu z tradycyjnymi analizami opartymi na Monte Carlo na serwerze z procesorem Intel Xeon. Postępy takie jak te pozwalają organizacjom wdrażającym rozwiązania AI na łatwe wdrożenie kwantyfikacji niepewności i na jej uruchamianie z niskimi nakładami.

Przyszłość zaufania do AI/ML zależy od zaawansowanych obliczeń next-generation

Podczas gdy organizacje integrują więcej rozwiązań AI ze społeczeństwem, zaufanie do AI/ML stanie się priorytetem. Przedsiębiorstwa nie mogą już dłużej pozwolić sobie na pominięcie wdrożenia udogodnień w swoich wdrożeniach modeli AI, które umożliwiają konsumentom wiedzę, kiedy traktować określone wyniki modelu AI z sceptycyzmem. Popyt na takie wyjaśnienia i kwantyfikację niepewności jest wyraźny, ponieważ około trzy na cztery osoby wskazują, że będą bardziej skłonne do zaufania systemowi AI, jeśli odpowiednie mechanizmy zapewnienia są na miejscu.

Nowe technologie obliczeniowe sprawiają, że coraz łatwiej jest wdrożyć i wdrożyć kwantyfikację niepewności. Podczas gdy branża i organy regulacyjne zajmują się innymi wyzwaniami związanymi z wdrożeniem AI w społeczeństwie, jest przynajmniej okazja do wytworzenia zaufania, którego ludzie potrzebują, poprzez uczynienie kwantyfikacji niepewności normą w wdrożeniach AI.