Att prioritera tillit till AI

Samhällets tillit till artificiell intelligens (AI) och maskinlärande (ML) applikationer fortsätter att växa, och omdefinierar hur information konsumeras. Från AI-drivna chatbots till informations synteser som produceras från stora språkmodeller (LLM), har samhället tillgång till mer information och djupare insikter än någonsin tidigare. Men när teknikföretag tävlar om att implementera AI över hela sin värdekedja, finns en kritisk fråga. Kan vi verkligen lita på utdata från AI-lösningar?

Kan vi verkligen lita på AI-utdata utan osäkerhetskvantifiering

För en given indata kan en modell ha genererat många andra lika trovärdiga utdata. Detta kan bero på otillräcklig träningsdata, variationer i träningsdata eller andra orsaker. När modeller distribueras kan organisationer använda osäkerhetskvantifiering för att ge sina slutanvändare en tydligare förståelse för hur mycket de ska lita på utdata från en AI/ML-modell. Osäkerhetskvantifiering är processen att uppskatta vad dessa andra utdata kunde ha varit.

Tänk dig en modell som förutsäger morgondagens högsta temperatur. Modellen kan generera utdata 21ºC, men osäkerhetskvantifiering som appliceras på det utdatat kan indikera att modellen lika gärna kunde ha genererat utdata 12 ºC, 15 ºC eller 16 ºC; med den kunskapen, hur mycket litar vi nu på den enkla förutsägelsen av 20 ºC? Trots sin potential att inge tillit eller att råda till försiktighet, väljer många organisationer att hoppa över osäkerhetskvantifiering på grund av den extra arbetet de behöver göra för att implementera det, samt på grund av dess krav på beräkningsresurser och inferenshastighet.

Human-in-the-loop system, såsom medicinsk diagnos och prognos system, involverar människor som en del av beslutsprocessen. Genom att blint lita på data från hälso- och sjukvårds AI/ML-lösningar, riskerar hälso- och sjukvårdspersonal att missdiagnosticera en patient, vilket kan leda till undermåliga hälsoutfall – eller värre. Osäkerhetskvantifiering kan tillåta hälso- och sjukvårdspersonal att se, kvantitativt, när de kan lita mer på utdata från AI och när de ska behandla specifika förutsägelser med försiktighet. Likaså, i ett fullt automatiserat system som ett självkörande fordon, kan utdata från en modell för att uppskatta avståndet till ett hinder leda till en krasch som kunde ha undvikits med osäkerhetskvantifiering på avståndsbedömningen.

Utmaningen att utnyttja Monte Carlo-metoder för att bygga tillit till AI/ML-modeller

Monte Carlo-metoder, utvecklade under Manhattanprojektet, är ett robust sätt att utföra osäkerhetskvantifiering. De innebär att om och om igen köra algoritmer med något olika indata tills ytterligare iterationer inte ger mycket mer information i utdata; när processen når ett sådant tillstånd, sägs den ha konvergerat. En nackdel med Monte Carlo-metoder är att de vanligtvis är långsamma och beräkningsintensiva, och kräver många repetitioner av sina beståndsdelar för att få ett konvergerat utdata och har en inneboende variabilitet över utdata. Eftersom Monte Carlo-metoder använder utdata från slumpgenererare som en av sina viktigaste byggstenar, kommer resultaten att förändras när du upprepar processen med identiska parametrar.

Vägen framåt till tillförlitlighet i AI/ML-modeller

Till skillnad från traditionella servrar och AI-specifika acceleratorer utvecklas en ny generation beräkningsplattformar för att direkt bearbeta empiriska sannolikhetsfördelningar på samma sätt som traditionella beräkningsplattformar bearbetar heltal och flyttalsvärden. Genom att distribuera sina AI-modeller på dessa plattformar kan organisationer automatisera implementeringen av osäkerhetskvantifiering på sina förtränade modeller och kan också påskynda andra typer av beräkningsuppgifter som traditionellt har använt Monte Carlo-metoder, såsom VaR-beräkningar i finans. I synnerhet för VaR-scenariot, tillåter denna nya generation av plattformar organisationer att arbeta med empiriska fördelningar byggda direkt från riktiga marknadsdata, snarare än att approximera dessa fördelningar med prover genererade av slumpgenererare, för mer exakta analyser och snabbare resultat.

Nya genombrott inom beräkning har betydligt sänkt hindren för osäkerhetskvantifiering. En nyligen publicerad forskningsartikel av mina kollegor och jag, i Machine Learning With New Compute Paradigms workshop at NeurIPS 2024, belyser hur en next-generation beräkningsplattform vi utvecklat möjliggjorde osäkerhetskvantifieringsanalys att köras över 100 gånger snabbare jämfört med att köra traditionella Monte-Carlo-baserade analyser på en högpresterande Intel-Xeon-baserad server. Framsteg som dessa tillåter organisationer som distribuerar AI-lösningar att implementera osäkerhetskvantifiering med lätthet och att köra sådan osäkerhetskvantifiering med låga overheadkostnader.

Framtiden för AI/ML-tillförlitlighet beror på avancerad next-generation beräkning

När organisationer integrerar fler AI-lösningar i samhället, kommer tillförlitlighet i AI/ML att bli en topprioritet. Företag kan inte längre unna sig att hoppa över att implementera anordningar i sina AI-modell distributioner för att tillåta konsumenter att veta när de ska behandla specifika AI-modell utdata med skepsis. Kraven på sådan förklarbarhet och osäkerhetskvantifiering är tydlig, med ungefär tre av fyra personer som indikerar att de skulle vara mer benägna att lita på ett AI-system om lämpliga säkerhetsmekanismer var på plats.

Nya beräkningsteknologier gör det allt enklare att implementera och distribuera osäkerhetskvantifiering. Medan branschen och regulatoriska organ brottas med andra utmaningar associerade med att distribuera AI i samhället, finns det åtminstone en möjlighet att inge tillit som människor kräver, genom att göra osäkerhetskvantifiering till normen i AI-distributioner.