Hur förklarlig AI bygger förtroende och ansvar

Företag har redan kastat sig in i AI-användning, i en rush för att distribuera chattbotar, innehållsgenererare och beslutsstödsverktyg över hela verksamheten. Enligt McKinsey använder 78% av företagen AI i minst en affärsfunktion.

Febern för implementering är förståelig — alla ser potentialen. Men i denna rusning förbiser många organisationer det faktum att alla neurala nätverksbaserade teknologier, inklusive alla LLM och generativa AI-system som används idag och i framtiden, delar en betydande svaghet: De är oförutsägbara och i slutändan omöjliga att kontrollera.

Som vissa har lärt sig kan det finnas verkliga konsekvenser som ett resultat. På en Chevrolet-återförsäljare som hade distribuerat en chattbot till sin webbplats, övertalade en kund ChatGPT-roboten att sälja en $58,195 Chevy Tahoe för bara $1. En annan kund uppmanade samma chattbot att skriva ett Python-skript för komplexa fluiddynamiska ekvationer, vilket den gjorde med glädje. Återförsäljaren inaktiverade snabbt robotarna efter att dessa incidenter blev virala.

Förra året förlorade Air Canada i en småmålsdomstol när de hävdade att deras chattbot, som gav en passagerare felaktig information om en sörjande rabatt, “är en separat juridisk enhet som är ansvarig för sina egna handlingar”.

Denna oförutsägbarhet härrör från den grundläggande arkitekturen i LLM. De är så stora och komplexa att det är omöjligt att förstå hur de kommer fram till specifika svar eller förutsäga vad de kommer att generera förrän de producerar en utdata. De flesta organisationer svarar på detta tillförlitlighetsproblem utan att fullständigt erkänna det.

Den vanliga lösningen är att kontrollera AI-resultat för hand, vilket fungerar men drastiskt begränsar teknologins potential. När AI begränsas till att vara en personlig assistent — utkast till text, mötesanteckningar, sammanfattning av dokument och hjälp med kodning — ger det blygsamma produktivitetsvinster. Inte tillräckligt för att revolutionera ekonomin.

De verkliga fördelarna med AI kommer när vi slutar använda det för att assistera befintliga jobb och istället omstrukturerar hela processer, system och företag för att använda AI utan mänskligt ingripande vid varje steg. Överväg lånebehandling: om en bank ger låneofficerare en AI-assistent för att sammanfatta ansökningar, kan de arbeta 20-30% snabbare. Men att distribuera AI för att hantera hela beslutsprocessen (med lämpliga skyddsåtgärder) kunde skära kostnaderna med över 90% och eliminera nästan all bearbetningstid. Detta är skillnaden mellan inkrementell förbättring och transformation.

Vägen till tillförlitlig AI-implementering

Att utnyttja AI:s fulla potential utan att falla offer för dess oförutsägbarhet kräver en sofistikerad blandning av tekniska tillvägagångssätt och strategiskt tänkande. Medan flera nuvarande metoder erbjuder partiella lösningar har var och en betydande begränsningar.

Vissa organisationer försöker mildra tillförlitlighetsproblem genom systemstyrning — subtilt styra AI-beteende i önskade riktningar så att det svarar på specifika sätt till vissa indata. Forskare på Anthropic demonstrerade den fragila naturen av denna strategi genom att identifiera en “Golden Gate Bridge-funktion” i Claudes neurala nätverk och, genom att artificiellt förstärka den, orsakade Claude att utveckla en identitetskris. När de tillfrågades om sin fysiska form, istället för att erkänna att den inte hade någon, hävdade Claude att vara Golden Gate-bron själv. Detta experiment visade hur lätt en modells kärnfunktion kan ändras och att varje styrning representerar en avvägning, potentiellt förbättrar en aspekt av prestandan medan den försämrar andra.

En annan strategi är att låta AI övervaka annan AI. Medan detta lagerade tillvägagångssätt kan upptäcka vissa fel, introducerar det ytterligare komplexitet och når fortfarande inte en omfattande tillförlitlighet. Hårdkodade skyddsräcken är en mer direkt intervention, som att blockera svar som innehåller vissa nyckelord eller mönster, såsom precursor-ämnen för vapen. Medan de är effektiva mot kända problem, kan de inte förutse nya problematiska utdata som uppstår från dessa komplexa system.

En mer effektiv strategi är att bygga AI-centrerade processer som kan fungera autonomt, med mänsklig tillsyn strategiskt positionerad för att upptäcka tillförlitlighetsproblem innan de orsakar verkliga problem. Du skulle inte vilja att AI direkt godkände eller avslog låneansökningar, men AI kunde genomföra en initial bedömning för mänskliga operatörer att granska. Detta kan fungera, men det beror på mänsklig vaksamhet för att upptäcka AI-fel och undergräver den potentiella effektivitetsvinsten från att använda AI.

Bygga för framtiden

Dessa partiella lösningar pekar mot en mer omfattande strategi. Organisationer som grundläggande omprövar hur deras arbete utförs, snarare än att enbart förstärka befintliga processer med AI-assistans, kommer att få den största fördelen. Men AI bör aldrig vara det sista steget i en högriskprocess eller beslut, så vad är den bästa vägen framåt?

Först bygger AI en upprepningsbar process som kommer att tillförlitligt och transparent leverera konsekventa resultat. Sedan granskar mänskliga operatörer processen för att säkerställa att de förstår hur den fungerar och att indata är lämpliga. Slutligen kör processen autonomt — utan AI — med periodisk mänsklig granskning av resultaten.

Överväg försäkringsbranschen. Den konventionella strategin kan lägga till AI-assistenter för att hjälpa skadereglerare att arbeta mer effektivt. En mer revolutionerande strategi skulle använda AI för att utveckla nya verktyg — som datorseende som analyserar skadefoton eller förbättrade bedrägeridetektionsmodeller som identifierar misstänkta mönster — och sedan kombinera dessa verktyg till automatiserade system som styrs av tydliga, förståeliga regler. Mänskliga operatörer skulle designa och övervaka dessa system snarare än att bearbeta enskilda anspråk.

Denna strategi upprätthåller mänsklig tillsyn vid den kritiska punkten där det betyder mest: designen och valideringen av systemet i sig. Det möjliggör exponentiella effektivitetsvinster samtidigt som det eliminerar risken att AI:s oförutsägbarhet leder till skadliga resultat i enskilda fall.

En AI kan identifiera potentiella indikatorer för låneåterbetalningsförmåga i transaktionsdata, till exempel. Mänskliga experter kan sedan utvärdera dessa indikatorer för rättvishet och bygga uttryckliga, förståeliga modeller för att bekräfta deras prediktiva kraft.

Denna strategi för förklarlig AI kommer att skapa en tydligare skiljelinje mellan organisationer som använder AI ytligt och de som transformerar sina verksamheter runt det. De senare kommer alltmer att dra ifrån i sina branscher, kunna erbjuda produkter och tjänster till prispunkter som deras konkurrenter inte kan matcha.

Till skillnad från svart-låda-AI säkerställer förklarliga AI-system att mänskliga operatörer upprätthåller meningsfull tillsyn över teknologins tillämpning, skapar en framtid där AI förstärker mänsklig potential snarare än att enbart ersätta mänskligt arbete.