Introducerar nya nivåer av transparens med AI – tankeledare

Av Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, på Infosys.

Den 9 januari 2020 meddelade Världshälsoorganisationen allmänheten om utbrottet av coronavirus i Kina. Tre dagar tidigare hade USA:s centrum för sjukdomskontroll och förebyggande spridit informationen. Men det var en kanadensisk plattform för hälsövervakning som hade slagit dem båda, och skickat ut varningar om utbrottet till sina kunder redan den 31 december 2019! Plattformen, BlueDot, använder AI-drivna algoritmer som söker igenom utländska nyhetsrapporter, nätverk för djur- och växtsjukdomar och officiella proklamationer för att ge sina kunder förvarning om farozoner som Wuhan.

Under de senaste åren har artificiell intelligens blivit den viktigaste källan till förändring, omstörtning och konkurrensfördel i dagens snabbt föränderliga ekonomi. Från epidemiövervakning till försvar till hälsovård till autonoma fordon och allt däremellan, så ökar AI:s användning. PwC förutspår att AI kan bidra med upp till 15,7 biljoner dollar till den globala ekonomin år 2030, om den fortsätter att växa i samma takt.

Men trots allt hopp som AI bringar, så finns det fortfarande outtalade frågor kring transparens och tillförlitlighet. Behovet att förstå, förutsäga och lita på AI-systemens beslutsförmåga är viktigt, särskilt inom områden som är avgörande för liv, död och personlig välbefinnande.

In i det okända

När automatiserade resonemangssystem först introducerades för att stödja beslutsfattning, byggde de på handgjorda regler. Det gjorde det lätt att tolka och modifiera deras beteende, men de var inte skalbara. Maskinlärningsbaserade modeller anlände för att tillgodose detta behov; de krävde inte mänskligt ingripande och kunde träna från data – ju mer desto bättre. Medan djupinlärningsmodeller är obesegrade i sin modelleringsförmåga och tillämpningsområde, så väcker det faktum att dessa modeller till största delen är svarta lådor, oroande frågor om deras sanning, tillförlitlighet och partiskhet i sammanhanget av deras breda användning.

Det finns för närvarande ingen direkt mekanism för att spåra det resonemang som implicit används av djupinlärningsmodeller. Med maskinlärningsmodeller som har en svart låda-natur, är den primära typen av förklarbarhet känd som post-hoc-förklarbarhet, vilket innebär att förklaringarna hämtas från naturen och egenskaperna hos de utdata som genereras av modellen. Tidiga försök att extrahera regler från neuronnät (som tidigare kallades djupinlärning) är inte längre aktuella, eftersom nätverken har blivit för stora och diversifierade för att regelutvinning ska vara möjlig. Det finns därför ett brådskande behov av att införa tolkbarhet och transparens i själva AI-modelleringen.

Ut ur natten, in i ljuset

Denna oro har skapat ett behov av transparens i maskinlärning, som har lett till tillväxten av förklarbar AI, eller XAI. Det syftar till att hantera de stora problem som hindrar vår förmåga att fullständigt lita på AI-beslutsfattning — inklusive partiskhet och transparens. Detta nya område inom AI bringar ansvar för att säkerställa att AI gynnar samhället med bättre resultat för alla inblandade.

XAI kommer att vara avgörande för att hantera den partiskhet som är inbyggd i AI-system och algoritmer, som programmeras av människor vars bakgrund och erfarenheter oavsiktligt leder till utvecklingen av AI-system som visar partiskhet. Oönskade partiskheter, såsom diskriminering mot en viss nationalitet eller etnicitet, kan smyga sig in eftersom systemet tilldelar ett värde till det baserat på verkliga data. Till exempel kan det konstateras att typiska låneförskingare kommer från en viss etnisk bakgrund, men att införa någon restriktiv policy baserad på detta kan strida mot rättvis praxis. Felaktiga data är en annan orsak till partiskhet. Till exempel, om en ansiktsigenkännings-scanner är felaktig 5% av tiden på grund av personens hudfärg eller ljuset som faller på ansiktet, kan det leda till partiskhet. Slutligen, om dina exempeldata inte är en sann representation av hela populationen, är partiskhet oundviklig.

XAI syftar till att hantera hur svarta lådor-beslut av AI-system fattas. Det inspekterar och försöker förstå de steg och modeller som är inblandade i beslutsfattandet. Det besvarar avgörande frågor som: Varför fattade AI-systemet ett specifikt förutsägelse eller beslut? Varför gjorde AI-systemet inte något annat? När lyckades AI-systemet eller misslyckades det? När ger AI-systemen tillräckligt med förtroende för beslutet så att du kan lita på det, och hur kan AI-systemet korrigera fel?

Förklarbar, förutsägbar och spårbar AI

En sätt att uppnå förklarbarhet i AI-system är att använda maskinlärningsalgoritmer som är medfödda förklarbara. Till exempel, enklare former av maskinlärning som besluts-träd, Bayes-klassificerare och andra algoritmer som har vissa mängder spårbarhet och transparens i deras beslutsfattande. De kan ge den synlighet som behövs för kritiska AI-system utan att offra för mycket prestanda eller noggrannhet.

USAs försvarsavdelning för avancerad forskning (DARPA) bedriver insatser för att producing förklarbara AI-lösningar genom ett antal finansierade forskningsinitiativ. DARPA beskriver AI-förklarbarhet i tre delar som inkluderar: förutsägelse-noggrannhet, som innebär att modellerna förklarar hur slutsatser nås för att förbättra framtida beslutsfattande; beslutsförståelse och förtroende från mänskliga användare och operatörer, samt inspektion och spårbarhet av åtgärder som vidtas av AI-systemen.

Spårbarhet kommer att ge människor möjlighet att gå in i AI-beslutsloopar och ha förmågan att stoppa eller kontrollera dess uppgifter när behov uppstår. Ett AI-system förväntas inte bara utföra en viss uppgift eller fatta beslut, utan också ge en transparent rapport om varför det fattade specifika beslut med stödande resonemang.

Standardisering av algoritmer eller till och med XAI-ansatser är inte möjlig för närvarande, men det kan vara möjligt att standardisera nivåer av transparens / nivåer av förklarbarhet. Standardiseringsorganisationer försöker nå gemensamma, standardiserade förståelser av dessa nivåer av transparens för att underlätta kommunikation mellan slutanvändare och teknikutvecklare.

Såsom regeringar, institutioner, företag och allmänheten börjar förlita sig på AI-baserade system, kommer att vinna deras förtroende genom tydligare transparens i beslutsprocessen att vara avgörande. Lanseringen av den första globala konferensen som uteslutande är ägnad åt XAI, den internationella gemensamma konferensen om artificiell intelligens: Workshop om förklarbar artificiell intelligens, är ytterligare bevis på att XAI-eran har kommit.