Hur företag kan skapa ansvarsfull och transparent AI – Tankeledare

Av Eric Paternoster, VD för Infosys Public Services

Sundar Pichai, VD för Google -moderselskapet Alphabet, har beskrivit utvecklingen av AI som “mer genomgripande än eld eller elektricitet”, och COVID-19 har skapat en ny känsla av brådska för att frigöra denna tekniks löfte. Tillämpningar av AI är nu tydligt i fokus, förbättrar COVID-behandlingar, spårar potentiella COVID-bärare och distribuerar realtidschattbotar för användare av detaljhandelswebbplatser som lider av försörjningsbrist. Dessa tillämpningar har visat att AI förbättrar ett företags motståndskraft och gynnar det breda samhället.

Så, tillsammans med “molntjänst”, kan det senaste kvartalets buzzword vara “AI-först-transformation”, en term som branschpraktiker tror kommer att vara sann även efter att COVID försvinner. För många företag är löftet om lägre kostnader (t.ex. supply chain-algoritmer som matchar utbud med efterfrågan) och imponerande produktivitetsförbättringar (t.ex. när banker använder dokument- och identitetsverifiering i realtid) för bra för att ignorera.

Varför AI-först-transformation?

I AI-först-transformation använder ett företag AI som en nordstjärna, arbetar för att använda den inte bara intelligently utan också på ett sätt som påverkar beslut som fattas av människor, processer och system i stor skala. Det stämmer in organisationer i förändrade dynamiker mellan anställda, partners och kunder. Detta möjliggör för dem att snabbt ändra riktning och möta skiftande krav samtidigt som de skapar långsiktig konkurrensfördel.

Men inte alla företag är på samma nivå av AI-mognad. Det finns några som kan kallas den “konventionella AI-gruppen”, eller H1. Dessa företag, som har mindre erfarenhet och investering, använder vanligtvis klassiska algoritmer som naive Bayes, som har funnits i 250 år, eller random forest (utvecklad av Tin Kam Ho 1995) för att förstärka fragmenterad intelligens inom befintliga system. Sådana användningar av AI är strikt regelbaserade och ganska rigida, saknar förmågan att generalisera från de regler de upptäcker. Sedan finns det “deep learning-gruppen”, eller H2. Dessa företag omfamnar mer komplex AI, inklusive neuralt maskinöversättning och transkriptionsbaserade system, för att utvinna konversationsinsikter. Sådana system har mer kraft men kan inte enkelt förklara varför de gör de saker de gör. De saknar också transparens. För dessa två grupper är den AI som används ofta inte pålitlig eller tillförlitlig och kan fatta partiska beslut som ger företaget negativ uppmärksamhet från myndigheter, tillsynsmyndigheter och allmänheten.

Dessa företag behöver göra drag nu för att ta sina AI-implementeringar ett steg längre – till en tredje läger (H3) där AI är självlärande och generativ. På denna punkt är AI-systemen semiantiska eller till och med osuperviserade. De är transparenta och uppnår “allmänna sinnet” genom multitask-inlärning. Dessa system levererar rikare intelligens och ger realtids-, agerbara insikter. Detta görs genom väl hanterad, styrd AI som är tolkningsbar och förklarbar i alla skeden.

Hur man kan arbeta mot mer ansvarsfull och transparent AI

AI används alltmer för att hantera skolor, arbetsplatser och andra offentliga enheter. I dessa sammanhang är det viktigare än någonsin att AI är rättvist och transparent. Men när samhället arbetar igenom denna explosion av AI-antagande, ger tillsynsmyndigheter begränsad vägledning om lämplig utveckling och distribution av AI-teknologier. Därför ligger ansvaret på företagen att ta ledningen. Den bredare tech-industrin måste sätta finansiell muskel och mänsklig kapital i arbete, omvandla initiala implementeringar av fragmenterad AI till effektiva, kreativa, ansvarsfulla och transparenta intelligensdrivna ekosystem. För att flytta in i detta utrymme bör företag göra följande fyra saker:

• Håll människor i loopet: AI-modeller är ofta utformade för att fungera oberoende av människor. Men den mänskliga faktorn är avgörande i många fall. Människor måste granska beslut och undvika partiskhet och misstag som ofta spårar ur AI-projekt. Två användningsfall är bedrägeridetektering och fall där brottsbekämpning är inblandad. Vi rekommenderar att företag anställer AI-utövare långsamt men konsekvent över tid för att få en försprång på sin AI-första resa.
• Eliminera partiska datamängder: En opartisk datamängd är en kritisk förutsättning för att skapa tillförlitliga, rättvisa och icke-diskriminerande AI-modeller. För att förstå dess betydelse används AI för att förkorta CV:n och kreditvärdighet hos banker, och den har till och med funnit sin väg in i vissa rättssystem. I detta landskap har outredda partiskheter haft mycket verkliga konsekvenser.
• Säkerställ att beslut är förklarliga: Denna funktion har behandlats av många stora nyhetsutgåvor, och rätteligen så. XAI hjälper till att förklara varför ett AI-system fattade ett visst beslut. Det avslöjar vilka funktioner i det djupa inlärningssystemet som användes mer än andra för att göra sin förutsägelse eller hypotes. Att förstå funktionens betydelse och kunna motivera hur beslut fattas är avgörande för användningsfall som autonoma fordon och datorseende som används i medicinska biopsier.
• Tillförlitligt reproducera resultat: En vanlig nödvändighet i forskningsprojekt bör AI-modeller vara konsekventa när de ger förutsägelser över tid. Sådana modeller bör inte påverkas när de presenteras med ny data.

Dessa fyra saker kommer att skapa transparenta, intelligensdrivna ekosystem, som flyttar mot det vi kallar ett “levande företag”. Här fattas opartiska, förklarliga beslut i nästan realtid, med hela företaget som fungerar som en medveten organism som styrs av människor. Läs Infosys Knowledge Institute vitbok för att ta reda på mer.