Dr. Vishal Sikka, grundare och VD för Vianai – Intervjuserie

Vishal Sikka är grundare och VD för Vianai, tidigare CTO för SAP AG och tidigare VD för Infosys. Han sitter för närvarande också i Oracles styrelse, i BMW-gruppens tillsynsnämnd och som rådgivare till Stanford Institute of Human-Centered AI.

Vianai-plattformen kombinerar öppen källkod, Vianai-egna tekniker och optimeringar samt människocentrerad design för att ta AI till företaget i stor skala, över olika landskap. Med plattformen kan stora organisationer bygga, optimera, distribuera och hantera avancerade ML-modeller på befintlig infrastruktur och förbättra driften och prestandan för ML-modeller över hela företaget,

Vad var det som initialt drog dig till maskinlärning?

Jag blev intresserad av AI som tonåring, när jag läste Marvin Minskys funderingar om våra sinnen som samhällen av enkla agenter, och lärde mig om Joe Weizenbaums Eliza (en mycket tidig chatbot) och John McCarthys kritik av den. Senare hade jag äran att ha McCarthy som ordförande för min AI-kvalificeringskommitté vid Stanford. McCarthy och Minsky var de två fäderna till området för artificiell intelligens, och båda hade djupgående insikter i AI:s möjligheter samt begränsningar, och jag var lycklig nog att studera med båda.

Vi kan fortfarande se idag att AI har stor potential, och samtidigt har betydande begränsningar. Samma utmaningar som vi brottades med för 30 år sedan är fortfarande tydliga idag, särskilt när vi tittar på AI i företaget. Jag inspirerades av arbetet som student, för att se om värdet av AI kunde låsas upp på något sätt, och jag har fortsatt att vara passionerad om det.

Du har tidigare skrivit några viktiga artiklar, vilken artikel tror du var den viktigaste för att utveckla dina åsikter om AI?

Som student måste jag ha läst flera tusen artiklar. McCarthys profetiska artiklar om en “Advice Taker”, om vissa nyckel filosofiska problem med AI, Marvin’s artiklar om sinnet som ett samhälle, om att föra samman den connectionistiska (neurala nätverksbaserade) och symboliska tillvägagångssätten för AI, Judea Pearls artiklar om sannolikhetsresonemang och orsakssamband, och artiklar av David Marr (om syn), Pat Winston (om att lära sig beskrivningar av föremål från exempel), Waldingers arbete om programsyntes, och många andra formade mina åsikter. Mer nyligen har jag läst verk av Hinton, Lecun, de som fokuserar på uppmärksamhet, samt verk av Cynthia Rudin, Fernanda Viegas och andra.

Du har uttalat att utvecklarupplevelsen av att bygga ett AI-system är fragmenterad och trasig, vad är några av de nuvarande problemen bakom att bygga ett AI-system?

AI-system idag kan verkligen bara förklaras av ett relativt litet antal människor — statistik varierar, men det verkar som att det kan finnas så få som 20-30,000 i världen som förstår de verkliga metoderna för hur AI-system fungerar. Detta är avsevärt färre än de 52,000 eller så MLOps-proffs vi uppskattar, eller de 1 miljon vi uppskattar är datavetare. Många av dem kunde inte berätta varför systemet gör vad det gör, varför det ger de rekommendationer det gör eller vad som eventuellt kan gå fel, eller hur de underliggande teknikerna fungerar.

Ställ detta mot bakgrund av ett mycket komplext landskap. Det finns över 300 MLOps-leverantörer som Gartner spårar vid varje given tidpunkt. Var och en av dessa har ett specialiserat erbjudande. De stora molnleverantörerna å andra sidan har sin egen smak av allt, och försöker ofta låsa in företag i sina ekosystem och infrastruktur.

Sedan är beräkningskraften ofta för dyr för företag att bygga och träna några av de mest avancerade modellerna som finns tillgängliga. Dessa är förbehållna ett fåtal företag som har talang och resurser för att hantera AI-systemens krav.

Bristen på förståelse, komplexiteten i verktygen och kostnaden för beräkningskraften kombineras för att skapa ett ojämnt och utmanande landskap för alla företag som vill bli AI-kompetenta. På Vianai bygger vi metoder för att göra AI enklare att använda och förstå, samtidigt som vi avsevärt minskar resurserna och kostnaderna förknippade med att få den bästa prestandan.

Kunde du dela med dig av ursprunget till Vianai?

Jag hade tillbringat många år med att föra in nya, innovativa lösningar till företag. Mina team och jag byggde flera produkter som nådde tiotusentals företag och ansågs vara banbrytande. Jag ledde också två grundläggande transformationer under mina två tidigare resor innan jag startade Vianai och deltog i transformationer i hundratals företag. Dessutom var det mina många år av att studera AI och fokusera på hur man kan göra AI bättre, mer relevant och i tjänst för mänskligheten.

På ett ganska ovanligt sätt – dessa saker kom samman. Jag var på semester med min familj i Sydostasien [i slutet av 2018]. Vi handlade på en liten marknad, och säljaren hade vacker, hantverksmässig smycken. Det var tillverkat med traditionella tekniker och lokala stenar, och det var fantastiskt, men, naturligtvis, hade ingen utanför den lilla staden hört talas om dem. Och jag hade den här frågan som kom till mina tankar, “Vad om den här säljaren kunde använda AI? Vad skulle det se ut som? Hur skulle systemen ha fungerat?” I den stunden slog det mig att varje företag i världen skulle förvandlas med AI, och att denna förvandling inte kunde ses med gårdagens linser, utan behövde produkter och idéer som måste börja från ett tomt blad.

Ungefär en månad senare grundade jag Vianai med en mission att ta med sig sann, människocentrerad AI till företag över hela världen. Detta innebär att tillhandahålla produkter och tjänster, applikationer och tekniker, verktyg som möjliggör för företagsanvändare, datavetare, ML-ingenjörer och till och med säljare i avlägsna delar av världen att verkligen skörda fördelarna med AI.

Sedan dess har vi skapat applikationer för att hjälpa företag att komma igång med AI, en plattform för att hjälpa ML-praktiker att hantera och övervaka sina AI-modeller, och optimeringstekniker för att möjliggöra för fler företag att komma åt AI.

Genom allt detta har vi funnit att den betydande potentialen att föra samman mänsklig förståelse, omdöme och samarbete tillsammans med data och de bästa AI-teknikerna förblir outnyttjad. Baserat på vårt arbete med ledande företag har jag sett att samma tekniker som skulle hjälpa den lilla säljaren också skulle hjälpa de största företagen i världen.

Vianai handlar allt om människocentrerad AI, kunde du definiera vad detta är och varför det är viktigt?

Människocentrerad AI är AI som syftar till att förstärka mänskligt arbete och förbättra mänskligt omdöme. Maskinlärning är alltför ofta tänkt som en ersättning för mänskligt arbete. Men AI är komplementär till människor — det erbjuder skala och upprepningsbarhet och precision som människor inte kan replikera. Men AI kan inte replikera mänskligt omdöme, mänskliga upplevelser eller vår förståelse av sammanhang.

Det finns uppenbara exempel på detta, som när AI förväxlar en sköldpadda med en gevär, men långt oftare placerar vi för mycket tillit till AI när det inte har visat sig vara pålitligt än. En ökänd historia kommer från för ett decennium sedan, när ett företags AI fick handla utan mänskligt ingripande. Algoritmen förlorade 440 miljoner dollar på mindre än en timme.

För ett mer aktuellt exempel kvarstår avancerade språkmodeller relativt lätta att förvirra eller förleda. Text-till-bild-genererare är potentiellt kraftfulla, men kräver mycket specifika kommandon från en mänsklig användare för att få sin fulla potential.

Människocentrerad AI, då, är en sorts fokus i designen av våra produkter. Vi för samman kraften i mänsklig förståelse – som omdöme och samarbete – tillsammans med de bästa data och AI-teknikerna, för att skapa intelligenta system som kan förbättra affärsresultat och processer avsevärt.

Kunde du förklara behovet av en återkopplingsmekanism mellan människor och AI?

Det finns en hel gren av AI som kallas “människa i loopen” som förlitar sig på återkopplingsmekanismerna hos människor för att naturligt förbättra AI:s prestanda. Detta är naturligt, och har mening för alla system.

AI-system kan förbättras över tid, genom omträning, som inkorporerar alla åtgärder som användaren vidtar. Detta är, naturligtvis, en del av våra applikationer också. Låt mig ge ett exempel.

Före Covid arbetade vi med ett stort finansiellt tjänsteföretag med efterfrågeprognostisering. På grund av hur vi designade systemet, när Covid kom och bröt så många andra modeller, justerade vårt system snabbt till förändringarna och behövde aldrig byggas om. Detta är den andra och viktigaste aspekten av människocentrerad AI, att designa systemen från början för att inkorporera komplexiteten i det moderna livet.

Detta skapar förtroende och ett system som växer med organisationen och användaren.

Vad gör Vianai till en nästa generations AI-plattform?

Medan det finns mycket diskussion kring risk, reglering och löften om AI, har få sökt vad vi finner vara lösningen — konceptet människocentrerad AI.

Vår plattform är då redo för de problem som kommer när AI blir mer verkligt i företaget. Det är för att tackla frågor kring förtroende, fördomar och transparens. Det möjliggör för företag att skala AI med övervakning och optimering. Och det möjliggör för icke-tekniska användare att utnyttja AI genom våra applikationer.

Vilka är några av utmaningarna bakom att bygga en plattform som dramatiskt förenklar upplevelsen för företags AI?

De största utmaningarna vi ser i företag som inför AI är talang, verktyg och teknik. Först tenderar talang att koncentreras till ett fåtal platser, särskilt i större teknikföretag. Detta gör det mycket svårt för teammedlemmar utanför att delta i tillsynen, styrningen och formandet av AI-programmet och kan skapa ännu mer fördom som endast ett begränsat antal teammedlemmar arbetar med operationerna.

Teknik och verktyg kan också vara en utmaning i att förenkla AI. Just nu är både teknik och verktyg begränsade. Chip för att köra AI är sällsynta och mycket dyra, och verktyg är låsta till vissa leverantörer, vilket minskar friheten att förbättra kostnad samtidigt som värdet utökas. Oavsett var ett företag kan befinna sig i sin AI-resa kan dessa utmaningar göra det svårt att implementera användbar och etisk AI, eftersom det skapar en frånkopplad, fragmenterad strategi och tar bort verktygen som behövs för att utföra rätt funktioner. Organisationer behöver kunna stödja alla områden av AI, från implementering till underhåll, och ha teamstöd och ge input för att göra det till en framgång.

För sann framgång har jag funnit att plattformens förmågor behöver vara helt öppna, modulära, flexibla och inte beroende av dyra maskinvaru- och programvaruuppgraderingar. Och med en människocentrerad ansats kan människor fortfarande bidra med kunskap, sammanhang, upplevelser och kreativitet till att lösa problem — detta förstärks av AI-plattformen, inte ersätts.

Finns det något annat du vill dela om Vianai?

På många sätt lever vi i AI-tider. Det finns mycket hype och diskussion kring AI, vilket i sin helhet är en bra sak. Vi ser många framsteg och en bredare antagande än tidigare i områden som generativ AI och andra områden. Men vi bör också arbeta för att erkänna begränsningarna i AI — verkligheten i AI-teknik idag, liksom verkligheten i bristen på expertis inom AI, och bristen på förtroende för AI, särskilt i företag. Om vi kan ramla in AI som en förstärkare av våra liv, samhälle, vårt arbete, vår potential, och ha den nödvändiga tillsynen av AI för att säkerställa detta, då tror jag att vi slutligen kommer att se det bli verklighet på meningsfulla och omvandlande sätt.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Vianai.