Dr. Vishal Sikka, grunnlegger og CEO av Vianai – Intervju-serie

Vishal Sikka er grunnlegger og CEO av Vianai, tidligere CTO av SAP AG og tidligere CEO av Infosys. Han sitter for tiden også i Oracles styre, i BMW-gruppens tilsynsråd og som rådgiver for Stanford Institute of Human-Centered AI.

Vianai-plattformen kombinerer åpne kildekoder, Vianai-eierskaps-teknikker og optimaliseringer, og menneskesentrert design for å bringe AI til bedriftene i stor skala, over forskjellige landskap. Med plattformen kan store organisasjoner bygge, optimere, distribuere og håndtere sofistikerte ML-modeller på eksisterende infrastruktur og forbedre driften og ytelsen av ML-modeller over hele bedriften,

Hva var det som først tiltalte deg til maskinlæring?

Jeg ble interessert i AI som tenåring, da jeg leste Marvin Minskys tanker om våre sinn som samfunn av enkle agenter, og lærte om Joe Weizenbaums Eliza (en svært tidlig chatbot) og John McCarthys kritikk av den. Senere hadde jeg æren av å ha McCarthy som leder for min AI-kvalifiseringskomité ved Stanford. McCarthy og Minsky var de to fedrene til feltet kunstig intelligens, og begge hadde dyptgående innsikt i både kreftene og begrensningene til det, og jeg var heldig å få studere med begge.

Vi kan fortsatt se i dag at AI har stor potensiale, og samtidig har betydelige begrensninger. De samme utfordringene vi kjempet med for 30 år siden er fortsatt åpenbare i dag, særlig når vi ser på AI i bedriftene. Jeg ble inspirert av arbeidet som student, for å se om verdien av AI på noen måte kunne låses opp, og jeg har fortsatt å være lidenskapelig opptatt av det.

Du har tidligere skrevet noen instrumentale artikler, hvilken artikkel tror du var den mest instrumentale i å utvikle dine synspunkter på AI?

Som student måtte jeg ha lest flere tusen artikler. McCarthys profetiske artikler om en “Advice Taker”, om noen nøkkel filosofiske problemer i AI, Marvin’s artikler om sinn som et samfunn, om å bringe sammen den konnekjonistiske (neurale nettverksbaserte) og symboliske tilnærmingene til AI, Judea Pearls artikler om sannsynlighet og årsakssammenheng, og artikler av David Marr (om syn), Pat Winston (om å lære beskrivelser av objekter fra eksempler), Waldingers arbeid om programsyntese, og mange andre formede mine synspunkter. Mer nylig har jeg lest verk av Hinton, Lecun, oppmerksomhetsfolkene, samt verk av Cynthia Rudin, Fernanda Viegas og andre.

Du har uttalt at utvikleropplevelsen av å bygge et AI-system er fragmentert og ødelagt, hva er noen av de nåværende problemene bak å bygge et AI-system?

AI-systemer i dag kan virkelig bare forklare av en relativt liten gruppe mennesker — statistikken varierer, men det ser ut til at det kan være så lite som 20-30 000 i verden som forstår de sanne metodene for hvordan AI-systemer kjører. Dette er langt mindre enn de 52 000 eller så MLOps-proffene, eller de 1 millionen vi estimerer er datavitenskapsmenn. Mange av dem kunne ikke fortelle deg hvorfor systemet gjør hva det gjør, hvorfor det gir de anbefalingene det gjør eller hva som kan gå galt, eller hvordan de underliggende teknikkene fungerer.

Legg dette mot bakgrunnen av et svært komplekst landskap. Det er over 300 MLOps-leverandører som Gartner sporer på et gitt tidspunkt. Hver av disse har et spesialisert tilbud. De store skytjenesteleverandørene på den andre siden har sine egne smaker av alt, og ofte forsøker å låse bedriftene inn i sine økosystemer og infrastruktur.

Så er datamaskinen selv ofte for dyrt for bedriftene å bygge og trene noen av de mest avanserte modellene som er tilgjengelige. Disse er forbeholdt noen få bedrifter som har talent og ressurser til å håndtere AI-systemets krav.

Mangel på forståelse, kompleksiteten i verktøyene og kostnadene til datamaskinen kombinerer for å skape et uavhengig og utfordrende landskap for enhver bedrift som søker å bli AI-kyndig. Hos Vianai bygger vi metoder for å gjøre AI enklere å bruke og enklere å forstå og observere, samtidig som vi kraftig reduserer resursene og kostnadene forbundet med å få beste ytelse.

Kunne du dele opphavsfortellingen bak Vianai?

Jeg hadde tilbragt mange år med å bringe nye, banebrytende innovasjoner til bedriftene. Mine team og jeg bygde flere produkter som nådde titusener av bedrifter og ble ansett som gjennombrudd. Jeg ledet også to fundamentale transformasjoner i mine to reiser før jeg startet Vianai og deltok i transformasjoner i hundrevis av bedrifter. I tillegg kom mine mange år med studier av AI og fokus på hvordan man kunne gjøre AI bedre, mer relevant og i tjeneste for menneskeheten.

På en ganske uvanlig måte – disse tingene kom sammen. Jeg var på ferie med familien i Sørøst-Asia [i slutten av 2018]. Vi handlet i en liten marked, og selgeren hadde vakre, håndlagde smykker. Det var laget med tradisjonelle teknikker og lokale steiner, og det var fantastisk, men, naturligvis, hadde ingen utenfor denne lille byen hørt om dem. Og jeg hadde denne spørsmålet i tankene, “Hva hvis denne selgeren kunne bruke AI? Hva ville det se ut som? Hvordan ville systemene fungere?” Da slo det meg at hver bedrift i verden ville bli transformert med AI, og at denne transformasjonen ikke kunne sees på med dagens briller, men trengte produkter og ideer som måtte starte fra en blank skisse.

Om en måned etterpå grunnla jeg Vianai med en misjon om å bringe sant, menneskesentrert AI til bedrifter over hele verden. Dette innebærer å tilby produkter og tjenester, applikasjoner og teknologier, verktøy som muliggjør at bedriftsbrukere, datavitenskapsmenn, ML-ingeniører og selv selgere i avsidesliggende deler av verden kan virkelig høste fordelen av AI.

Siden da har vi skapt applikasjoner for å hjelpe bedrifter å komme i gang med AI, en plattform for å hjelpe ML-praktikere å håndtere og overvåke sine AI-modeller, og optimaliseringsteknikker for å muliggjøre at flere bedrifter kan få tilgang til AI.

Gjennom alt dette har vi funnet at det betydelige potensialet for å bringe sammen kraften av menneskelig forståelse, dømmekraft og samarbeid med data og de beste AI-teknikkene fortsatt er utilgjengelig. Basert på vårt arbeid med ledende bedrifter, så jeg at de samme teknikkene som ville hjelpe den lille selgeren ville hjelpe de største bedriftene i verden.

Vianai handler om menneskesentrert AI, kunne du definere hva dette er og hvorfor det er viktig?

Menneskesentrert AI er AI som søker å forsterke menneskelig arbeid og forbedre menneskelig dømmekraft. Maskinlæring blir ofte sett på som en erstatning for menneskelig arbeid. Men AI er komplementært til mennesker — det tilbyr skala og gjentakelse og presisjon som mennesker ikke kan gjenta. Men AI kan ikke gjenta menneskelig dømmekraft, menneskelige erfaringer eller vår forståelse av kontekst.

Det er åpenbare eksempler på dette, som AI som forveksler en skilpadde med en rifle, for eksempel, men langt oftere plasserer vi for mye tillit til AI når det ikke har bevist seg å være pålitelig enda. En beryktet historie kommer fra for noen år siden, da et firma tillot AI å handle uten menneskelig inngripen. Algoritmen tapte 440 millioner dollar på mindre enn en time.

For et mer nylig eksempel er avanserte språkmodeller relativt enkle å forvirre eller forvrengende. Tekst-til-bilde-generatorene er potensielt kraftfulle, men krever svært spesifikke kommandoer fra en menneskelig bruker for å få deres fulle potensiale.

Menneskesentrert AI er derfor en type fokus i design av våre produkter. Vi bringer sammen kraften av menneskelig forståelse – som dømmekraft og samarbeid – med de beste data og AI-teknikkene, for å skape intelligente systemer som kan forbedre bedriftsresultater og prosesser betydelig.

Kunne du forklare behovet for en tilbakemeldingsløkke mellom mennesker og AI?

Det er en hel gren av AI som kalles “menneske i løkken” som avhenger av tilbakemeldingsmekanismene til mennesker for å naturlig forbedre AI-ytelsen. Dette er naturlig, og har mening for ethvert system.

AI-systemer kan forbedres over tid, gjennom om-trening, som inkorporerer hva som helst handlinger brukeren tok. Dette er, naturligvis, en del av våre applikasjoner også. La meg gi et eksempel.

Før Covid arbeidet vi med et stort, finansielt tjenestefirma på etterspørselsprognose. Fordi av hvordan vi designet systemet, da Covid kom og brøt så mange andre modeller, tilpasset vårt raskt og trengte aldri å bli bygget om. Dette er den andre og viktigste delen av menneskesentrert AI, å designe systemene fra starten av for å inkorporere kompleksiteten i moderne liv.

Dette skaper tillit og et system som vokser med organisasjonen og brukeren.

Hva gjør Vianai til en neste generasjons AI-plattform?

Mens det er mye diskusjon rundt risiko, regulering og løftene til AI, har få søkt hva vi finner å være løsningen — konseptet menneskesentrert AI.

Vår plattform er derfor klar for problemene som vil komme når AI blir mer virkelig i bedriftene. Den er til å takle problemer rundt tillit, forvrengning og gjennomsiktighet. Den muliggjør at bedrifter kan skalerer AI med overvåking og optimalisering. Og den muliggjør at ikke-tekniske brukere kan utnytte AI gjennom våre applikasjoner.

Hva er noen av utfordringene bak å bygge en plattform som dramatisk forenkler erfaringen for bedrifts-AI?

De største utfordringene vi ser i bedriftene som inkorporerer AI er talent, verktøy og teknologi. Først og fremst tenderer talent å være konsentrert i noen få steder, særlig i større teknologiselskaper. Dette gjør det svært vanskelig for utenfor teammedlemmer å delta i tilsyn, styring og forming av AI-programmet og kan skape enda mer forvrengning når bare en begrenset mengde teammedlemmer arbeider med operasjonene.

Teknologi og verktøy kan også være en utfordring i å forenkle AI. For tiden er både teknologi og verktøy begrensede. Chip til å kjøre AI er sjeldne og svært dyre, og verktøy er låst til bestemte leverandører som reduserer friheten til å forbedre kostnad samtidig som verdien utvides. Uansett hvor en bedrift måtte være i sin bedrifts-AI-reise, kan disse utfordringene gjøre implementering av nyttig og etisk AI utfordrende, da det skaper en frakoblet, fragmentert strategi og fjerner verktøyene nødvendige for å utføre de riktige funksjonene. Organisasjoner må kunne støtte alle områder av AI fra implementering til vedlikehold, og ha teamstøtte og tilby innsikt for å gjøre det en suksess.

For sant suksess har jeg funnet at plattformkapasiteter må være fullstendig åpne, modulære, fleksible og ikke avhengige av dyre maskinvare- og programvareoppgraderinger. Og med en menneskesentrert tilnærming er mennesker fortsatt i stand til å bringe kunnskap, kontekst, erfaringer og kreativitet til å løse problemer – dette er deretter forsterket av AI-plattformen, ikke erstattet.

Er det noe annet du ville like å dele om Vianai?

På mange måter lever vi i AI-tiden. Det er mye hype og diskusjon rundt AI, som for det meste er en god ting. Vi ser en rekke fremgang og en videre utbredelse enn tidligere i områder som generativ AI og andre områder. Likevel bør vi også jobbe for å erkjenne begrensningene til AI – realitetene til AI-teknologi i dag, samt realitetene til mangelen på ekspertise i AI og mangelen på tillit til AI, særlig i bedriftene. Hvis vi kan ramme AI som en forsterker av våre liv, samfunn, vår arbeid, vår potensiale, og har den nødvendige tilsyn av AI for å sikre dette, så tror jeg vi vil se det komme til live på meningfulle og transformasjonelle måter.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Vianai.