Vinay Kumar Sankarapu, medstifter og administrerende direktør for Arya.ai – Intervieuserie

Vinay Kumar Sankarapu er medstifter og administrerende direktør for Arya.ai, en platform, der tilbyder ‘AI’-cloud til banker, forsikringsselskaber og finansielle services (BFSI) institutioner for at finde de rette AI-API’er, eksperter i AI-løsninger og omfattende AI-styringsværktøjer, der er nødvendige for at implementere troværdige og selv-lærende AI-motorer.

Dit baggrund er i matematik, fysik, kemi og maskinteknik. Kan du diskutere din rejse til overgang til datalogi og AI?

På IIT Bombay har vi et ‘Dual Degree Program’, der giver en 5-årig kursus til at dække både Bachelor of Technology og Master of Technology. Jeg læste maskinteknik med specialisering i ‘Computer Aided Design and Manufacturing’, hvor datalogi er en del af vores pensum. Til vores post-grad forskning valgte jeg at arbejde med Deep Learning. Mens jeg startede med at bruge DL til at bygge en fejl-prediktionsramme for kontinuerlig produktion, afsluttede jeg min forskning på at bruge CNN’er til RUL-prediktionsanalyse. Dette var omkring 2013/14.

I lancerede Arya.ai, mens du stadig var på college. Kan du dele historien bag dette startup?

Som en del af akademisk forskning skulle vi bruge 3-4 måneder på en litteraturgennemgang for at skabe en detaljeret studie af emnet af interesse, omfanget af arbejdet, der var gjort hidtil, og hvad der kunne være et muligt fokusområde for vores forskning. Under 2012/13 var værktøjerne, vi brugte, ret grundlæggende. Søgemaskiner som Google Scholar og Scopus udførte kun en nøgleordsøgning. Det var ret svært at fatte omfanget af viden, der var tilgængelig. Jeg tænkte, at dette problem kun ville blive værre. I 2013 blev der publiceret mindst 30+ artikler hver minut. I dag er det mindst 10-20 gange mere end det.

Vi ville bygge en ‘AI’-assistent som en ‘professor’ for forskere til at hjælpe dem med at foreslå et forskningsemne, finde en passende artikel, der er mest opdateret, og alt omkring STEM-forskning. Med vores erfaring i deep learning tænkte vi, at vi kunne løse dette problem. I 2013 startede vi Arya.ai med et hold på 3, og derefter udvidede det til 7 i 2014, mens jeg stadig var på college.

Vores første version af produktet var bygget ved at skrabe mere end 30 millioner artikler og abstracts. Vi brugte state-of-the-art-teknikker i deep learning på det tidspunkt til at bygge en AI-STEM-forskningsassistent og en kontekstuel søgemaskine til STEM. Men da vi viste AI-assistenten til nogle professorer og kammerater, indså vi, at vi var for tidlige. Konversationsflader var begrænsede, og brugerne forventede en fri flyd og kontinuerlige konversationer. Forventningerne var ret urealistiske på det tidspunkt (2014/15), selvom det svarede på komplekse spørgsmål.

Efterfølgende skiftede vi fokus til at bruge vores forskning og fokusere på ML-værktøjer til forskere og virksomheder som en arbejdsplads til at demokratisere deep learning. Men igen var der kun få datavidenskabsmænd, der brugte DL i 2016. Så vi startede med at fokusere på en lodret og bygge specialiserede produktlag til en lodret, dvs. finansielle services institutioner (FSI’er). Vi vidste, at dette ville fungere, fordi store spillere sigter mod at vinde det horisontale spil, mens lodrette spillere fokuserer på slutbrugerens behov og tilbyder dem som et specialiseret produktlag. Denne gang var vi rigtige!

Vi bygger AI-cloud til banker, forsikringsselskaber og finansielle services med de mest specialiserede lodrette lag til at levere skalerbare og ansvarlige AI-løsninger.

Hvor stort et problem er AI-black-box-problemet i finans?

Ekstremt vigtigt! Kun 30% af finansielle institutioner bruger ‘AI’ til fuld potential. Mens en af årsagerne er tilgængelighed, er en anden mangel på ‘AI’-tillid og gennemsigtighed. Reguleringer er nu klare i nogle geografier omkring lovligheden af at bruge AI til lav-, mellem- og højsensitivitetssager. Det er lovkrav i EU at bruge gennemsigtige modeller til ‘højrisikosager’. Mange brugsområder i finansielle institutioner er højrisikosager. Derfor er de nødt til at bruge white-box-modeller.

Hype-cyklerne er også ved at falde, fordi tidlige erfaringer med AI-løsninger er blevet mere realistiske. Der er en stigende mængde eksempler på effekterne af at bruge sortboks-‘AI’, fejl i ‘AI’ på grund af manglende overvågning og udfordringer med juridiske og risikostyringschefer på grund af begrænset gennemsigtighed.

Kan du diskutere forskellen mellem ML-overvågning og ML-observabilitet?

 Jobbet med et overvågningsværktøj er simpelthen at overvåge og alarmere. Og jobbet med et observabilitetsværktøj er ikke kun at overvåge og rapportere, men mest vigtigt at give nok bevis for at finde årsagerne til fejl eller forudsige disse fejl over tid.

I AI/ML spiller disse værktøjer en kritisk rolle. Mens disse værktøjer kan levere de nødvendige roller eller overvågning, er omfanget af ML-observabilitet

Hvorfor er brancheforståelige platforme nødvendige for ML-observabilitet i stedet for generelle formål-platforme?

Generelle formål-platforme er designede til alle og ethvert brugsområde, uanset branchen – enhver bruger kan gå på bordet og starte med at bruge platformen. Kunderne af disse platforme er normalt udviklere, datavidenskabsmænd osv. Platformene skaber dog flere udfordringer for interessenterne på grund af deres komplekse natur og ‘en størrelse passer alle’-tilgang.

Desværre kræver de fleste virksomheder i dag datavidenskabs-eksperter for at bruge generelle formål-platforme og behøver yderligere løsninger/produktlag for at gøre disse modeller ‘brugbare’ for slutbrugerne i enhver lodret. Dette inkluderer forklarbarhed, revision, segmenter/scenarier, menneske-i-løkken processer, feedback-mærkning, revision, værktøj-specifikke rørledninger osv.

Dette er, hvor brancheforståelige AI-platforme kommer ind som en fordel. En brancheforståelig AI-platform ejer hele arbejdsprocessen til at løse en målrettet kundes behov eller brugsområder og er udviklet til at give en komplet produkt fra ende til anden, fra at forstå forretningsbehov til at overvåge produktpræstation. Der er mange brancheforståelige hindringer, såsom reguleringer og compliance-rammer, data beskyttelseskrav, revision og kontrolkrav osv. Brancheforståelige AI-platforme og tilbud accelererer AI-adopterings- og forkorter vejen til produktion ved at reducere udviklingstiden og associerede risici i AI-udrulning. Dette vil også hjælpe med at samle AI-ekspertise i branchen som et produktlag, der hjælper med at forbedre accept af ‘AI’, skubbe compliance-bestræbelser og finde fælles tilgange til etik, tillid og rygtebekymringer.

Kan du dele nogle detaljer om ML-observabilitetsplatformen, der tilbydes af Arya.ai?

Vi har arbejdet i finansielle services institutioner i mere end 6+ år. Siden 2016. Dette gav os tidlig eksponering for unikke udfordringer i at implementere kompleks AI i FSI’er. En af de vigtigste udfordringer var ‘AI’-accept. I modsætning til i andre brancher er der mange reguleringer på brug af software (også gældende for ‘AI’-løsninger), data beskyttelse, etik og mest vigtigt, den finansielle impact på forretningen. For at løse disse udfordringer i skala var vi nødt til at opfinde og tilføje nye lag af forklarbarhed, revision, brugsrisici og ansvarlighed oven på vores løsninger – kravbehandling, underwriting, svindelovervågning osv. Over tid gjorde vi en acceptabel og skalerbar ML-observabilitetsramme for forskellige interessenter i den finansielle services branche.

Vi udgiver nu en selvbetjeningssversion af rammen som AryaXAI (xai.arya.ai). Ethvert ML- eller forretningshold kan bruge AryaXAI til at skabe en meget omfattende AI-styring for mission-kritiske brugsområder. Platformen bringer gennemsigtighed og gennemsigtighed til jeres AI-løsninger, der er acceptabelt for enhver interessepart. AryaXAI gør AI sikrere og acceptabelt for mission-kritiske brugsområder ved at give en pålidelig og præcis forklarbarhed, der kan give bevis, der kan støtte regulativ due diligence, håndtering af AI-usikkerhed ved at give avancerede politikkontroller og sikre konsistens i produktion ved at overvåge data eller modeldrift og alarmere brugere med rodårsagsanalyse.

AryaXAI fungerer også som en fælles arbejdsplads og giver indsigt, der er acceptabelt for alle interessenter – datavidenskab, IT, risiko, operationer og compliance-hold, hvilket gør rulningen og vedligeholdelsen af AI/ML-modeller ubesværet og fri for kludder.

En anden løsning, der tilbydes, er en platform, der forbedrer anvendeligheden af ML-modellen med kontekstuel politikimplementering. Kan du beskrive, hvad dette er specifikt?

Det bliver svært at overvåge og kontrollere ML-modeller i produktion på grund af de enorme mængder af funktioner og forudsigelser. Desuden gør usikkerheden af modeladfærd det svært at håndtere og standardisere styring, risiko og compliance. Sådanne fejl i modellerne kan resultere i store rygte- og finansielle tab.

AryaXAI tilbyder ‘politik-/risikokontrol’, en kritisk komponent, der bevarede forretnings- og etiske interesser ved at påtvinge politikker på AI. Brugere kan let tilføje/redigere/ændre politikker for at administrere politikkontroller. Dette giver mulighed for, at tværfaglige hold kan definere politik-vejledninger for at sikre kontinuerlig risikovurdering, beskyttelse af forretningen mod AI-usikkerhed.

Hvad er nogle eksempler på brugsområder for disse produkter?

AryaXAI kan implementeres for forskellige mission-kritiske processer på tværs af brancher. De mest almindelige eksempler er:

BFSI: I en omgang af regulativ strenghed gør AryaXAI det let for BFSI-industrien at samarbejde omkring krav og samle beviser, der er nødvendige for at håndtere risiko og sikre overholdelse.

• Kreditunderwriting for sikret/uskuret lån
• Identificering af svindel/suspicious transaktioner
• Revision
• Kundelivscykelstyring
• Kreditbeslutning

Autonome biler: Autonome køretøjer skal overholde regulativ strenghed, operativ sikkerhed og forklarbarhed i realtidsbeslutninger. AryaXAI giver en forståelse af, hvordan AI-systemet interagerer med køretøjet

• Beslutningsanalyse
• Autonom kørsel
• Køretøjs sundhedsdata
• Overvågning af AI-kørselsystem

Sundhedssektor: AryaXAI giver dybere indsigt fra medicinske, tekniske, juridiske og patientperspektiver. Fra lægemiddelforskning til produktion, salg og marketing, Arya-xAI fremmer tværfagligt samarbejde

• Lægemiddelforskning
• Klinisk forskning
• Klinisk forsøgsdata-validering
• Højere kvalitetsbehandling

Hvad er din vision for fremtiden for maskinlæring i finans?

Over de sidste 10 år har der været en enorm uddannelse og marketing omkring ‘AI’. Vi har set multiple hype-cykler under denne tid. Vi er sandsynligvis på 4. eller 6. hype-cyklus nu. Den første var, da Deep Learning vandt ImageNet i 2011/12, efterfulgt af arbejde omkring billed-/tekstklassificering, talegenkendelse, autonome biler, generativ AI og nu med store sprogmodeller. Gapet mellem toppen af hype og massebrug er reduceret med hver hype-cyklus på grund af iterationer omkring produkt, efterspørgsel og finansiering.

Disse tre ting er sket nu:

1. Jeg tror, vi har knækket rammen for skala for AI-løsninger, i hvert fald for nogle eksperter. For eksempel er Open AI i øjeblikket en non-revenue-genererende organisation, men de projekterer at gøre 1 milliard dollars i omsætning inden for 2 år. Mens ikke hver AI-virksomhed kan opnå en lignende skala, er skabelonen for skalerbarhed klarere.
2.  Definitionen af ideelle AI-løsninger er næsten klar for alle lodrette: Ulig tidligere, hvor produktet blev bygget gennem iterative eksperimenter for hvert brugsområde og hver organisation, er interessenterne mere og mere uddannede til at forstå, hvad de har brug for fra AI-løsninger.
3. Reguleringer er nu ved at fange op: Behovet for klare reguleringer omkring data beskyttelse og AI-brug er nu ved at få stor trækgivning. Styrende organer og reguleringer er i stand til at udgive eller er i gang med at udgive rammer, der er nødvendige for det sikre, etiske og ansvarlige brug af AI.

Hvad kommer herefter?

Eksplosionen af ‘Model-as-a-service(MaaS)’:

Vi vil se en stigende efterspørgsel efter ‘Model-as-a-service’-forslag ikke kun vandret, men også lodret. Mens ‘OpenAI’ repræsenterer et godt eksempel på ‘vandret MaaS’, er Arya.ai et eksempel på lodret ‘MaaS’. Med erfaringen fra udrulninger og datasæt har Arya.ai samlet kritiske lodrette datasæt, der kan bruges til at træne modeller og give dem som plug-and-use eller forudtrænede modeller.

Lodret er det nye vandret: Vi har set denne trend i ‘Cloud-adopterings’-tiden. Mens vandrette cloud-spillere fokuserer på ‘platforme til alle’, fokuserer lodrette spillere på slutbrugerens behov og tilbyder dem som et specialiseret produktlag. Dette er sandt, selv for MaaS-tilbud.

XAI og AI-styring vil blive en norm i virksomheder: Afhængigt af sensitiviteten af reguleringer vil hver lodret opnå en acceptabel XAI- og styringsramme, der vil blive implementeret som en del af designet, i modsætning til i dag, hvor det behandles som et tilføjelse.

Generativ AI på tabeldata kan se sin hype-cyklus i virksomheder: At skabe syntetiske datasæt er sandsynligvis en af de letteste løsninger for at løse data-relaterede udfordringer i virksomheder. Datavidenskabs-hold vil sandsynligvis foretrække dette, fordi problemet er under deres kontrol, i modsætning til at afhænge af forretningen, da det kan tage tid, være dyrt og ikke garanteret at følge alle trin, mens data indsamles. Syntetiske data løser bias-problemer, data-ubalance, data beskyttelse og utilstrækkelige data. Selvfølgelig er effikken af denne tilgang endnu ikke bevist. Men med mere modning i nye teknikker som transformers kan vi se mere eksperimentering på traditionelle datasæt som tabel- og multi-dimensionelle data. Ved succes kan denne tilgang have en enorm impact på virksomheder og MaaS-tilbud.

Er der noget andet, du gerne vil dele om Arya.ai?

Fokus for Arya.ai er at løse ‘AI’ for banker, forsikringsselskaber og finansielle services. Vores tilgang er at lodret specialisere teknologien til det sidste lag og gøre det brugbart og acceptabelt for enhver organisation og interessepart.

AryaXAI (xai.arya.ai) vil spille en vigtig rol i at levere det til masserne inden for FSI-lodret. Vores igangværende forskning i syntetiske data lykkedes i en håndfuld brugsområder, men vi søger at gøre det til en mere viable og acceptabel mulighed. Vi vil fortsætte med at tilføje flere lag til vores ‘AI’-cloud for at tjene vores mission.

Jeg tror, vi vil se flere startups som Arya.ai, ikke kun i FSI-lodret, men i enhver lodret.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Arya.ai.