Vinay Kumar Sankarapu, Co-Founder & CEO van Arya.ai – Interview Series

Vinay Kumar Sankarapu is de Co-Founder & CEO van Arya.ai, een platform dat de ‘AI’ cloud biedt voor Banken, Verzekeraars en Financiële Dienstverleners (BFSI) om de juiste AI-API’s, Expert AI-oplossingen en uitgebreide AI-governancehulpmiddelen te vinden die nodig zijn om betrouwbare en zelflerende AI-motoren te implementeren.

Uw achtergrond ligt in wiskunde, natuurkunde, scheikunde en mechanica, kunt u uw reis beschrijven naar het overstappen naar computerwetenschappen en AI?

Op IIT Bombay hebben we een ‘Dual Degree Program’ dat een 5-jarige cursus biedt om zowel een Bachelor of Technology als een Master of Technology te behalen. Ik heb mechanica gedaan met een specialisatie in ‘Computer Aided Design and Manufacturing’, waar computerwetenschappen deel uitmaken van ons curriculum. Voor ons postdoctoraal onderzoek koos ik ervoor om te werken aan Deep Learning. Terwijl ik begon met het gebruik van DL om een framework voor foutvoorspelling te bouwen voor continue productie, rondde ik mijn onderzoek af met het gebruik van CNN’s voor RUL-voorspelling. Dit was rond 2013/14.

U lanceerde Arya.ai nog tijdens uw studie, kunt u het verhaal achter dit startup vertellen?

Als onderdeel van academisch onderzoek moesten we 3-4 maanden besteden aan een literatuuronderzoek om een gedetailleerde studie te maken over het onderwerp van interesse, de reikwijdte van het werk dat tot nu toe is gedaan en wat een mogelijk gebied van focus voor ons onderzoek kon zijn. Tijdens 2012/13 waren de tools die we gebruikten nogal basic. Zoekmachines zoals Google Scholar en Scopus deden alleen een trefwoordzoek. Het was echt moeilijk om de omvang van de kennis die beschikbaar was te begrijpen. Ik dacht dat dit probleem alleen maar erger zou worden. In 2013, denk ik dat er minstens 30+ papers per minuut werden gepubliceerd. Vandaag is dat minstens 10x-20x meer.

We wilden een ‘AI’-assistent bouwen zoals een ‘professor’ voor onderzoekers om hen te helpen een onderwerp van onderzoek te suggereren, een geschikt papier te vinden dat het meest up-to-date is en alles rond STEM-onderzoek. Met onze ervaring in deep learning dachten we dat we dit probleem konden oplossen. In 2013 startten we Arya.ai met een team van 3, en daarna breidde het uit tot 7 in 2014, terwijl ik nog steeds op de universiteit zat.

Onze eerste versie van het product was gebouwd door meer dan 30 miljoen papers en abstracts te scrapen. We gebruikten state-of-the-art-technieken in deep learning op dat moment om een AI-STEM-onderzoeksassistent en een contextuele zoekmachine voor STEM te bouwen. Maar toen we de AI-assistent aan een paar professoren en medestudenten lieten zien, realiseerden we ons dat we te vroeg waren. Conversatieflows waren beperkt, en gebruikers verwachtten een vrije flow en continue conversaties. Verwachtingen waren erg onrealistisch op dat moment (2014/15), zelfs als het complexe vragen beantwoordde.

Daarna zijn we gepivoteerd om ons onderzoek te gebruiken en ons te concentreren op ML-hulpmiddelen voor onderzoekers en ondernemingen als een werkbank om deep learning te democratiseren. Maar weer, waren er in 2016 maar weinig datawetenschappers die DL gebruikten. Dus zijn we begonnen met het verticaliseren voor één verticale en hebben ons gefocust op het bouwen van gespecialiseerde productlagen voor één verticale, namelijk Financiële Dienstverleners (FSI’s). We wisten dat dit zou werken omdat grote spelers proberen de horizontale markt te winnen, terwijl verticalisatie een grote USP voor startups kan creëren. Deze keer hadden we gelijk!

We bouwen de AI-cloud voor Banken, Verzekeraars en Financiële Dienstverleners met de meest gespecialiseerde verticale lagen om schaalbare en verantwoorde AI-oplossingen te leveren.

Hoe groot is het probleem van de AI-black box in de financiële sector?

Extreem belangrijk! Alleen 30% van de financiële instellingen gebruikt ‘AI’ tot zijn volle potentieel. Terwijl een van de redenen toegankelijkheid is, is een andere het gebrek aan ‘AI’-vertrouwen en controleerbaarheid. Regels zijn nu duidelijk in een aantal geografische gebieden over de juridische aspecten van het gebruik van AI voor lage, middelmatige en hoge-gevoelige use cases. Het is vereist door de wet in de EU om transparante modellen te gebruiken voor ‘hoge-risico’-use cases. Veel use cases in financiële instellingen zijn hoge-risico-use cases. Dus moeten ze verplicht transparante modellen gebruiken.

Hype-cycles zijn ook aan het settelen vanwege vroege ervaringen met AI-oplossingen. Er zijn een groeiend aantal voorbeelden in recente tijden over de effecten van het gebruik van black box ‘AI’, falen van ‘AI’ vanwege het niet monitoren en uitdagingen met juridische en risicomanagers vanwege beperkte controleerbaarheid.

Kunt u de verschil tussen ML-monitoring en ML-observeerbaarheid bespreken?

 De taak van een monitortool is simpelweg om te monitoren en te alarmeren. En de taak van een observeerbaarheidstool is niet alleen om te monitoren en te rapporteren, maar vooral om voldoende bewijs te bieden om de redenen voor falen of voorspellingen over tijd te vinden.

In AI/ML spelen deze tools een kritieke rol. Terwijl deze tools de vereiste rollen of monitoring kunnen leveren, is de reikwijdte van ML-observeerbaarheid

Waarom zijn branche-specifieke platforms nodig voor ML-observeerbaarheid in plaats van algemene platforms?

Algemene platforms zijn ontworpen voor iedereen en elke use case, ongeacht de branche– elke gebruiker kan zich aanmelden en beginnen met het gebruik van het platform. De klanten van deze platforms zijn meestal ontwikkelaars, datawetenschappers, etc. De platforms creëren echter verschillende uitdagingen voor de stakeholders vanwege hun complexe aard en ‘one size fits all’-aanpak.

Helaas hebben de meeste bedrijven vandaag datawetenschappers nodig om algemene platforms te gebruiken en additionele oplossingen/productlagen nodig om deze modellen ‘bruikbaar’ te maken voor de eindgebruikers in elke verticale. Dit omvat verklarende mogelijkheden, auditing, segmenten/scenario’s, human-in-the-loop-processen, feedbacklabeling, auditing, tool-specifieke pipelines, etc.

Dit is waar branche-specifieke AI-platforms een voordeel bieden. Een branche-specifiek AI-platform bezit de hele workflow om de gerichte klantbehoeften of use cases op te lossen en is ontwikkeld om een complete product te bieden van begin tot eind, van het begrijpen van de bedrijfsbehoeften tot het monitoren van productprestaties. Er zijn veel branche-specifieke hindernissen, zoals regelgevings- en nalevingskaders, gegevensprivacysvereisten, audit- en controlevereisten, etc. Branche-specifieke AI-platforms en -aanbod versnellen AI-adoptie en verkorten de weg naar productie door de ontwikkeltijd en de daarmee samenhangende risico’s in AI-uitrol te verminderen. Bovendien zal dit ook helpen om AI-deskundigheid in de branche samen te brengen als een productlaag die helpt om de acceptatie van ‘AI’ te verbeteren, inspanningen voor naleving te stimuleren en gemeenschappelijke benaderingen te vinden voor ethiek, vertrouwen en reputatiezorgen.

Kunt u enkele details delen over het ML-observeerbaarheidsplatform dat door Arya.ai wordt aangeboden?

We hebben meer dan 6+ jaar gewerkt in financiële dienstverleningsinstellingen. Sinds 2016. Dit gaf ons vroeg blootstelling aan unieke uitdagingen bij het implementeren van complexe AI in FSI’s. Een van de belangrijkste uitdagingen was ‘AI-acceptatie. In tegenstelling tot in andere verticale markten, zijn er veel regels voor het gebruik van elke software (ook van toepassing op ‘AI’-oplossingen), gegevensprivacysvereisten, ethiek en vooral, de financiële impact op het bedrijf. Om deze uitdagingen op grote schaal aan te pakken, moesten we voortdurend nieuwe lagen van verklarende mogelijkheden, auditing, gebruiksrisico’s en aansprakelijkheid toevoegen aan onze oplossingen – claimsverwerking, onderwriting, fraudebewaking, etc. In de loop van de tijd hebben we een acceptabele en schaalbare ML-observeerbaarheidsframework voor verschillende stakeholders in de financiële dienstverleningsindustrie gemaakt.

We brengen nu een DIY-versie van het framework uit als AryaXAI (xai.arya.ai). Elke ML- of business-team kan AryaXAI gebruiken om een zeer uitgebreide AI-governance te maken voor mission-critical use cases. Het platform biedt transparantie en controleerbaarheid voor uw AI-oplossingen die acceptabel zijn voor elke stakeholder. AryaXAI maakt AI veiliger en acceptabeler voor mission-critical use cases door een betrouwbare en nauwkeurige verklarende mogelijkheid te bieden, bewijs te bieden dat kan ondersteunen bij regelgevingsdue diligence, AI-onzekerheid te beheren door geavanceerde beleidscontroles te bieden en consistentie in productie te garanderen door gegevens- of modeldrift te monitoren en gebruikers te alarmeren met root cause-analyse.

AryaXAI fungeert ook als een gemeenschappelijke workflow en biedt inzichten die acceptabel zijn voor alle stakeholders – Data Science, IT, Risico, Operations en compliance-teams, waardoor de implementatie en onderhoud van AI/ML-modellen naadloos en rommelvrij worden.

Nog een oplossing die wordt aangeboden is een platform dat de toepasbaarheid van het ML-model verhoogt met contextuele beleidsimplementatie. Kunt u beschrijven wat dit specifiek is?

Het wordt moeilijk om ML-modellen in productie te monitoren en te controleren vanwege de enorme hoeveelheid functies en voorspellingen. Bovendien maakt de onzekerheid van modelgedrag het moeilijk om governance, risico en compliance te beheren en te standaardiseren. Dergelijke falen van modellen kunnen leiden tot zware reputatieschade en financiële verliezen.

AryaXAI biedt ‘Beleids-/risicobeheer’, een kritische component die de zakelijke en ethische belangen beschermt door beleid op AI af te dwingen. Gebruikers kunnen gemakkelijk beleid toevoegen/wijzigen om beleidscontroles te beheren. Dit stelt cross-functionele teams in staat om beleidsrichtlijnen te definiëren om continue risicobeoordeling te garanderen, waardoor het bedrijf wordt beschermd tegen AI-onzekerheid.

Wat zijn enkele voorbeelden van use cases voor deze producten?

AryaXAI kan worden geïmplementeerd voor verschillende mission-critical processen in verschillende industrieën. De meest voorkomende voorbeelden zijn:

BFSI: In een omgeving van regelgevingsstrengheid, maakt AryaXAI het voor de BFSI-industrie gemakkelijk om te komen tot overeenstemming over vereisten en bewijs te verzamelen om risico’s te beheren en naleving te garanderen.

• Credit Underwriting voor beveiligde/onbeveiligde leningen
• Identificatie van fraude/verdachte transacties
• Audit
• Klantlevenscyclusbeheer
• Creditbeslissing

Autonome auto’s: Autonome voertuigen moeten voldoen aan regelgevingsstrengheid, operationele veiligheid en verklarende mogelijkheden in real-time beslissingen. AryaXAI stelt u in staat om te begrijpen hoe het AI-systeem interacteert met het voertuig

• Beslisanalyse
• Autonome voertuigoperaties
• Voertuiggezondheidsgegevens
• AI-rijden systeem monitoren

Gezondheidszorg: AryaXAI biedt diepere inzichten vanuit medische, technologische, juridische en patiëntperspectieven. Vanaf geneesmiddelenontdekking tot productie, verkoop en marketing, Arya-xAI bevordert multidisciplinaire samenwerking

• Geneesmiddelenontdekking
• Klinisch onderzoek
• Klinische proefgegevensvalidatie
• Hogere kwaliteit zorg

Wat is uw visie voor de toekomst van machine learning in de financiële sector?

In de afgelopen decennium is er een enorm onderwijs- en marketingprogramma geweest rond ‘AI’. We hebben meerdere hype-cycles gezien in deze tijd. We zouden waarschijnlijk nu in de 4e of 6e hype-cycle zitten. De eerste was toen Deep Learning ImageNet won in 2011/12, gevolgd door werk rond beeld-/tekstclassificatie, spraakherkenning, autonome auto’s, generatieve AI en momenteel met grote taalmodellen. De kloof tussen de piek van de hype en het massale gebruik neemt af met elke hype-cycle vanwege de iteraties rond het product, de vraag en de financiering.

Drie dingen zijn nu gebeurd:

1. Ik denk dat we het framework voor schaal van AI-oplossingen hebben gekraakt, tenminste door een paar experts. Als voorbeeld is Open AI momenteel een non-revenue genererend bedrijf, maar ze projecteren $1 miljard omzet binnen 2 jaar. Hoewel niet elk AI-bedrijf een soortgelijke schaal kan bereiken, is het template van schaalbaarheid nu duidelijker.
2. De definitie van ideale AI-oplossingen is bijna duidelijk voor alle verticale markten: In tegenstelling tot eerder, toen het product werd gebouwd door iteratieve experimenten voor elke use case en elke organisatie, zijn stakeholders nu steeds meer opgeleid om te begrijpen wat ze nodig hebben van AI-oplossingen.
3. Regelgevingen zijn nu aan het inhalen: De behoefte aan duidelijke regelgevingen rond gegevensprivacys- en AI-gebruik krijgt nu grote aandacht. Regulerende instanties en overheidsinstanties zijn in staat om kaders te publiceren of zijn bezig met het publiceren van kaders die nodig zijn voor het veilige, ethische en verantwoorde gebruik van AI.

Wat is het volgende?

De explosie van ‘Model-as-a-Service (MaaS)’:

We zullen een toenemende vraag zien naar ‘Model-as-a-Service’-proposities, niet alleen horizontaal maar ook verticaal. Terwijl ‘OpenAI’ een goed voorbeeld is van ‘Horizontaal MaaS’, is Arya.ai een voorbeeld van verticaal ‘MaaS’. Met de ervaring van implementaties en datasets die Arya.ai heeft verzameld, kunnen we kritieke verticale datasets gebruiken om modellen te trainen en ze aan te bieden als plug-and-use- of voorgetrainde modellen.

Verticalisatie is het nieuwe horizontaal: We hebben deze trend gezien in ‘Cloud-adoptie’. Terwijl horizontale cloudspelers zich richten op ‘platforms-for-everyone’, richten verticale spelers zich op de behoeften van de eindgebruiker en bieden ze ze aan als een gespecialiseerde productlaag. Dit is ook waar voor MaaS-aanbod.

XAI en AI-governance zullen de norm worden in ondernemingen: Afhankelijk van de gevoeligheid van regelgevingen, zal elke verticale een acceptabele XAI- en governance-framework bereiken die als onderdeel van het ontwerp wordt geïmplementeerd, in tegenstelling tot nu, waar het als een add-on wordt behandeld.

Generatieve AI op tabulaire gegevens kan zijn hype-cycles zien in ondernemingen: Het creëren van synthetische datasets is vermoedelijk een van de eenvoudigste oplossingen om gegevensgerelateerde uitdagingen in ondernemingen op te lossen. Datawetenschapsteams zullen deze voorkeur geven, omdat het probleem onder hun controle ligt, in tegenstelling tot het vertrouwen op het bedrijf, dat tijd kan kosten, duur kan zijn en niet gegarandeerd alle stappen kan volgen bij het verzamelen van gegevens. Synthetische gegevens lossen biasproblemen, gegevensonevenwicht, gegevensprivacys- en onvoldoende gegevens op. Natuurlijk moet de effectiviteit van deze aanpak nog worden bewezen. Toch, met meer volwassenheid in nieuwe technieken zoals transformers, kunnen we meer experimenten zien met traditionele datasets zoals tabulair en multidimensionaal. Bij succes kan deze aanpak een enorme impact hebben op ondernemingen en MaaS-aanbod.

Is er nog iets dat u zou willen delen over Arya.ai?

De focus van Arya.ai ligt op het oplossen van ‘AI’ voor Banken, Verzekeraars en Financiële Dienstverleners. Onze aanpak is de verticalisatie van de technologie tot de laatste laag en het maken ervan tot een bruikbaar en acceptabel product voor elke organisatie en stakeholder.

AryaXAI (xai.arya.ai) zal een belangrijke rol spelen bij het leveren ervan aan de massa’s binnen de FSI-verticale. Onze lopende onderzoek naar synthetische gegevens is geslaagd in een handvol use cases, maar we streven ernaar om het een meer levensvatbare en acceptabele optie te maken. We zullen voortdurend meer lagen toevoegen aan onze ‘AI’-cloud om onze missie te dienen.

Ik denk dat we meer startups zullen zien zoals Arya.ai, niet alleen in de FSI-verticale maar in elke verticale.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Arya.ai bezoeken.