Vinay Kumar Sankarapu, mede-oprichter en CEO van Arya.ai – Interviewreeks

Vinay Kumar Sankarapu is de mede-oprichter en CEO van Arya.ai, een platform dat de ‘AI’-cloud aanbiedt voor banken, verzekeraars en financiële dienstverleners (BFSI) om de juiste AI-API’s, expert-AI-oplossingen en uitgebreide AI-governance-tools te vinden die nodig zijn om vertrouwbare en zelflerende AI-motoren te implementeren.

Uw achtergrond ligt in wiskunde, natuurkunde, scheikunde en mechanica, kunt u uw reis naar het overgangen naar informatica en AI bespreken?

Aan de IIT Bombay hebben we een ‘Dual Degree Program’ dat een 5-jarige cursus biedt om zowel de Bachelor of Technology als de Master of Technology te behalen. Ik heb mechanica gestudeerd met een specialisatie in ‘Computer Aided Design and Manufacturing’, waar informatica deel uitmaakt van ons curriculum. Voor ons postdoctoraal onderzoek koos ik ervoor om te werken aan Deep Learning. Terwijl ik begon met het gebruik van DL om een framework voor falen te bouwen voor continue fabricage, rondde ik mijn onderzoek af over het gebruik van CNN’s voor RUL-predictie. Dit was rond 2013/14.

U lanceerde Arya.ai nog tijdens uw studie, kunt u het verhaal achter deze startup delen?

Als onderdeel van ons academisch onderzoek moesten we 3-4 maanden besteden aan een literatuuronderzoek om een gedetailleerde studie te maken over het onderwerp van interesse, de reikwijdte van het werk dat tot nu toe was gedaan en wat een mogelijke focusgebied voor ons onderzoek zou kunnen zijn. Tijdens 2012/13 waren de tools die we gebruikten nogal basic. Zoekmachines zoals Google Scholar en Scopus deden alleen een trefwoordzoek. Het was echt moeilijk om de omvang van de kennis die beschikbaar was te begrijpen. Ik dacht dat dit probleem alleen maar erger zou worden. In 2013, denk ik dat er minstens 30+ papers per minuut werden gepubliceerd. Vandaag is dat minstens 10x-20x meer.

We wilden een ‘AI’-assistent bouwen zoals een ‘professor’ voor onderzoekers om hen te helpen een onderwerptitel te suggereren, een geschikt papier te vinden dat up-to-date is en alles rond STEM-onderzoek. Met onze ervaring in deep learning dachten we dat we dit probleem konden oplossen. In 2013 startten we Arya.ai met een team van 3, en dat breidde zich later uit tot 7 in 2014, terwijl ik nog steeds studeerde.

Onze eerste versie van het product was gebouwd door meer dan 30 miljoen papers en abstracts te scrapen. We gebruikten state-of-the-art-technieken in deep learning op dat moment om een AI-STEM-onderzoeksassistent en een contextuele zoekmachine voor STEM te bouwen. Maar toen we de AI-assistent aan een paar professoren en medestudenten lieten zien, realiseerden we ons dat we te vroeg waren. Conversatieflows waren beperkt, en gebruikers verwachtten een vrije flow en continue conversaties. Verwachtingen waren erg onrealistisch op dat moment (2014/15), zelfs als het complexe vragen beantwoordde.

Daarna hebben we ons onderzoek en focus verlegd naar ML-tools voor onderzoekers en bedrijven als een werkbank om deep learning te democratiseren. Maar opnieuw waren er in 2016 maar weinig datawetenschappers die DL gebruikten. Dus zijn we gestart met het verticaliseren ervan voor één verticale en hebben we ons gefocust op het bouwen van gespecialiseerde productlagen voor één verticale, namelijk Financiële Dienstverleners (FSI’s). We wisten dat dit zou werken omdat grote spelers proberen de horizontale markt te winnen, terwijl verticale spelers zich richten op de eisen van de eindgebruiker en deze aanbieden als een gespecialiseerde productlaag. Dit keer hadden we gelijk!

We bouwen de AI-cloud voor banken, verzekeraars en financiële dienstverleners met de meest gespecialiseerde verticale lagen om schaalbare en verantwoorde AI-oplossingen te leveren.

Hoe groot is het probleem van de AI-black box in de financiële sector?

Extreem belangrijk! Slechts 30% van de financiële instellingen gebruikt ‘AI’ tot zijn volle potentieel. Een van de redenen is de toegankelijkheid, een andere is het gebrek aan ‘AI’-vertrouwen en controleerbaarheid. Regels zijn nu duidelijk in een paar geografische gebieden over de juridische aspecten van het gebruik van AI voor lage, middelmatige en hoge-gevoelige use cases. Het is wettelijk verplicht in de EU om transparante modellen te gebruiken voor ‘hoge-risico’-use cases. Veel use cases in financiële instellingen zijn hoge-risico-use cases. Dus zijn ze verplicht om witte-doos-modellen te gebruiken.

Hype-cycli zijn ook aan het settelen vanwege vroege ervaringen met AI-oplossingen. Er zijn een groeiend aantal voorbeelden in recente tijden over de effecten van het gebruik van black box ‘AI’, falen van ‘AI’ vanwege het niet monitoren en uitdagingen met juridische en risicomanagers vanwege beperkte controleerbaarheid.

Kunt u het verschil tussen ML-monitoring en ML-observeerbaarheid bespreken?

 De taak van een monitoringtool is simpelweg om te monitoren en te alarmeren. En de taak van een observeerbaarheidstool is niet alleen om te monitoren en te rapporteren, maar vooral om voldoende bewijs te bieden om de redenen voor falen of voorspellen van falen over tijd te vinden.

In AI/ML spelen deze tools een kritieke rol. Terwijl deze tools de vereiste rollen of monitoring kunnen leveren, is de reikwijdte van ML-observeerbaarheid

Waarom zijn branche-specifieke platforms nodig voor ML-observeerbaarheid in plaats van algemene platforms?

Algemene platforms zijn ontworpen voor iedereen en elk use case, ongeacht de branche– elke gebruiker kan zich aanmelden en beginnen met het gebruik van het platform. De klanten van deze platforms zijn meestal ontwikkelaars, datawetenschappers, enz. De platforms creëren echter verschillende uitdagingen voor de stakeholders vanwege hun complexe aard en ‘one size fits all’-aanpak.

Helaas hebben de meeste bedrijven vandaag datawetenschappers nodig om algemene platforms te gebruiken en hebben ze extra oplossingen/productlagen nodig om deze modellen ‘bruikbaar’ te maken voor de eindgebruikers in elke verticale. Dit omvat controleerbaarheid, auditing, segmenten/scenario’s, human-in-the-loop-processen, feedbacklabeling, auditing, tool-specifieke pipelines, enz.

Dit is waar branche-specifieke AI-platforms een voordeel bieden. Een branche-specifiek AI-platform bezit de hele workflow om een gericht klantbehoeften of use cases op te lossen en is ontwikkeld om een complete product van einde tot einde te bieden, van het begrijpen van de bedrijfsbehoeften tot het monitoren van productprestaties. Er zijn veel branche-specifieke hindernissen, zoals regelgevings- en compliance-kaders, gegevensbeschermingsvereisten, audit- en controlevereisten, enz. Branche-specifieke AI-platforms en -aanbod versnellen AI-adoptie en verkorten de weg naar productie door de ontwikkelingstijd en de daarmee samenhangende risico’s in AI-uitrol te verminderen. Bovendien zal dit ook helpen om AI-deskundigheid in de branche samen te brengen als een productlaag die helpt om de acceptatie van ‘AI’ te verbeteren, compliance-inspanningen te stimuleren en gemeenschappelijke benaderingen voor ethiek, vertrouwen en reputatiekwesties te vinden.

Kunt u enkele details delen over het ML-observeerbaarheidsplatform dat door Arya.ai wordt aangeboden?

We hebben meer dan 6 jaar gewerkt in financiële dienstverleners. Sinds 2016. Dit gaf ons vroeg blootstelling aan unieke uitdagingen bij het implementeren van complexe AI in FSI’s. Een van de belangrijkste uitdagingen was ‘AI’-acceptatie. In tegenstelling tot in andere verticale markten, zijn er veel regels voor het gebruik van elke software (ook van toepassing op ‘AI’-oplossingen), gegevensbescherming, ethiek en vooral, het financiële effect op het bedrijf. Om deze uitdagingen op schaal aan te pakken, moesten we voortdurend nieuwe lagen van controleerbaarheid, auditing, gebruiksrisico’s en aansprakelijkheid toevoegen aan onze oplossingen – claimsverwerking, onderwriting, fraudebewaking, enz. In de loop van de tijd hebben we een acceptabel en schaalbaar ML-observeerbaarheidskader gemaakt voor verschillende stakeholders in de financiële dienstverlening.

We brengen nu een DIY-versie van het kader uit als AryaXAI (xai.arya.ai). Elke ML- of business-team kan AryaXAI gebruiken om een zeer uitgebreid AI-governance te maken voor mission-critical use cases. Het platform brengt transparantie en controleerbaarheid naar uw AI-oplossingen die acceptabel zijn voor elke stakeholder. AryaXAI maakt AI veiliger en acceptabeler voor mission-critical use cases door een betrouwbare en nauwkeurige controleerbaarheid te bieden, bewijs te bieden dat regulatorische due diligence kan ondersteunen, AI-onzekerheid te beheren door geavanceerde beleidscontroles te bieden en consistentie in productie te garanderen door gegevens- of modeldrift te monitoren en gebruikers te alarmeren met root cause-analyse.

AryaXAI fungeert ook als een gemeenschappelijke workflow en biedt inzichten die acceptabel zijn voor alle stakeholders – Data Science, IT, Risico, Operations en compliance-teams, waardoor de implementatie en onderhoud van AI/ML-modellen naadloos en rommelvrij worden.

Nog een oplossing die wordt aangeboden is een platform dat de toepasbaarheid van het ML-model verhoogt met contextuele beleidsimplementatie. Kunt u beschrijven wat dit specifiek is?

Het wordt moeilijk om ML-modellen in productie te monitoren en te controleren vanwege de grote hoeveelheid functies en voorspellingen. Bovendien maakt de onzekerheid van modelgedrag het moeilijk om governance, risico en compliance te beheren en te standaardiseren. Dergelijke falen van modellen kunnen leiden tot zware reputatie- en financiële verliezen.

AryaXAI biedt ‘Beleids-/risicobeheer’, een kritisch onderdeel dat bedrijfs- en ethische belangen beschermt door beleid op AI af te dwingen. Gebruikers kunnen gemakkelijk beleid toevoegen/wijzigen om beleidscontroles te beheren. Dit stelt cross-functionele teams in staat om beleidsrichtlijnen te definiëren om continue risicobeoordeling te garanderen, waardoor het bedrijf wordt beschermd tegen AI-onzekerheid.

Wat zijn enkele voorbeelden van use cases voor deze producten?

AryaXAI kan worden geïmplementeerd voor verschillende mission-critical processen in verschillende branches. De meest voorkomende voorbeelden zijn:

BFSI: In een omgeving van regelgevingsstrengheid maakt AryaXAI het voor de BFSI-branche gemakkelijk om aan te sluiten op vereisten en bewijs te verzamelen dat nodig is om risico’s te beheren en compliance te garanderen.

• Credit Underwriting voor beveiligde/onbeveiligde leningen
• Identificatie van fraude/suspecte transacties
• Audit
• Klantlevenscyclusbeheer
• Creditbeslissing

Autonome auto’s: Autonome voertuigen moeten zich houden aan regelgevingsstrengheid, operationele veiligheid en controleerbaarheid in real-time beslissingen. AryaXAI stelt u in staat om te begrijpen hoe het AI-systeem interacteert met het voertuig

• Beslisanalyse
• Autonome voertuigoperaties
• Voertuiggezondheidsgegevens
• AI-rijden systeem monitoren

Gezondheidszorg: AryaXAI biedt diepere inzichten vanuit medische, technologische, juridische en patiëntperspectieven. Vanaf geneesmiddelenontdekking tot fabricage, verkoop en marketing, Arya-xAI bevordert multidisciplinaire samenwerking

• Geneesmiddelenontdekking
• Klinisch onderzoek
• Clinical trial data validatie
• Hogere kwaliteit zorg

Wat is uw visie op de toekomst van machine learning in de financiële sector?

De afgelopen tien jaar is er een enorm onderwijs- en marketingcampagne geweest rondom ‘AI’. We hebben meerdere hype-cycli gezien in deze tijd. We zitten waarschijnlijk in de 4e of 6e hype-cyclus nu. De eerste was toen Deep Learning ImageNet won in 2011/12, gevolgd door werk rond beeld-/tekstclassificatie, spraakherkenning, autonome auto’s, generatieve AI en momenteel met grote taalmodellen. De kloof tussen de piek van de hype en het massale gebruik neemt af met elke hype-cyclus vanwege de iteraties rond het product, de vraag en de financiering.

Deze drie dingen zijn nu gebeurd:

1. Ik denk dat we het framework voor schaal voor AI-oplossingen hebben gekraakt, tenminste door enkele experts. Als voorbeeld is Open AI momenteel een non-revenu genererende organisatie, maar ze verwachten $1 miljard in omzet binnen 2 jaar. Hoewel niet elk AI-bedrijf een soortgelijke schaal kan bereiken, is het template van schaalbaarheid duidelijker.
2. De definitie van ideale AI-oplossingen is bijna duidelijk voor alle verticale markten: Anders dan eerder, toen het product werd gebouwd door middel van iteratieve experimenten voor elke use case en elke organisatie, zijn stakeholders steeds meer opgeleid om te begrijpen wat ze nodig hebben van AI-oplossingen.
3. Regelgevingen zijn nu aan het inhalen: De behoefte aan duidelijke regelgevingen rond gegevensbescherming en AI-gebruik krijgt nu grote aandacht. Regulerende instanties en overheidsinstanties zijn in staat om kaders te publiceren die nodig zijn voor het veilige, ethische en verantwoorde gebruik van AI.

Wat is het volgende?

De explosie van ‘Model-as-a-service (MaaS)’:

We zullen een toenemende vraag zien naar ‘Model-as-a-service’-aanbod, niet alleen horizontaal maar ook verticaal. Terwijl ‘OpenAI’ een goed voorbeeld is van ‘Horizontaal MaaS’, is Arya.ai een voorbeeld van verticale ‘MaaS’. Met de ervaring van implementaties en datasets heeft Arya.ai kritieke verticale datasets verzameld die worden gebruikt om modellen te trainen en deze aan te bieden als plug-and-use of vooraf getrainde modellen.

Verticalisatie is het nieuwe horizontaal: We hebben deze trend gezien in ‘Cloud-adoptie’. Terwijl horizontale cloudspelers zich richten op ‘platforms-for-everyone’, richten verticale spelers zich op de eisen van de eindgebruiker en bieden deze aan als een gespecialiseerde productlaag. Dit is ook waar voor MaaS-aanbod.

XAI en AI-governance zullen de norm worden in bedrijven: Afhankelijk van de gevoeligheid van regelgevingen, zal elke verticale markt een acceptabel XAI- en governance-kader bereiken dat zal worden geïmplementeerd als onderdeel van het ontwerp, in tegenstelling tot nu, waar het als een add-on wordt behandeld.

Generatieve AI op tabulair gegevens kan hype-cycli zien in bedrijven: Het creëren van synthetische datasets is vermoedelijk een van de eenvoudigste oplossingen om gegevensgerelateerde uitdagingen in bedrijven op te lossen. Datawetenschapsteams zullen dit waarschijnlijk erg waarderen, omdat het probleem onder hun controle ligt, in tegenstelling tot het vertrouwen op het bedrijf, dat tijd kan kosten, duur kan zijn en niet gegarandeerd alle stappen zal volgen bij het verzamelen van gegevens. Synthetische gegevens lossen bias-problemen op, gegevensonevenwichtigheid, gegevensbescherming en onvoldoende gegevens. Natuurlijk moet de effectiviteit van deze benadering nog worden bewezen. Echter, met meer volwassenheid in nieuwe technieken zoals transformers, kunnen we meer experimenten zien op traditionele datasets zoals tabulair en multidimensionaal gegevens. Als deze aanpak succesvol is, kan het een enorme impact hebben op bedrijven en MaaS-aanbod.

Is er nog iets anders dat u zou willen delen over Arya.ai?

Het focusgebied van Arya.ai is het oplossen van ‘AI’ voor banken, verzekeraars en financiële dienstverleners. Onze aanpak is de verticalisatie van de technologie tot de laatste laag en het maken ervan bruikbaar en acceptabel voor elke organisatie en stakeholder.

AryaXAI (xai.arya.ai) zal een belangrijke rol spelen bij het leveren ervan aan de massa’s binnen de FSI-verticale markt. Onze lopende onderzoek naar synthetische gegevens is geslaagd in een handvol use cases, maar we streven ernaar om het een meer viabiliteit en acceptatie te geven. We zullen doorgaan met het toevoegen van meer lagen aan onze ‘AI’-cloud om onze missie te dienen.

Ik denk dat we meer startups zullen zien zoals Arya.ai, niet alleen in de FSI-verticale markt maar in elke verticale markt.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken Arya.ai.