Vinay Kumar Sankarapu, spoluzakladatel a CEO společnosti Arya.ai – rozhovor

Vinay Kumar Sankarapu je spoluzakladatel a CEO společnosti Arya.ai, platformy, která nabízí „AI“ cloud pro banky, pojišťovny a finanční instituce (BFSI), aby našly správné AI API, odborná AI řešení a komplexní nástroje pro správu AI, které jsou nezbytné pro nasazení důvěryhodných a samočinných AI motorů.

Vaše pozadí je v matematice, fyzice, chemii a strojírenství, můžete diskutovat o své cestě k přechodu na počítačovou vědu a AI?

Na IIT Bombay máme „Dual Degree Program“, který poskytuje 5letý kurz, který pokrývá obě bakalářské a magisterské studium. Studoval jsem strojírenství se specializací na „Computer Aided Design and Manufacturing“, kde je počítačová věda součástí našeho kurikula. Pro naše postgraduální výzkum jsem si zvolil práci na Deep Learning. Zatímco jsem začal používat DL k vybudování rámce pro předpověď selhání pro nepřetržitou výrobu, dokončil jsem svůj výzkum na použití CNN pro předpověď zbytkové životnosti. To bylo kolem roku 2013/14.

Spuštění Arya.ai jste spustili ještě během studia, můžete sdílet příběh o vzniku této startupu?

Jako součást akademického výzkumu jsme museli strávit 3-4 měsíce na literární přehled, abychom vytvořili podrobnou studii na téma zájmu, rozsah práce, který byl dosud proveden, a co by mohlo být možným zaměřením našeho výzkumu. Během roku 2012/13 byly nástroje, které jsme používali, quite základní. Vyhledávače jako Google Scholar a Scopus prováděly pouze vyhledávání podle klíčových slov. Bylo opravdu těžké pochopit objem znalostí, který byl k dispozici. Domníval jsem se, že tento problém bude pouze horší. V roce 2013 jsem si myslel, že alespoň 30+ článků bylo publikováno každou minutu. Dnes je to alespoň 10x-20x více.

Chtěli jsme vybudovat „AI“ asistenta jako „profesora“ pro výzkumníky, aby jim pomohl navrhnout téma výzkumu, najít vhodný článek, který je nejaktuálnější, a cokoliv kolem STEM výzkumu. S naší zkušeností s hlubokým učením jsme si mysleli, že můžeme vyřešit tento problém. V roce 2013 jsme spustili Arya.ai s týmem 3 lidí a poté se rozšířili na 7 lidí v roce 2014, zatímco jsem byl stále ve škole.

Naše první verze produktu byla postavena na základě vyhledání více než 30 milionů článků a abstraktů. Použili jsme nejmodernější techniky hlubokého učení v té době, abychom vyvinuli AI STEM výzkumného asistenta a kontextový vyhledávač pro STEM. Ale když jsme ukázali AI asistenta několika profesorům a kolegům, uvědomili jsme si, že jsme příliš brzy. Konverzační toky byly omezené a uživatelé očekávali volný tok a nepřetržité konverzace. Očekávání byla velmi nerealistická v té době (2014/15), i když odpovídal na komplexní otázky.

Po tomto jsme se otočili a zaměřili na ML nástroje pro výzkumníky a podniky jako pracovní stůl, abychom demokratizovali hluboké učení. Ale opět, velmi málo datových vědců používalo DL v roce 2016. Proto jsme se začali vertikalizovat pro jednu vertikálu a zaměřili se na vybudování specializovaných produktových vrstev pro jednu vertikálu, tj. Finanční služby institucí (FSI). Věděli jsme, že to bude fungovat, protože zatímco velké hráči se snaží vyhrát horizontální hru, vertikální hráči se zaměřují na potřeby koncových uživatelů a poskytují jim jako specializovanou produktovou vrstvu. Tentokrát jsme byli správní!

Budujeme AI cloud pro banky, pojišťovny a finanční instituce s nejvíce specializovanými vertikálními vrstvami, abychom dodali škálovatelná a zodpovědná AI řešení.

Jak velký problém je „AI black box“ v financích?

Velmi důležitý! Pouze 30% finančních institucí používá „AI“ na plný potenciál. Zatímco jedním z důvodů je dostupnost, dalším je nedostatek „AI“ důvěry a auditability. Regulace jsou nyní jasné v několika geografiích ohledně právních aspektů používání AI pro nízké, střední a vysoce citlivé použití. Je vyžadováno zákonem v EU používat transparentní modely pro „high-risk“ použití. Mnoho použití v finančních institucích jsou high-risk použití. Proto jsou povinny používat white-box modely.

Hype cykly se také uklidňují kvůli raným zkušenostem s AI řešeními. Existuje rostoucí počet příkladů v nedávné době o účincích používání „AI“, selhání „AI“ kvůli nedostatečnému monitorování a výzvám s právními a rizika manažery kvůli omezené auditability.

Můžete diskutovat o rozdílu mezi ML monitoringem a ML observability?

 Úkolem monitorovacího nástroje je jednoduše monitorovat a upozornit. A úkolem nástroje pro observability je nejen monitorovat a hlásit, ale především poskytnout dostatečné důkazy pro nalezení důvodů selhání nebo předpovědět tato selhání v průběhu času.

V AI/ML tyto nástroje hrají kritickou roli. Zatímco tyto nástroje mohou dodat požadované role nebo monitoring, rozsah ML observability

Proč jsou potřebné průmyslově specifické platformy pro ML observability místo obecných platforem?

Obecné platformy jsou navrženy pro každého a každé použití, bez ohledu na průmysl – každý uživatel může přejít na platformu a začít ji používat. Zákazníky těchto platforem jsou obvykle vývojáři, datoví vědci atd. Platformy však vytvářejí několik výzev pro zúčastněné strany kvůli jejich komplexní povaze a „one size fits all“ přístupu.

Bohužel většina podniků dnes vyžaduje datové vědecké odborníky, aby používali obecné platformy, a potřebují další řešení/produktové vrstvy, aby tyto modely učinily „použitelnými“ koncovými uživateli v jakékoli vertikále. To zahrnuje vysvětlitelnost, audity, segmenty/scénáře, lidský proces ve smyčce, zpětnou vazbu, označení, audity, nástrojově specifické potrubí atd.

To je místo, kde průmyslově specifické AI platformy přicházejí jako výhoda. Průmyslově specifická AI platforma vlastní celý pracovní postup pro řešení cílené potřeby zákazníka nebo použití a je vyvinuta tak, aby poskytovala kompletní produkt od začátku do konce, od pochopení obchodních potřeb až po monitorování produktového výkonu. Existuje mnoho průmyslově specifických překážek, jako jsou regulační a dodržovací rámce, požadavky na ochranu dat, požadavky na audit a kontrolu atd. Průmyslově specifické AI platformy a nabídky urychlují přijetí AI a zkracují cestu k produkci snížením času vývoje a souvisejících rizik v AI nasazení. Navíc to také pomůže spojit AI odborníky v průmyslu jako produktovou vrstvu, která pomáhá zlepšit přijetí „AI“, pohánět úsilí o dodržování předpisů a najít společné přístupy k etice, důvěře a reputačním obavám.

Můžete sdílet některé podrobnosti o ML Observability platformě, která je nabízena společností Arya.ai?

Pracovali jsme ve finančních službách institucích více než 6 let. Od roku 2016. To nám poskytlo ranou expozici unikátním výzvám při nasazení komplexního AI ve FSIs. Jednou z důležitých výzev byla „AI“ akceptace. Na rozdíl od jiných vertikál existuje mnoho předpisů pro používání softwaru (také aplikovatelného pro „AI“ řešení), ochrany dat, etiky a nejvíce důležitě, finančního dopadu na podnik. Abychom řešili tyto výzvy v měřítku, museli jsme neustále vynalézat a přidávat nové vrstvy vysvětlitelnosti, auditu, rizik a odpovědnosti na naše řešení – zpracování pojistných nároků, podávání, monitorování podvodů atd. V průběhu času jsme vytvořili akceptovatelný a škálovatelný ML Observability rámec pro různé zúčastněné strany ve finančních službách.

Nyní vydáváme DIY verzi tohoto rámce jako AryaXAI (xai.arya.ai). Jakékoli ML nebo obchodní týmy mohou použít AryaXAI k vytvoření vysoce komplexní AI Governance pro kritické použití. Platforma přináší transparentnost a auditabilitu vašim AI řešením, které jsou akceptovatelné pro každého zúčastněného. AryaXAI dělá AI bezpečnější a akceptovatelnější pro kritické použití, poskytující spolehlivou a přesnou vysvětlitelnost, nabízející důkazy, které mohou podporovat regulační důkladnost, spravující AI nejistotu poskytováním pokročilých zásad řízení a zajišťující konzistenci v produkci monitorováním dat nebo modelového posunu a upozorňováním uživatelů s analýzou příčiny.

AryaXAI také funguje jako společný pracovní postup a poskytuje přehledy akceptovatelné pro všechny zúčastněné – datové vědecké týmy, IT, rizika, operace a compliance týmy, činící nasazení a údržbu AI/ML modelů bezproblémovými a bez zbytečných věcí.

Jedna z dalších nabízených řešení je platforma, která zvyšuje použitelnost ML modelu s kontextuální implementací politiky. Můžete popsat, co to je přesně?

Stává se obtížným monitorovat a kontrolovat ML modely v produkci, kvůli obrovskému objemu funkcí a předpovědí. Kromě toho nejistota modelového chování činí obtížným spravovat a standardizovat governance, rizika a compliance. Taková selhání modelů mohou vést k těžkým reputačním a finančním ztrátám.

AryaXAI nabízí „Policy/Risk kontroly“, kritickou součást, která zachovává obchodní a etické zájmy tím, že vynucuje politiky na AI. Uživatelé mohou snadno přidat/upravit/změnit politiky, aby spravovali politické kontroly. To umožňuje cross-funkčním týmům definovat politické zábrany, aby zajistily nepřetržitou rizikovou evaluaci, chránící podnik před AI nejistotou.

Jaké jsou některé příklady použití pro tyto produkty?

AryaXAI lze implementovat pro různé kritické procesy napříč průmysly. Nejčastějšími příklady jsou:

BFSI: V prostředí regulační přísnosti AryaXAI usnadňuje BFSI průmyslu sladit požadavky a shromažďovat důkazy potřebné pro řízení rizik a zajištění compliance.

• Přijímání úvěrů pro zajištěné/nезajištěné půjčky
• Identifikace podvodů/podezřelých transakcí
• Audit
• Správa zákaznického životního cyklu
• Úvěrové rozhodování

Autonomní vozidla: Autonomní vozidla musí dodržovat regulační přísnost, provozní bezpečnost a vysvětlitelnost v reálném čase. AryaXAI umožňuje porozumět, jak AI systém interaguje s vozidlem

• Analýza rozhodnutí
• Autonomní vozidlové operace
• Data o vozidlovém zdraví
• Monitorování AI řídícího systému

Zdravotnictví: AryaXAI poskytuje hlubší přehledy z medicínského, technologického, právního a pacientského hlediska. Od objevu léků po výrobu, prodej a marketing, Arya-xAI podporuje multidisciplinární spolupráci

• Objev léků
• Klinický výzkum
• Validace klinických testů
• Vyšší kvalita péče

Co je váš výhled do budoucna pro strojové učení v financích?

Posledních deset let bylo obrovské vzdělávání a marketingové úsilí kolem „AI“. Viděli jsme několik hype cyklů během tohoto času. Pravděpodobně bychom byli u 4. nebo 6. hype cyklu nyní. První je, když Deep Learning vyhrál ImageNet v roce 2011/12, následované prací kolem image/text klasifikace, rozpoznání řeči, autonomních vozidel, generativního AI a nyní s velkými jazykovými modely. Mezera mezi vrcholem hype a masivním použitím se snižuje s každým hype cyklem kvůli iteracím kolem produktu, poptávky a financování.

Tyto tři věci se již staly:

1. Domnívám se, že jsme rozlomili rámec škálovatelnosti pro AI řešení, alespoň pro několik odborníků. Příklad: Open AI je v současné době nezisková organizace, ale projektují, že budou mít 1 miliardu dolarů v příjmu do 2 let. Zatímco ne každá AI společnost může dosáhnout podobné škálovatelnosti, šablona škálovatelnosti je jasnější.
2. Definice ideálních AI řešení je téměř jasná pro všechny vertikály: Na rozdíl od dřívějších časů, kdy byl produkt postaven prostřednictvím iterativních experimentů pro každé použití a každou organizaci, zúčastněné strany jsou stále více vzdělané, aby pochopily, co potřebují od AI řešení.
3. Regulace nyní dohánějí: Potřebu jasných předpisů kolem ochrany dat a používání AI nyní získává velkou trakci. Regulační a řídící orgány jsou schopny publikovat nebo jsou v procesu publikování rámců vyžadovaných pro bezpečné, etické a zodpovědné používání AI.

Co je dál?

Exploze „Model-as-a-service (MaaS)“:

Budeme svědky rostoucí poptávky po „Model-as-a-service“ nabídkách nejen horizontálně, ale i vertikálně. Zatímco „OpenAI“ reprezentuje dobrý příklad horizontálního MaaS, Arya.ai je příkladem vertikálního MaaS. S naší zkušeností s nasazením a datovými sadami Arya.ai shromáždil kritické vertikální datové sady, které jsou využity k výcviku modelů a poskytují je jako plug-and-use nebo předtrénované modely.

Vertikalizace je nový horizont: Viděli jsme tento trend v „Cloud adopci“. Zatímco horizontální cloudoví hráči se zaměřují na „platformy pro každého“, vertikální hráči se zaměřují na potřeby koncových uživatelů a poskytují jim jako specializovanou produktovou vrstvu. To je pravda i pro MaaS nabídky.

XAI a AI governance se stanou normou v podnicích: V závislosti na citlivosti předpisů každá vertikála dosáhne akceptovatelného XAI a governance rámce, který bude implementován jako součást designu, na rozdíl od dneška, kdy je považován za doplněk.

Generativní AI na tabulárních datech může vidět své hype cykly v podnicích: Vytvoření syntetických datových sad je údajně jednou z snadno implementovatelných řešení pro řešení datových výzev v podnicích. Týmy datových vědců by tuto možnost velmi uvítaly, protože problém je v jejich rukou, na rozdíl od spoléhání se na podnik, který může trvat déle, být nákladný a nemusí dodržovat všechny kroky při shromažďování dat. Syntetická data řeší problémy s předpojatostí, nerovnováhou dat, ochranou dat a nedostatečnými daty. Samozřejmě, účinnost tohoto přístupu je ještě třeba prokázat. Nicméně s větší zralostí v nových technikách, jako jsou transformátory, můžeme vidět více experimentů na tradičních datech, jako jsou tabulární a vícedimenzionální data. V případě úspěchu může tento přístup mít obrovský dopad na podniky a MaaS nabídky.

Je něco jiného, co byste chtěli sdílet o Arya.ai?

Zaměření Arya.ai je na řešení „AI“ pro banky, pojišťovny a finanční služby. Naším přístupem je vertikalizace technologie až do poslední vrstvy a činění ji použitelnou a akceptovatelnou pro každou organizaci a zúčastněného.

AryaXAI (xai.arya.ai) bude hrát důležitou roli v dodání toho masám v rámci FSI vertikály. Naše probíhající výzkum na syntetických datech se podařilo v několika případech, ale cílem je učinit ji více životaschopnou a akceptovatelnou možností. Budeme pokračovat v přidávání dalších vrstev do našeho „AI“ cloudu, abychom sloužili naší misi.

Domnívám se, že uvidíme více startupů, jako je Arya.ai, nejen ve FSI vertikále, ale ve všech vertikálách.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Arya.ai.