Vinay Kumar Sankarapu, Co-Founder & CEO von Arya.ai – Interview-Serie

Vinay Kumar Sankarapu ist der Co-Founder & CEO von Arya.ai, einer Plattform, die den “AI”-Cloud für Banken, Versicherer und Finanzdienstleistungsunternehmen (BFSI) anbietet, um die richtigen AI-APIs, Experten-AI-Lösungen und umfassende AI-Governance-Tools zu finden, die erforderlich sind, um vertrauenswürdige und selbstlernende AI-Engines zu deployen.

Ihr Hintergrund liegt in Mathematik, Physik, Chemie und Maschinenbau, können Sie über Ihre Reise zur Übergang in die Informatik und KI sprechen?

An der IIT Bombay gibt es ein “Dual Degree Program”, das einen 5-jährigen Kurs bietet, um sowohl den Bachelor of Technology als auch den Master of Technology abzuschließen. Ich habe Maschinenbau mit einer Spezialisierung in “Computer Aided Design and Manufacturing” studiert, wobei Informatik Teil unseres Curriculums war. Für unsere Postgraduierten-Forschung wählte ich die Arbeit an Deep Learning. Während ich zunächst DL verwendete, um ein Fehlervorhersagemodell für kontinuierliche Fertigung zu erstellen, beendete ich meine Forschung über die Verwendung von CNNs für RUL-Vorhersage. Das war etwa 2013/14.

Sie haben Arya.ai noch während des Studiums gegründet, können Sie die Genesis-Geschichte hinter diesem Startup teilen?

Im Rahmen der akademischen Forschung mussten wir 3-4 Monate für eine Literaturrecherche aufwenden, um eine detaillierte Studie über das Thema von Interesse zu erstellen, den Umfang der bisherigen Arbeit und was ein möglicher Schwerpunkt für unsere Forschung sein könnte. Während des Jahres 2012/13 waren die von uns verwendeten Tools ziemlich grundlegend. Suchmaschinen wie Google Scholar und Scopus führten nur eine Schlüsselwort-Suche durch. Es war wirklich schwierig, das Volumen des verfügbaren Wissens zu verstehen. Ich dachte, dass dieses Problem nur schlimmer werden würde. 2013 wurden mindestens 30+ Papier pro Minute veröffentlicht. Heute ist das mindestens 10x-20x mehr.

Wir wollten einen “AI”-Assistenten wie einen “Professor” für Forscher bauen, um ihnen zu helfen, ein Forschungsthema vorzuschlagen, ein geeignetes Papier zu finden, das am aktuellen ist, und alles rund um die STEM-Forschung. Mit unserer Erfahrung in Deep Learning dachten wir, wir könnten dieses Problem lösen. 2013 starteten wir Arya.ai mit einem Team von 3 und erweiterten es 2014 auf 7, während ich noch im Studium war.

Unsere erste Version des Produkts wurde durch das Scraping von mehr als 30 Millionen Papieren und Abstracts erstellt. Wir verwendeten die State-of-the-Art-Techniken in Deep Learning, um einen AI-STEM-Forschungsassistenten und eine kontextuelle Suchmaschine für STEM zu bauen. Aber als wir den AI-Assistenten einigen Professoren und Kommilitonen vorstellten, erkannten wir, dass wir zu früh dran waren. Konversationen waren begrenzt und Benutzer erwarteten einen freien Fluss und kontinuierliche Konversationen. Die Erwartungen waren sehr unrealistisch zu dieser Zeit (2014/15), obwohl es komplexe Fragen beantwortete.

Danach änderten wir unsere Strategie und konzentrierten uns auf ML-Tools für Forscher und Unternehmen als Arbeitsplatz, um Deep Learning zu demokratisieren. Aber auch 2016 verwendeten nur wenige Data Scientists DL. Also begannen wir, es für eine vertikale Ebene zu spezialisieren und bauten spezielle Produktlayer für eine vertikale Ebene, nämlich Finanzdienstleistungsunternehmen (FSIs). Wir wussten, dass dies funktionieren würde, weil große Spieler versuchen, die horizontale Ebene zu gewinnen, während eine Vertikalierung ein großes Unique Selling Point (USP) für Startups schaffen kann. Diesmal hatten wir Recht!

Wir bauen den AI-Cloud für Banken, Versicherer und Finanzdienstleistungsunternehmen mit den speziellsten vertikalen Layern, um skalierbare und verantwortungsvolle AI-Lösungen zu liefern.

Wie groß ist das Problem des AI-Black-Box-Problems in der Finanzbranche?

Extrem wichtig! Nur 30% der Finanzinstitute nutzen “AI” in vollem Umfang. Während ein Grund dafür die Zugänglichkeit ist, ist ein weiterer Grund der Mangel an “AI”-Vertrauen und Prüfbarkeit. Die Regulierungen sind nun in einigen Geografien klar, was die Rechtslage beim Einsatz von AI für Low-, Medium- und High-Sensitive-Anwendungsfälle betrifft. Es ist vorgeschrieben, in der EU transparente Modelle für “hochrisikoreiche” Anwendungsfälle zu verwenden. Viele Anwendungsfälle in Finanzinstituten sind hochrisikoreiche Anwendungsfälle. Daher müssen sie white-box-Modelle verwenden.

Hype-Zyklen beruhigen sich auch, weil die frühen Erfahrungen mit AI-Lösungen vorliegen. Es gibt eine wachsende Anzahl von Beispielen in jüngster Zeit über die Auswirkungen des Einsatzes von Black-Box-“AI”, des Scheiterns von “AI” aufgrund mangelnder Überwachung und Herausforderungen mit Rechts- und Risikomanagern aufgrund begrenzter Prüfbarkeit.

Können Sie den Unterschied zwischen ML-Überwachung und ML-Beobachtbarkeit erläutern?

 Die Aufgabe eines Überwachungstools ist einfach, zu überwachen und zu alarmieren. Und die Aufgabe eines Beobachtbarkeitstools ist nicht nur, zu überwachen und zu berichten, sondern vor allem, genügend Beweise zu liefern, um die Gründe für das Scheitern oder die Vorhersage von Fehlern über die Zeit zu finden.

In AI/ML spielen diese Tools eine entscheidende Rolle. Während diese Tools die erforderlichen Rollen oder Überwachungsaufgaben erfüllen können, ist der Umfang der ML-Beobachtbarkeit

Warum sind branchenspezifische Plattformen für ML-Beobachtbarkeit erforderlich und nicht allgemeine Plattformen?

Allgemeine Plattformen sind für jeden und jeden Anwendungsfall konzipiert, unabhängig von der Branche – jeder Benutzer kann sich anmelden und die Plattform nutzen. Die Kunden dieser Plattformen sind in der Regel Entwickler, Data Scientists usw. Die Plattformen schaffen jedoch mehrere Herausforderungen für die Stakeholder aufgrund ihrer komplexen Natur und des “One-Size-Fits-All”-Ansatzes.

Leider benötigen die meisten Unternehmen heute Data-Science-Experten, um allgemeine Plattformen zu nutzen, und benötigen zusätzliche Lösungen/Produktlayer, um diese Modelle “nutzbar” für die Endbenutzer in jeder vertikalen Ebene zu machen. Dazu gehören Erklärbarkeit, Prüfung, Segmente/Szenarien, Human-in-the-Loop-Prozesse, Feedback-Kennzeichnung, Prüfung, Tool-spezifische Pipelines usw.

Hier kommen branchenspezifische AI-Plattformen als Vorteil ins Spiel. Eine branchenspezifische AI-Plattform besitzt den gesamten Workflow, um die Bedürfnisse oder Anwendungsfälle eines Zielkunden zu lösen, und wird entwickelt, um ein komplettes Produkt von Anfang bis Ende bereitzustellen, von der Erfassung der Geschäftsanforderungen bis zur Überwachung der Produktleistung. Es gibt viele branchenspezifische Hürden, wie regulatorische und Compliance-Rahmen, Datenschutzanforderungen, Prüf- und Kontrollanforderungen usw. Branchenspezifische AI-Plattformen und Angebote beschleunigen die AI-Adoption und verkürzen den Weg zur Produktion, indem sie die Entwicklungszeit und die damit verbundenen Risiken bei der AI-Einführung reduzieren. Darüber hinaus hilft dies auch, AI-Expertenwissen in der Branche als Produktlayer zu bündeln, um die Akzeptanz von “AI” zu verbessern, Compliance-Bemühungen voranzutreiben und gemeinsame Ansätze zu Ethik, Vertrauen und Rufbedenken zu finden.

Können Sie einige Details über die ML-Beobachtbarkeitsplattform teilen, die von Arya.ai angeboten wird?

Wir haben mehr als 6 Jahre in Finanzdienstleistungsunternehmen gearbeitet. Seit 2016. Dies gab uns eine frühe Einsicht in die einzigartigen Herausforderungen bei der Bereitstellung komplexer AI in FSIs. Eine der wichtigsten Herausforderungen war “AI-Akzeptanz”. Im Gegensatz zu anderen vertikalen Ebenen gibt es in der Finanzbranche viele Regulierungen für die Verwendung von Software (auch für “AI”-Lösungen), Datenschutz, Ethik und vor allem den finanziellen Einfluss auf das Geschäft. Um diese Herausforderungen im großen Maßstab zu bewältigen, mussten wir kontinuierlich neue Schichten von Erklärbarkeit, Prüfung, Nutzungsrisiken und Rechenschaftspflicht auf unsere Lösungen aufbauen – Schadensabwicklung, Underwriting, Betrugsüberwachung usw. Im Laufe der Zeit haben wir ein akzeptables und skalierbares ML-Beobachtbarkeitsframework für verschiedene Stakeholder in der Finanzdienstleistungsbranche erstellt.

Wir veröffentlichen nun eine DIY-Version des Frameworks als AryaXAI (xai.arya.ai). Jedes ML- oder Geschäftsteam kann AryaXAI verwenden, um eine umfassende AI-Governance für mission-kritische Anwendungsfälle zu erstellen. Die Plattform bringt Transparenz und Prüfbarkeit zu Ihren AI-Lösungen, die für jeden Stakeholder akzeptabel sind. AryaXAI macht AI sicherer und akzeptabler für mission-kritische Anwendungsfälle, indem es eine zuverlässige und genaue Erklärbarkeit bietet, Beweise liefert, die regulatorische Sorgfaltspflicht unterstützen, AI-Uncertainty durch erweiterte Richtlinienkontrollen managt und Konsistenz in der Produktion durch Überwachung von Daten- oder Modell-Drift und Alarmierung der Benutzer mit Root-Cause-Analyse gewährleistet.

AryaXAI fungiert auch als gemeinsamer Workflow und liefert Erkenntnisse, die für alle Stakeholder – Data-Science-, IT-, Risiko-, Betriebs- und Compliance-Teams – akzeptabel sind, wodurch die Einführung und Wartung von AI/ML-Modellen reibungslos und unkompliziert wird.

Ein weiteres Angebot ist eine Plattform, die die Anwendbarkeit des ML-Modells mit kontextueller Richtlinienimplementierung verbessert. Können Sie beschreiben, was dies speziell ist?

Es ist schwierig, ML-Modelle in der Produktion zu überwachen und zu steuern, aufgrund der enormen Menge an Funktionen und Vorhersagen. Darüber hinaus macht die Unsicherheit des Modellverhaltens es schwierig, Governance, Risiko und Compliance zu managen und zu standardisieren. Solche Ausfälle von Modellen können zu schwerwiegenden Ruf- und finanziellen Verlusten führen.

AryaXAI bietet “Richtlinien-/Risikokontrollen” an, ein kritischer Bestandteil, der geschäftliche und ethische Interessen schützt, indem es Richtlinien auf AI erzwingt. Benutzer können leicht Richtlinien hinzufügen/bearbeiten/ändern, um Richtlinienkontrollen zu verwalten. Dies ermöglicht es cross-funktionellen Teams, Richtlinien-Schranken zu definieren, um eine kontinuierliche Risikobewertung zu gewährleisten und das Geschäft vor AI-Uncertainty zu schützen.

Welche Beispiele für Anwendungsfälle gibt es für diese Produkte?

AryaXAI kann für verschiedene mission-kritische Prozesse in verschiedenen Branchen implementiert werden. Die häufigsten Beispiele sind:

BFSI: In einer Umgebung mit strengen Regulierungen macht AryaXAI es der BFSI-Branche leicht, Anforderungen zu erfüllen und Beweise zu sammeln, um Risiken zu managen und Compliance zu gewährleisten.

• Kreditvergabe für gesicherte/ungesicherte Kredite
• Identifizierung von Betrug/verdächtigen Transaktionen
• Prüfung
• Kundenlebenszyklus-Management
• Kreditentscheidung

Autonome Fahrzeuge: Autonome Fahrzeuge müssen regulatorischen Anforderungen, Betriebssicherheit und Erklärbarkeit in Echtzeit entsprechen. AryaXAI ermöglicht ein Verständnis, wie das AI-System mit dem Fahrzeug interagiert

• Entscheidungsanalyse
• Autonome Fahrzeugoperationen
• Fahrzeuggesundheitsdaten
• Überwachung des AI-Fahrzeugsystems

Gesundheitswesen: AryaXAI bietet tiefere Einblicke aus medizinischer, technischer, rechtlicher und patientenbezogener Perspektive. Von der Arzneimittelentwicklung bis zur Herstellung, dem Vertrieb und Marketing fördert Arya-xAI die interdisziplinäre Zusammenarbeit

• Arzneimittelentwicklung
• Klinische Forschung
• Klinische Studien-Datavalidierung
• Bessere Pflege

Was ist Ihre Vision für die Zukunft von Machine Learning in der Finanzbranche?

In den letzten zehn Jahren gab es eine enorme Bildung und Marketing-Aktivitäten rund um “AI”. Wir haben mehrere Hype-Zyklen in dieser Zeit gesehen. Wir befinden uns wahrscheinlich im 4. oder 6. Hype-Zyklus. Der erste Zyklus begann, als Deep Learning den ImageNet-Wettbewerb 2011/12 gewann, gefolgt von Arbeiten zur Bild-/Textklassifizierung, Spracherkennung, autonomen Fahrzeugen, generativer AI und aktuell mit großen Sprachmodellen. Die Lücke zwischen dem Höhepunkt des Hypes und der breiten Nutzung verringert sich mit jedem Hype-Zyklus aufgrund der Iterationen um das Produkt, die Nachfrage und die Finanzierung.

Drei Dinge sind nun passiert:

1. Ich denke, wir haben das Framework für die Skalierung von AI-Lösungen geknackt, zumindest von einigen Experten. Beispielsweise ist Open AI derzeit ein nicht-gewinnorientiertes Unternehmen, aber sie projizieren, innerhalb von zwei Jahren 1 Milliarde US-Dollar Umsatz zu erzielen. Während nicht jedes AI-Unternehmen ein ähnliches Wachstum erreichen wird, ist das Skalierungsmodell nun klarer.
2. Die Definition idealer AI-Lösungen ist fast klar für alle vertikalen Ebenen: Im Gegensatz zu früher, als das Produkt durch iterative Experimente für jeden Anwendungsfall und jedes Unternehmen aufgebaut wurde, sind die Stakeholder zunehmend gebildet, um zu verstehen, was sie von AI-Lösungen benötigen.
3. Regulierungen holen nun auf: Die Notwendigkeit klarer Regulierungen rund um Datenschutz und AI-Nutzung gewinnt nun großen Zugang. Regierungs- und Regulierungsbehörden sind in der Lage, Rahmenbedingungen zu veröffentlichen oder zu veröffentlichen, die für die sichere, ethische und verantwortungsvolle Nutzung von AI erforderlich sind.

Was kommt als Nächstes?

Die Explosion von “Model-as-a-Service (MaaS)”:

Wir werden eine zunehmende Nachfrage nach “Model-as-a-Service”-Angeboten sehen, nicht nur horizontal, sondern auch vertikal. Während “OpenAI” ein gutes Beispiel für horizontales MaaS ist, ist Arya.ai ein Beispiel für vertikales MaaS. Mit der Erfahrung von Deployments und Datensätzen hat Arya.ai kritische vertikale Datensätze gesammelt, die für die Schulung von Modellen und die Bereitstellung als Plug-and-Use- oder vorgefertigte Modelle verwendet werden.

Vertikalierung ist das neue Horizontale: Wir haben diesen Trend bei der “Cloud-Adoption” gesehen. Während horizontale Cloud-Spieler sich auf “Plattformen für jeden” konzentrieren, konzentrieren sich vertikale Spieler auf die Anforderungen der Endbenutzer und bieten sie als spezialisierte Produktlayer an. Dies gilt auch für MaaS-Angebote.

XAI und AI-Governance werden in Unternehmen zur Norm: Abhängig von der Sensibilität der Regulierungen wird jede vertikale Ebene ein akzeptables XAI- und Governance-Framework erreichen, das als Teil des Designs implementiert wird, im Gegensatz zu heute, wo es als Add-on behandelt wird.

Generative AI auf tabellarischen Daten kann seinen Hype-Zyklus in Unternehmen sehen: Die Erstellung synthetischer Datensätze ist angeblich eine der einfachsten Lösungen, um Daten-bezogene Herausforderungen in Unternehmen zu lösen. Data-Science-Teams werden dies stark bevorzugen, da das Problem in ihrem Einflussbereich liegt, im Gegensatz zu der Abhängigkeit von der Geschäftseinheit, die Zeit in Anspruch nehmen, teuer und nicht garantiert alle Schritte bei der Datenerfassung befolgen kann. Synthetische Daten lösen Bias-Probleme, Datenungleichgewicht, Datenschutz und unzureichende Daten. Natürlich muss die Wirksamkeit dieses Ansatzes noch bewiesen werden. Dennoch können wir mit zunehmender Reife in neuen Techniken wie Transformern mehr Experimente mit traditionellen Datensätzen wie tabellarischen und mehrdimensionalen Daten sehen. Bei Erfolg kann dieser Ansatz einen enormen Einfluss auf Unternehmen und MaaS-Angebote haben.

Gibt es noch etwas, das Sie über Arya.ai teilen möchten?

Der Schwerpunkt von Arya.ai liegt auf der Lösung von “AI” für Banken, Versicherer und Finanzdienstleistungsunternehmen. Unser Ansatz ist die Vertikalierung der Technologie bis zur letzten Ebene und die Machbarkeit und Akzeptanz für jedes Unternehmen und jeden Stakeholder.

AryaXAI (xai.arya.ai) wird eine wichtige Rolle bei der Bereitstellung für die Massen innerhalb der FSI-vertikalen Ebene spielen. Unsere laufende Forschung zu synthetischen Daten war in einer Handvoll Anwendungsfällen erfolgreich, aber wir zielen darauf ab, sie zu einer vielmehr akzeptablen Option zu machen. Wir werden weiterhin mehr Schichten zu unserem “AI”-Cloud hinzufügen, um unsere Mission zu erfüllen.

Ich denke, wir werden mehr Startups wie Arya.ai sehen, nicht nur in der FSI-vertikalen Ebene, sondern in jeder vertikalen Ebene.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Arya.ai besuchen.