Vinay Kumar Sankarapu, Co-Founder & CEO von Arya.ai – Interview-Serie

Vinay Kumar Sankarapu ist der Co-Founder & CEO von Arya.ai, einer Plattform, die den “AI”-Cloud für Banken, Versicherungen und Finanzdienstleistungen (BFSI) anbietet, um die richtigen AI-APIs, Experten-AI-Lösungen und umfassende AI-Governance-Tools zu finden, die erforderlich sind, um vertrauenswürdige und selbstlernende AI-Engines zu bereitstellen.

Ihr Hintergrund liegt in Mathematik, Physik, Chemie und Maschinenbau. Können Sie Ihre Reise zur Übergang in die Informatik und KI erläutern?

An der IIT Bombay gibt es ein “Dual Degree Program”, das einen 5-jährigen Kurs anbietet, um sowohl den Bachelor of Technology als auch den Master of Technology abzuschließen. Ich habe Maschinenbau mit einer Spezialisierung in “Computer Aided Design and Manufacturing” studiert, wobei Informatik Teil unseres Curriculums war. Für unsere Postgraduiertenforschung habe ich mich entschieden, an Deep Learning zu arbeiten. Während ich begann, DL zu verwenden, um ein Versagensvorhersagemodell für kontinuierliche Fertigung zu erstellen, habe ich meine Forschung über die Verwendung von CNNs für RUL-Vorhersage abgeschlossen. Das war etwa 2013/14.

Sie haben Arya.ai noch während des Studiums gegründet. Können Sie die Entstehungsgeschichte hinter diesem Startup erzählen?

Im Rahmen der akademischen Forschung mussten wir 3-4 Monate für eine Literaturübersicht aufwenden, um eine detaillierte Studie über das Thema von Interesse zu erstellen, den Umfang der bisherigen Arbeiten und was ein möglicher Schwerpunkt für unsere Forschung sein könnte. Während des Jahres 2012/13 waren die Werkzeuge, die wir verwendeten, ziemlich grundlegend. Suchmaschinen wie Google Scholar und Scopus führten nur eine Schlüsselwortsuche durch. Es war wirklich schwierig, das Volumen des verfügbaren Wissens zu erfassen. Ich dachte, dass dieses Problem nur schlimmer werden würde. Im Jahr 2013 wurden mindestens 30+ Papiere pro Minute veröffentlicht. Heute ist das mindestens 10-20 Mal so viel.

Wir wollten einen “AI”-Assistenten wie einen “Professor” für Forscher bauen, um ihnen zu helfen, ein Forschungsthema vorzuschlagen, ein geeignetes Papier zu finden, das auf dem neuesten Stand ist, und alles rund um die STEM-Forschung. Mit unserer Erfahrung in Deep Learning dachten wir, dass wir dieses Problem lösen könnten. Im Jahr 2013 gründeten wir Arya.ai mit einem Team von 3 und erweiterten es 2014 auf 7, während ich noch im Studium war.

Unsere erste Version des Produkts wurde durch das Scraping von mehr als 30 Millionen Papieren und Abstracts erstellt. Wir verwendeten die State-of-the-Art-Techniken im Deep Learning, um einen AI-STEM-Forschungsassistenten und eine kontextuelle Suchmaschine für STEM zu bauen. Als wir jedoch den AI-Assistenten einigen Professoren und Kommilitonen vorstellten, erkannten wir, dass wir zu früh dran waren. Die Konversationsflüsse waren begrenzt, und die Benutzer erwarteten einen freien Fluss und kontinuierliche Konversationen. Die Erwartungen waren sehr unrealistisch zu dieser Zeit (2014/15), obwohl es komplexe Fragen beantwortete.

Danach haben wir uns entschieden, unsere Forschung zu nutzen und uns auf ML-Tools für Forscher und Unternehmen als Arbeitsplatz zu konzentrieren, um Deep Learning zu demokratisieren. Aber wiederum verwendeten nur wenige Datenwissenschaftler 2016 DL. Also begannen wir, es für ein vertikales Segment zu spezialisieren und uns auf den Bau spezialisierter Produktlayer für ein vertikales Segment, nämlich Finanzdienstleistungen (FSI), zu konzentrieren. Wir wussten, dass dies funktionieren würde, weil große Spieler versuchen, den horizontalen Spielraum zu gewinnen, während die Vertikalisierung für Startups einen großen USP schaffen kann. Dieses Mal hatten wir Recht!

Wir bauen den AI-Cloud für Banken, Versicherungen und Finanzdienstleistungen mit den spezialisiertesten vertikalen Layern, um skalierbare und verantwortungsvolle AI-Lösungen zu liefern.

Wie groß ist das Problem des “AI-Black-Box”-Problems in der Finanzbranche?

Extrem wichtig! Nur 30% der Finanzinstitute nutzen “AI” zu seinem vollen Potenzial. Während einer der Gründe die Zugänglichkeit ist, ist ein weiterer der Mangel an “AI”-Vertrauen und Prüfbarkeit. Die Vorschriften sind nun in einigen geografischen Regionen klar, was die Rechtslage bei der Verwendung von AI für Low-, Medium- und High-Risiko-Anwendungsfälle betrifft. Es ist gesetzlich vorgeschrieben, in der EU transparente Modelle für Hochrisikoanwendungsfälle zu verwenden. Viele Anwendungsfälle in Finanzinstituten sind Hochrisikoanwendungsfälle. Sie sind also verpflichtet, White-Box-Modelle zu verwenden.

Hype-Zyklen beruhigen sich auch, weil die frühen Erfahrungen mit AI-Lösungen zu einer Abnahme der Hype-Zyklen führen. Es gibt eine wachsende Anzahl von Beispielen in jüngster Zeit über die Auswirkungen der Verwendung von Black-Box-“AI”, Versagen von “AI” aufgrund mangelnder Überwachung und Herausforderungen mit Rechts- und Risikomanagern aufgrund begrenzter Prüfbarkeit.

Können Sie den Unterschied zwischen ML-Überwachung und ML-Beobachtbarkeit erläutern?

 Die Aufgabe eines Überwachungstools ist einfach, zu überwachen und zu alarmieren. Und die Aufgabe eines Beobachtungstools ist nicht nur, zu überwachen und zu berichten, sondern vor allem, genügend Beweise zu liefern, um die Gründe für das Versagen oder die Vorhersage von Fehlern über die Zeit zu finden.

In AI/ML spielen diese Tools eine entscheidende Rolle. Während diese Tools die erforderlichen Rollen oder Überwachungsaufgaben liefern können, ist der Umfang der ML-Beobachtbarkeit

Warum sind branchenspezifische Plattformen für ML-Beobachtbarkeit erforderlich und nicht allgemeine Plattformen?

Allgemeine Plattformen sind für jeden und jeden Anwendungsfall konzipiert, unabhängig von der Branche – jeder Benutzer kann sich anmelden und die Plattform verwenden. Die Kunden dieser Plattformen sind in der Regel Entwickler, Datenwissenschaftler usw. Die Plattformen schaffen jedoch mehrere Herausforderungen für die Stakeholder aufgrund ihrer komplexen Natur und des “One-Size-Fits-All”-Ansatzes.

Leider benötigen die meisten Unternehmen heute Datenwissenschaftler, um allgemeine Plattformen zu verwenden, und benötigen zusätzliche Lösungen/Produktlayer, um diese Modelle für die Endbenutzer in jedem vertikalen Segment “verwendbar” zu machen. Dazu gehören Erklärbarkeit, Prüfung, Segmente/Szenarien, menschliche Prozesse, Feedback-Kennzeichnung, Prüfung, werkzeugspezifische Pipelines usw.

Dabei kommen branchenspezifische AI-Plattformen als Vorteil ins Spiel. Eine branchenspezifische AI-Plattform besitzt den gesamten Arbeitsablauf, um das Ziel eines Zielkunden oder Anwendungsfalls zu lösen, und wird entwickelt, um ein komplettes Produkt von Anfang bis Ende bereitzustellen, von der Erfassung der Geschäftsanforderungen bis zur Überwachung der Produktleistung. Es gibt viele branchenspezifische Hürden, wie regulatorische und Compliance-Rahmen, Datenschutzanforderungen, Prüf- und Kontrollanforderungen usw. Branchenspezifische AI-Plattformen und Angebote beschleunigen die AI-Adoption und verkürzen den Weg zur Produktion, indem sie die Entwicklungszeit und die damit verbundenen Risiken bei der AI-Einführung reduzieren. Darüber hinaus hilft dies auch, AI-Expertenwissen in der Branche als Produktlayer zu bringen, der dazu beiträgt, die Akzeptanz von “AI” zu verbessern, Compliance-Bemühungen voranzutreiben und gemeinsame Ansätze zu Ethik, Vertrauen und Reputationssorgen zu finden.

Können Sie einige Details über die ML-Beobachtbarkeitsplattform erläutern, die von Arya.ai angeboten wird?

Wir haben seit 2016 in Finanzdienstleistungen gearbeitet. Das gab uns eine frühe Exposition gegenüber einzigartigen Herausforderungen bei der Bereitstellung komplexer AI in FSIs. Eine der wichtigsten Herausforderungen war die “AI-Akzeptanz”. Im Gegensatz zu anderen Segmenten gibt es in der Finanzbranche viele Vorschriften für die Verwendung von Software (auch für “AI”-Lösungen), Datenschutz, Ethik und vor allem den finanziellen Einfluss auf das Geschäft. Um diese Herausforderungen im großen Maßstab zu bewältigen, mussten wir kontinuierlich neue Schichten der Erklärbarkeit, Prüfung, Nutzungsrisiken und Rechenschaftspflicht auf unsere Lösungen aufbauen – Schadensabwicklung, Underwriting, Betrugsüberwachung usw. Im Laufe der Zeit haben wir ein akzeptables und skalierbares ML-Beobachtbarkeitsframework für verschiedene Stakeholder in der Finanzdienstleistungsbranche erstellt.

Wir veröffentlichen nun eine DIY-Version des Frameworks als AryaXAI (xai.arya.ai). Jedes ML- oder Geschäftsteam kann AryaXAI verwenden, um eine umfassende AI-Governance für mission-kritische Anwendungsfälle zu erstellen. Die Plattform bringt Transparenz und Prüfbarkeit zu Ihren AI-Lösungen, die für jeden Stakeholder akzeptabel sind. AryaXAI macht AI sicherer und akzeptabler für mission-kritische Anwendungsfälle, indem es eine zuverlässige und genaue Erklärbarkeit bietet, Beweise liefert, die regulatorische Sorgfaltspflicht unterstützen, AI-Uncertainty durch erweiterte Richtlinienkontrollen managt und Konsistenz in der Produktion durch Überwachung von Daten- oder Modell-Drift und Alarmierung der Benutzer mit Root-Cause-Analyse sicherstellt.

AryaXAI fungiert auch als gemeinsamer Arbeitsablauf und liefert Erkenntnisse, die für alle Stakeholder – Data-Science-, IT-, Risiko-, Betriebs- und Compliance-Teams – akzeptabel sind, und macht die Einführung und Wartung von AI/ML-Modellen reibungslos und frei von Ballast.

Ein weiteres Angebot ist eine Plattform, die die Anwendbarkeit des ML-Modells mit kontextueller Richtlinienimplementierung erhöht. Können Sie dies speziell beschreiben?

Es ist schwierig, ML-Modelle in der Produktion zu überwachen und zu steuern, aufgrund der enormen Volumina von Funktionen und Vorhersagen. Darüber hinaus macht die Unsicherheit des Modellverhaltens es schwierig, Governance, Risiko und Compliance zu verwalten und zu standardisieren. Solche Modelle können zu schwerwiegenden Reputationsschäden und finanziellen Verlusten führen.

AryaXAI bietet “Richtlinien-/Risikokontrollen”, ein kritischer Bestandteil, der Geschäfts- und ethische Interessen durch die Durchsetzung von Richtlinien auf AI schützt. Benutzer können Richtlinien leicht hinzufügen/bearbeiten/ändern, um Richtlinienkontrollen zu verwalten. Dies ermöglicht es cross-funktionellen Teams, Richtlinien-Schutzschranken zu definieren, um kontinuierliche Risikobewertung zu gewährleisten und das Geschäft vor AI-Uncertainty zu schützen.

Was sind einige Beispiele für Anwendungsfälle für diese Produkte?

AryaXAI kann für verschiedene mission-kritische Prozesse in Branchen implementiert werden. Die häufigsten Beispiele sind:

BFSI: In einer Umgebung mit strengen Vorschriften macht AryaXAI es der BFSI-Branche leicht, Anforderungen abzustimmen und Beweise zu sammeln, die erforderlich sind, um Risiken zu managen und die Einhaltung von Vorschriften sicherzustellen.

• Kreditvergabe für sichere/unsichere Kredite
• Identifizierung von Betrug/verdächtigen Transaktionen
• Prüfung
• Kundenlebenszyklusverwaltung
• Kreditentscheidung

Autonome Fahrzeuge: Autonome Fahrzeuge müssen strenge Vorschriften, betriebliche Sicherheit und Erklärbarkeit in Echtzeit-Entscheidungen einhalten. AryaXAI ermöglicht ein Verständnis, wie das AI-System mit dem Fahrzeug interagiert

• Entscheidungsanalyse
• Autonome Fahrzeugoperationen
• Fahrzeuggesundheitsdaten
• Überwachung des AI-Fahrzeugsystems

Gesundheitswesen: AryaXAI bietet tiefe Einblicke aus medizinischer, technologischer, rechtlicher und patientenbezogener Perspektive. Von der Arzneimittelentdeckung bis zur Herstellung, Vertrieb und Marketing fördert Arya-xAI die interdisziplinäre Zusammenarbeit

• Arzneimittelentdeckung
• Klinische Forschung
• Klinische Studien-Datavalidierung
• Höhere Qualität der Versorgung

Was ist Ihre Vision für die Zukunft der maschinellen Lernung in der Finanzbranche?

Im Laufe des letzten Jahrzehnts gab es eine enorme Aufklärung und Marketing um “AI”. Wir haben mehrere Hype-Zyklen in dieser Zeit gesehen. Wir würden wahrscheinlich bei 4. oder 6. Hype-Zyklus sein. Der erste war, als Deep Learning ImageNet 2011/12 gewann, gefolgt von Arbeiten an Bild-/Textklassifizierung, Spracherkennung, autonomen Fahrzeugen, generativer AI und aktuell mit großen Sprachmodellen. Der Abstand zwischen dem Höhepunkt des Hypes und der Massenverwendung verringert sich mit jedem Hype-Zyklus aufgrund der Iterationen um das Produkt, die Nachfrage und die Finanzierung.

Diese drei Dinge sind passiert:

1. Ich denke, wir haben das Framework für die Skalierung von AI-Lösungen geknackt, zumindest für einige Experten. Zum Beispiel ist Open AI derzeit eine nicht-gewinnorientierte Organisation, aber sie prognostizieren, innerhalb von 2 Jahren 1 Milliarde US-Dollar Umsatz zu erzielen. Während nicht jedes AI-Unternehmen ein ähnliches Maß an Skalierbarkeit erreichen kann, ist das Template für die Skalierbarkeit klarer.
2. Die Definition idealer AI-Lösungen ist fast klar für alle vertikalen Segmenten: Im Gegensatz zu früher, als das Produkt durch iterative Experimente für jeden Anwendungsfall und jedes Unternehmen erstellt wurde, sind die Stakeholder zunehmend aufgeklärt, um zu verstehen, was sie von AI-Lösungen benötigen.
3. Die Vorschriften holen auf: Die Notwendigkeit klarer Vorschriften für den Datenschutz und die Verwendung von AI gewinnt großen Zulauf. Regierungs- und Aufsichtsbehörden können Rahmenbedingungen veröffentlichen oder sind dabei, Rahmenbedingungen zu veröffentlichen, die für die sichere, ethische und verantwortungsvolle Verwendung von AI erforderlich sind.

Was kommt als Nächstes?

Die Explosion von “Model-as-a-Service (MaaS)”:

Wir werden eine zunehmende Nachfrage nach “Model-as-a-Service”-Angeboten sehen, nicht nur horizontal, sondern auch vertikal. Während “OpenAI” ein gutes Beispiel für “Horizontale MaaS” ist, ist Arya.ai ein Beispiel für vertikale “MaaS”. Mit der Erfahrung von Deployments und Datensätzen hat Arya.ai kritische vertikale Datensätze gesammelt, die verwendet werden, um Modelle zu trainieren und als Plug-and-Play- oder vorgefertigte Modelle bereitzustellen.

Vertikalisierung ist das neue Horizontale: Wir haben diesen Trend bei der “Cloud-Adoption” gesehen. Während horizontale Cloud-Spieler sich auf “Plattformen für alle” konzentrieren, konzentrieren sich vertikale Spieler auf die Anforderungen der Endbenutzer und bieten sie als spezialisierte Produktlayer an. Dies gilt auch für MaaS-Angebote.

XAI und AI-Governance werden in Unternehmen zur Norm: Abhängig von der Sensibilität der Vorschriften wird jedes vertikale Segment ein akzeptables XAI- und Governance-Framework erreichen, das als Teil des Designs implementiert wird, im Gegensatz zu heute, wo es als Add-on behandelt wird.

Generative AI auf Tabulardaten kann ihre Hype-Zyklen in Unternehmen sehen: Die Erstellung synthetischer Datensätze ist angeblich eine der einfachen Lösungen, um datenbezogene Herausforderungen in Unternehmen zu lösen. Datenwissenschaftsteams würden dies bevorzugen, da das Problem in ihrer Kontrolle ist, im Gegensatz zu der Abhängigkeit von der Geschäftswelt, die Zeit, Geld und keine Garantie dafür benötigt, alle Schritte bei der Datenerfassung zu befolgen. Synthetische Daten lösen Bias-Probleme, Datenungleichgewichte, Datenschutz und unzureichende Daten. Natürlich muss die Wirksamkeit dieses Ansatzes noch bewiesen werden. Mit zunehmender Reife in neuen Techniken wie Transformers können wir jedoch mehr Experimente auf herkömmlichen Datensätzen wie Tabulardaten und mehrdimensionalen Daten sehen. Bei Erfolg kann dieser Ansatz einen enormen Einfluss auf Unternehmen und MaaS-Angebote haben.

Gibt es noch etwas, das Sie über Arya.ai teilen möchten?

Der Fokus von Arya.ai liegt auf der Lösung von “AI” für Banken, Versicherungen und Finanzdienstleistungen. Unser Ansatz ist die Vertikalisierung der Technologie bis zur letzten Schicht und die Machbarkeit für jede Organisation und jeden Stakeholder.

AryaXAI (xai.arya.ai) wird eine wichtige Rolle bei der Bereitstellung für die Massen innerhalb des FSI-Segments spielen. Unsere laufende Forschung auf synthetischen Daten war in einer Handvoll von Anwendungsfällen erfolgreich, aber wir zielen darauf ab, es zu einer noch viableren und akzeptableren Option zu machen. Wir werden weiterhin mehr Schichten zu unserem “AI”-Cloud hinzufügen, um unsere Mission zu erfüllen.

Ich denke, wir werden mehr Startups wie Arya.ai sehen, nicht nur im FSI-Segment, sondern in jedem Segment.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Arya.ai besuchen.