Vinay Kumar Sankarapu, współzałożyciel i CEO Arya.ai – seria wywiadów

Vinay Kumar Sankarapu jest współzałożycielem i CEO Arya.ai, platformy oferującej “chmurę AI” dla banków, ubezpieczycieli i instytucji finansowych (BFSI), aby znaleźć odpowiednie interfejsy API, rozwiązania AI i kompleksowe narzędzia do zarządzania AI, niezbędne do wdrożenia godnych zaufania i samouczących się silników AI.

Twoje tło to matematyka, fizyka, chemia i inżynieria mechaniczna, możesz opowiedzieć o swojej drodze do przejścia na informatykę i AI?

Na IIT Bombay mamy “Program podwójnego stopnia”, który zapewnia 5-letni kurs, aby objąć zarówno tytuł licencjata, jak i magistra. Studiowałem inżynierię mechaniczną ze specjalizacją w “inżynierii komputerowej i produkcji”, gdzie informatyka jest częścią naszego programu nauczania. Podczas badań doktoranckich wybrałem pracę nad głębokim uczeniem. Zaczynałem używać DL do budowy ramy przewidywania awarii dla ciągłej produkcji, a skończyłem swoje badania nad używaniem CNN do przewidywania resztkowego czasu życia. To było około 2013/14.

Uruchomiłeś Arya.ai, gdy jeszcze studiowałeś, możesz podzielić się historią powstania tego startupu?

W ramach badań akademickich musieliśmy spędzić 3-4 miesiące na przeglądzie literatury, aby stworzyć szczegółową pracę na temat interesującej nas dziedziny, zakresu prac już wykonanych i tego, co mogłoby być możliwym obszarem naszych badań. Podczas 2012/13 narzędzia, których używaliśmy, były dość podstawowe. Silniki wyszukiwania, takie jak Google Scholar i Scopus, wykonywały tylko wyszukiwanie słów kluczowych. Było to naprawdę trudne, aby zrozumieć objętość wiedzy, jaka była dostępna. Myślałem, że ten problem będzie tylko rosł. W 2013 roku, myślę, że co najmniej 30+ prac zostało opublikowanych każdej minuty. Dziś jest to co najmniej 10-20 razy więcej.

Chcieliśmy zbudować asystenta AI, jak “profesor” dla badaczy, aby pomóc im w sugestii tematu badawczego, znalezieniu odpowiedniej pracy, która jest najbardziej aktualna, i wszystkim, co dotyczy badań STEM. Z naszym doświadczeniem w głębokim uczeniu, myśleliśmy, że możemy rozwiązać ten problem. W 2013 roku, rozpoczęliśmy Arya.ai z zespołem 3 osób, a potem rozrosło się to do 7 osób w 2014 roku, gdy jeszcze studiowałem.

Nasza pierwsza wersja produktu została zbudowana przez pobranie ponad 30 milionów prac i abstraktów. Użyliśmy najnowszych technik w głębokim uczeniu w tamtym czasie, aby zbudować asystenta AI do badań STEM i silnik wyszukiwania kontekstowego dla STEM. Ale gdy zaprezentowaliśmy asystenta AI kilku profesorom i kolegom, zrealizowaliśmy, że jesteśmy za wczesni. Przepływy konwersacyjne były ograniczone, a użytkownicy oczekiwali swobodnego i ciągłego przepływu konwersacji. Oczekiwania były bardzo nierzeczywiste w tamtym czasie (2014/15), nawet jeśli odpowiedzi były na skomplikowane pytania.

Po tym, zmieniliśmy nasze podejście, aby wykorzystać nasze badania i skupić się na narzędziach ML dla badaczy i przedsiębiorstw jako stanowisko do demokratyzacji głębokiego uczenia. Ale ponownie, tylko nieliczni specjaliści od danych używali DL w 2016 roku. Więc zaczęliśmy wertykalizować to dla jednej branży i skupiliśmy się na budowaniu specjalistycznych warstw produktowych dla jednej branży, czyli instytucji finansowych (FSI). Wiedzieliśmy, że to zadziała, ponieważ podczas gdy duzi gracze starają się wygrać grę poziomą, wertykalizacja może stworzyć duże USP dla startupów. Tym razem mieliśmy rację!

Budujemy chmurę AI dla banków, ubezpieczycieli i instytucji finansowych z najbardziej specjalistycznymi warstwami wertykalnymi, aby dostarczyć skalowalne i odpowiedzialne rozwiązania AI.

Jak duży problem jest problem “czarnej skrzynki” AI w finansach?

Bardzo ważny! Tylko 30% instytucji finansowych używa AI w pełni. Podczas gdy jednym z powodów jest dostępność, innym jest brak zaufania do AI i audytowalności. Regulacje są teraz jasne w kilku geografiach dotyczących legalności używania AI dla przypadków niskiego, średniego i wysokiego ryzyka. Jest to wymagane przez prawo w UE, aby używać przejrzystych modeli dla przypadków wysokiego ryzyka. Wiele przypadków w instytucjach finansowych to przypadki wysokiego ryzyka. Więc są one wymagane do używania modeli białej skrzynki.

Hype cykle również się stabilizują, ponieważ wcześniejsze doświadczenia z rozwiązaniami AI. Jest coraz więcej przykładów w ostatnich czasach na skutki używania czarnej skrzynki AI, awarie AI z powodu braku monitorowania ich i wyzwania z prawnymi i ryzykowymi menedżerami z powodu ograniczonej audytowalności.

Czy możesz omówić różnicę między monitorowaniem ML a obserwowalnością ML?

 Praca narzędzia monitorującego jest po prostu monitorowanie i alarmowanie. A praca narzędzia obserwowalności nie tylko monitoruje i raportuje, ale przede wszystkim dostarcza wystarczające dowody, aby znaleźć przyczyny awarii lub przewidzieć te awarie w czasie.

W AI/ML te narzędzia odgrywają krytyczną rolę. Podczas gdy te narzędzia mogą dostarczyć wymagane role lub monitorowanie, zakres obserwowalności ML

Dlaczego potrzebne są branżowe platformy dla obserwowalności ML, a nie ogólne platformy?

Ogólne platformy są zaprojektowane dla wszystkich i każdego przypadku użycia, niezależnie od branży – każdy użytkownik może dołączyć i zacząć używać platformy. Klientami tych platform są zwykle deweloperzy, specjaliści od danych itp. Platformy te tworzą jednak kilka wyzwań dla stakeholderów z powodu ich złożonej natury i podejścia “jeden rozmiar pasuje do wszystkich”.

Niestety, większość firm dzisiaj wymaga specjalistów od danych, aby używać ogólnych platform i potrzebuje dodatkowych rozwiązań/warstw produktowych, aby uczynić te modele “użytecznymi” przez użytkowników końcowych w każdej branży. Obejmuje to wyjaśnialność, audyt, segmenty/scenariusze, procesy z udziałem człowieka, etykietowanie opinii, audyt, specyficzne potoki itp.

To jest miejsce, w którym pojawiają się branżowe platformy AI jako zalety. Branżowa platforma AI posiada cały proces, aby rozwiązać ukierunkowane potrzeby klienta lub przypadki użycia i jest opracowana, aby dostarczyć kompletny produkt od końca do końca, od zrozumienia potrzeb biznesowych do monitorowania wydajności produktu. Są wiele branżowych przeszkód, takich jak ramy regulacyjne i zgodności, wymagania dotyczące prywatności danych, wymagania audytu i kontroli itp. Branżowe platformy AI i oferty przyspieszają przyjęcie AI i skracają drogę do produkcji, redukując czas rozwoju i związane z tym ryzyko w wdrożeniu AI. Ponadto pomoże to również w połączeniu ekspertyzy AI w branży jako warstwy produktowej, która pomoże w poprawie akceptacji AI, wysiłków zgodności i znalezieniu wspólnych podejść do etyki, zaufania i problemów reputacyjnych.

Czy możesz podzielić się niektórymi szczegółami na temat platformy obserwowalności ML oferowanej przez Arya.ai?

Pracowaliśmy w instytucjach finansowych przez ponad 6 lat. Od 2016 roku. To dało nam wczesne doświadczenie z unikalnymi wyzwaniami wdrożenia złożonego AI w instytucjach finansowych. Jednym z ważnych wyzwań było “akceptacja AI”. W przeciwieństwie do innych branż, istnieje wiele regulacji dotyczących używania oprogramowania (również dotyczących rozwiązań AI), prywatności danych, etyki i najważniejszych, wpływu finansowego na firmę. Aby rozwiązać te wyzwania w skali, musieliśmy nieustannie wynajdować i dodawać nowe warstwy wyjaśnialności, audytu, ryzyka i odpowiedzialności na naszych rozwiązaniach – przetwarzanie roszczeń, underwriting, monitorowanie oszustw itp. Z czasem stworzyliśmy akceptowalną i skalowalną ramę obserwowalności ML dla różnych stakeholderów w branży usług finansowych.

Teraz wydajemy wersję DIY tej ramy jako AryaXAI (xai.arya.ai). Każdy zespół ML lub biznesowy może użyć AryaXAI, aby stworzyć bardzo kompleksową governance AI dla przypadków użycia o znaczeniu krytycznym. Platforma ta zapewnia przejrzystość i audytowalność rozwiązaniom AI, które są akceptowalne przez każdego stakeholdera. AryaXAI sprawia, że AI jest bezpieczniejsze i bardziej akceptowalne dla przypadków użycia o znaczeniu krytycznym, dostarczając wiarygodną i dokładną wyjaśnialność, oferując dowody, które mogą wesprzeć due diligence regulacyjne, zarządzając niepewnością AI, dostarczając zaawansowane kontrolki polityki i zapewniając spójność w produkcji, monitorując dryft danych lub modelu i alarmując użytkowników z analizą przyczyn.

AryaXAI działa również jako wspólny przepływ pracy i dostarcza spostrzeżenia, które są akceptowalne przez wszystkich stakeholderów – zespoły Data Science, IT, Risk, Operations i compliance, sprawiając, że wdrożenie i utrzymanie modeli AI/ML jest bezproblemowe i niezakłócone.

Inna rozwiązanie, które jest oferowane, to platforma, która zwiększa stosowalność modelu ML z kontekstową implementacją polityki. Czy możesz opisać, co to jest?

Staje się trudne, aby monitorować i kontrolować modele ML w produkcji, ze względu na ogromną ilość cech i przewidywań. Ponadto niepewność zachowania modelu sprawia, że trudno jest zarządzać i standaryzować governance, ryzyko i zgodność. Takie awarie modeli mogą skutkować dużymi stratami reputacyjnymi i finansowymi.

AryaXAI oferuje “kontrolę polityki/ryzyka”, który jest krytycznym składnikiem, który zachowuje interesy biznesowe i etyczne, egzekwując polityki na AI. Użytkownicy mogą łatwo dodać/edytować/modyfikować polityki, aby zarządzać kontrolami polityki. To umożliwia zespołom cross-funkcjonalnym definiowanie barier polityki, aby zapewnić ciągłą ocenę ryzyka, chroniąc firmę przed niepewnością AI.

Co to są przykłady przypadków użycia tych produktów?

AryaXAI może być wdrożone w różnych procesach o znaczeniu krytycznym w branżach. Najczęstsze przykłady to:

BFSI: W środowisku ścisłych regulacji, AryaXAI ułatwia branży BFSI wyrównanie wymagań i zebranie dowodów niezbędnych do zarządzania ryzykiem i zapewnienia zgodności.

• Podpisywanie kredytów dla bezpiecznych/niebezpiecznych pożyczek
• Identyfikowanie oszustw/podejrzanych transakcji
• Audyty
• Zarządzanie cyklem życia klienta
• Podejmowanie decyzji kredytowych

Samochody autonomiczne: Samochody autonomiczne muszą przestrzegać ścisłych regulacji, bezpieczeństwa operacyjnego i wyjaśnialności w czasie rzeczywistym. AryaXAI umożliwia zrozumienie, jak system AI wchodzi w interakcję z pojazdem

• Analiza decyzji
• Operacje samochodu autonomicznego
• Dane dotyczące stanu zdrowia pojazdu
• Monitorowanie systemu AI

Ochrona zdrowia: AryaXAI zapewnia głębsze spostrzeżenia z medycznych, technologicznych, prawnych i pacjenckich perspektyw. Od odkrycia leków po produkcję, sprzedaż i marketing, Arya-xAI wspiera współpracę międzydziedzinową

• Odkrywanie leków
• Badania kliniczne
• Walidacja danych z badań klinicznych
• Wyższa jakość opieki

Jaki jest twój wizja przyszłości uczenia maszynowego w finansach?

W ciągu ostatniej dekady, było ogromne wykształcenie i marketing wokół “AI”. Widzieliśmy wiele cykli hiperów w tym czasie. Być może jesteśmy teraz w 4. lub 6. cyklu hiperów. Pierwszy z nich to, kiedy głębokie uczenie wygrało ImageNet w 2011/12, a następnie prace nad klasyfikacją obrazów i tekstu, rozpoznawaniem mowy, samochodami autonomicznymi, generatywnym AI i obecnie z dużymi modelami językowymi. Przerwa między szczytem hiperów a użyciem masowym zmniejsza się z każdym cyklem hiperów, dzięki iteracjom wokół produktu, popytu i finansowania.

Te trzy rzeczy się wydarzyły:

1. Myślę, że rozwiązaliśmy ramę skali dla rozwiązań AI, przynajmniej dla kilku ekspertów. Na przykład Open AI jest obecnie organizacją niegenerującą dochodu, ale przewiduje, że osiągnie 1 miliard dolarów dochodu w ciągu 2 lat. Chociaż nie każda firma AI może osiągnąć podobną skalę, szablon skalowalności jest już bardziej klarowny.
2. Definicja idealnych rozwiązań AI jest prawie klarowna dla wszystkich branż: Nie jak wcześniej, kiedy produkt był budowany przez iteracyjne eksperymenty dla każdego przypadku użycia i każdej organizacji, stakeholderzy są coraz bardziej wykształceni, aby zrozumieć, czego potrzebują od rozwiązań AI.
3. Regulacje są teraz w zgodzie: Potrzeba jasnych regulacji wokół prywatności danych i użycia AI zyskuje coraz większy przebieg. Organizacje rządowe i regulacyjne są w stanie opublikować lub są w trakcie publikowania ram, niezbędnych do bezpiecznego, etycznego i odpowiedzialnego użycia AI.

Co dalej?

Eksplozja “Model-as-a-service (MaaS)”:

Będziemy świadkami coraz większego popytu na “Model-as-a-service” nie tylko poziomo, ale również pionowo. Podczas gdy “OpenAI” reprezentuje dobry przykład “poziomej MaaS”, Arya.ai jest przykładem pionowej “MaaS”. Z doświadczeniem wdrożeń i zbiorami danych, Arya.ai zbierała krytyczne zbiory danych pionowych, które są wykorzystywane do szkolenia modeli i dostarczania ich jako gotowe do użycia lub wstępnie wytrenowane modele.

Wertykalizacja to nowy poziom: Widzieliśmy ten trend w “adopcji chmury”. Podczas gdy poziome gracze koncentrują się na “platformach dla wszystkich”, pionowi gracze koncentrują się na wymaganiach użytkowników końcowych i dostarczają im jako specjalistyczną warstwę produktową. To jest prawdą również dla ofert MaaS.

XAI i governance AI staną się normą w przedsiębiorstwach: Zależnie od wrażliwości regulacji, każda branża osiągnie akceptowalną ramę XAI i governance, która zostanie wdrożona jako część projektu, a nie jako dodatek.

AI generatywny na danych tabelarycznych może zobaczyć swoje cykle hiperów w przedsiębiorstwach: Tworzenie syntetycznych zbiorów danych jest rzekomo jednym z łatwych rozwiązań, aby rozwiązać wyzwania związane z danymi w przedsiębiorstwach. Zespoły Data Science będą bardzo chciały to zrobić, ponieważ problem jest pod ich kontrolą, a nie zależy od biznesu, co może potrwać, być drogie i nie gwarantuje, że będą postępować zgodnie ze wszystkimi krokami podczas zbierania danych. Syntetyczne dane rozwiązują problemy związane z biasem, nierównowagą danych, prywatnością danych i niewystarczającymi danymi. Oczywiście, skuteczność tego podejścia jest jeszcze do udowodnienia. Jednak z coraz większą dojrzałością nowych technik, takich jak transformery, możemy zobaczyć więcej eksperymentów na tradycyjnych zbiorach danych, takich jak tabelaryczne i wielowymiarowe. Po udanym teście, to podejście może mieć ogromny wpływ na przedsiębiorstwa i oferty MaaS.

Czy jest coś jeszcze, co chciałbyś podzielić o Arya.ai?

Focus Arya.ai jest na rozwiązywaniu “AI” dla banków, ubezpieczycieli i instytucji finansowych. Nasze podejście to wertykalizacja technologii do ostatniej warstwy i robienie jej użyteczną i akceptowalną przez każdą organizację i stakeholdera.

AryaXAI (xai.arya.ai) odegra ważną rolę w dostarczaniu tego do mas w pionie FSI. Nasze kontynuujące badania nad danymi syntetycznymi odniosły sukces w kilku przypadkach użycia, ale staramy się uczynić to bardziej opłacalnym i akceptowalnym rozwiązaniem. Będziemy kontynuować dodawanie kolejnych warstw do naszej “chmury AI”, aby służyć naszej misji.

Myślę, że będziemy świadkami więcej startupów jak Arya.ai, nie tylko w pionie FSI, ale w każdym pionie.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Arya.ai.