Винай Кумар Санкарапу, съосновател и главен изпълнителен директор на Arya.ai – Серия интервюта

Винай Кумар Санкарапу е съосновател и главен изпълнителен директор на Arya.ai, платформа, която предлага облака „AI“ за банки, застрахователи и институции за финансови услуги (BFSI), за да намерят правилните AI API, експертни AI решения и цялостни инструменти за управление на AI, необходими за внедряване на надеждни и самообучаващи се AI машини.

Вашият опит е в областта на математиката, физиката, химията и машинното инженерство, бихте ли обсъдили пътуването си към прехода към компютърните науки и ИИ?

В IIT Bombay имаме „Програма за двойна степен“, която предоставя 5-годишен курс, който обхваща както бакалаври по технологии, така и магистри по технологии. Завърших машинно инженерство със специализация по „Компютърно проектиране и производство“, където компютърните науки са част от нашата учебна програма. За нашето следдипломно изследване избрах да работя върху Deep Learning. Докато започнах да използвам DL за изграждане на рамка за прогнозиране на откази за непрекъснато производство, завърших проучването си върху използването на CNN за прогнозиране на RUL. Това беше около 2013/14 г.

Вие стартирахте Arya.ai, докато все още сте в колежа, бихте ли споделили историята на генезиса зад този стартъп?

Като част от академичното изследване трябваше да прекараме 3-4 месеца в преглед на литературата, за да създадем подробно проучване на интересуващата ни тема, обхвата на извършената досега работа и коя би могла да бъде възможна област на фокус за нашето изследване. През 2012/13 инструментите, които използвахме, бяха съвсем основни. Търсачки като Google Scholar и Scopus просто извършваха търсене по ключови думи. Беше наистина трудно да се разбере обемът от налични знания. Мислех, че този проблем само ще се влоши. През 2013 г. мисля, че всяка минута бяха публикувани поне 30+ статии. Днес това е поне 10x-20x повече от това.

Искахме да изградим „AI“ асистент като „професор“ за изследователите, за да им помогнем да предложат тема за изследване, да намерят подходяща статия, която е най-актуална, и всичко около STEM изследванията. С нашия опит в дълбокото обучение решихме, че можем да разрешим този проблем. През 2013 г. стартирахме Arya.ai с екип от 3 души, а след това се разшири до 7 през 2014 г., докато все още бях в колежа.

Първата ни версия на продукта беше създадена чрез изтриване на повече от 30 милиона документи и резюмета. Използвахме най-съвременни техники в дълбокото обучение по това време, за да изградим AI STEM изследователски асистент и контекстна търсачка за STEM. Но когато показахме AI асистента на няколко професори и връстници, осъзнахме, че сме подранили. Потоците от разговори бяха ограничени и потребителите очакваха свободен поток и непрекъснати реализации. Очакванията бяха много нереалистични по това време (2014/15), въпреки че отговаряше на сложни въпроси.

След това се насочихме към използването на нашите изследвания и фокусирането върху инструментите за машинно обучение за изследователи и предприятия като работна маса за демократизиране на дълбокото обучение. Но отново, много малко специалисти по данни използваха DL през 2016 г. Така че започнахме да го вертикализираме за един вертикал и се фокусирахме върху изграждането на специализирани продуктови слоеве за един вертикал, т.е. институции за финансови услуги (FSI). Знаехме, че това ще проработи, защото докато големите играчи се стремят да спечелят хоризонталната игра, вертикализацията може да създаде голям USP за стартиращи компании. Този път бяхме прави!

Ние изграждаме AI облака за банки, застрахователи и финансови услуги с най-специализираните вертикални слоеве, за да предоставим мащабируеми и отговорни AI решения.

Колко голям проблем е проблемът с черната кутия на AI във финансите?

Изключително важно! Само 30% от финансовите институции използват AI в пълния му потенциал. Докато една от причините е достъпността, друга е липсата на доверие и възможност за проверка на „AI“. Регламентите вече са ясни в няколко географски области относно законността на използването на AI за ниски, средни и високочувствителни случаи на употреба. По закон в ЕС се изисква използването на прозрачни модели за случаи на употреба с „висок риск“. Много случаи на употреба във финансовите институции са с висок риск. Така че от тях се изисква да използват модели с бяла кутия.

Циклите на шума също се утаяват поради ранния опит с AI решения. Напоследък има нарастващ брой примери за ефектите от използването на „ИИ“ на черна кутия, неуспехите на „ИИ“ поради липсата на наблюдение и предизвикателствата пред юридическите лица и мениджърите на риска поради ограничената възможност за проверка.

Бихте ли обсъдили разликата между мониторинга на ML и наблюдаемостта на ML?

 Работата на инструмента за наблюдение е просто да наблюдава и предупреждава. И работата на инструмента за наблюдение е не само да наблюдава и докладва, но най-важното е да предостави достатъчно доказателства, за да открие причините за неуспеха или да предвиди тези неуспехи във времето.

В AI/ML тези инструменти играят критична роля. Въпреки че тези инструменти могат да осигурят необходимите роли или наблюдение, обхватът на видимостта на машинното обучение

Защо са необходими специфични за индустрията платформи за видимост на ML спрямо платформи с общо предназначение?

Платформите с общо предназначение са предназначени за всеки и всеки случай на употреба, независимо от индустрията – всеки потребител може да се включи и да започне да използва платформата. Клиентите на тези платформи обикновено са разработчици, специалисти по данни и т.н. Платформите обаче създават няколко предизвикателства за заинтересованите страни поради сложния си характер и подхода „един размер за всички“.

За съжаление, повечето бизнеси днес изискват експерти по наука за данни да използват платформи с общо предназначение и се нуждаят от допълнителни решения/продуктови слоеве, за да направят тези модели „използваеми“ от крайните потребители във всеки вертикал. Това включва възможност за обяснение, одитиране, сегменти/сценарии, процеси от човек в цикъла, етикетиране на обратна връзка, одитиране, конвейери, специфични за инструментите и т.н.

Това е мястото, където специфичните за индустрията AI платформи идват като предимство. Специфична за индустрията AI платформа притежава целия работен процес за решаване на целеви нужди на клиента или случаи на използване и е разработена, за да предостави пълен продукт от край до край, от разбиране на бизнес нуждите до наблюдение на ефективността на продукта. Има много специфични за индустрията препятствия, като регулаторни рамки и рамки за съответствие, изисквания за поверителност на данните, изисквания за одит и контрол и т.н. Специфичните за индустрията платформи и предложения за AI ускоряват приемането на AI и съкращават пътя до производство, като намаляват времето за разработка и свързаните с това рискове в разгръщането на AI. Нещо повече, това също ще помогне за обединяването на експертизата на AI в индустрията като продуктов слой, който помага за подобряване на приемането на „AI“, насърчаване на усилията за съответствие и измисляне на общи подходи към етиката, доверието и опасенията за репутацията.

Бихте ли споделили някои подробности за платформата ML Observability, която се предлага от Arya.ai?

Ние работим в институции за финансови услуги повече от 6 години. От 2016 г. Това ни даде ранно излагане на уникални предизвикателства при внедряването на сложен AI във FSI. Едно от важните предизвикателства беше „приемането на AI. За разлика от други вертикали, има много регулации относно използването на всякакъв софтуер (също приложимо за решения с изкуствен интелект), поверителността на данните, етиката и най-важното, финансовото въздействие върху бизнеса. За да се справим с тези предизвикателства в мащаб, трябваше непрекъснато да измисляме и добавяме нови слоеве на обяснимост, одит, рискове при използване и отчетност в допълнение към нашите решения – обработка на искове, поемане на задължения, мониторинг на измами и т.н. С течение на времето създадохме приемлив и мащабируем ML Рамка за наблюдение за различни заинтересовани страни в сектора на финансовите услуги.

Сега пускаме DIY версия на рамката като AryaXAI (xai.arya.ai). Всеки ML или бизнес екип може да използва AryaXAI, за да създаде изключително цялостно управление на AI за критични случаи на употреба. Платформата осигурява прозрачност и възможност за проверка на вашите AI решения, които са приемливи за всяка заинтересована страна. AryaXAI прави AI по-безопасен и приемлив за критични случаи на употреба, като предоставя надеждна и точна обяснимост, предлагайки доказателства, които могат да подкрепят регулаторната грижа, управлява несигурността на AI чрез предоставяне на усъвършенствани контроли на политиката и осигуряване на последователност в производството чрез наблюдение на данни или отклонение на модела и предупреждаване на потребителите с анализ на първопричината.

AryaXAI също действа като общ работен процес и предоставя прозрения, приемливи за всички заинтересовани страни – Data Science, IT, Risk, Operations и екипи за съответствие, което прави внедряването и поддръжката на AI/ML моделите безпроблемни и без излишни неща.

Друго решение, което се предлага, е платформа, която подобрява приложимостта на ML модела с прилагане на контекстна политика. Бихте ли описали какво конкретно е това?

Става трудно да се наблюдават и контролират ML моделите в производството, поради големия обем функции и прогнози. Освен това, несигурността на поведението на модела прави предизвикателство управлението и стандартизирането на управлението, риска и съответствието. Такива повреди на моделите могат да доведат до сериозни репутационни и финансови загуби.

AryaXAI предлага „контрол на политиката/риска“, критичен компонент, който запазва бизнес и етичните интереси чрез налагане на политики за AI. Потребителите могат лесно да добавят/редактират/променят политики, за да администрират контролите на правилата. Това позволява на многофункционални екипи да дефинират предпазни мерки за политики, за да осигурят непрекъсната оценка на риска, защитавайки бизнеса от несигурността на ИИ.

Какви са някои примери за случаи на употреба на тези продукти?

AryaXAI може да се внедри за различни критични за мисията процеси в различни индустрии. Най-честите примери са:

BFSI: В среда на регулаторна стриктност AryaXAI улеснява индустрията на BFSI да приведе в съответствие изискванията и да събере доказателствата, необходими за управление на риска и осигуряване на съответствие.

• Кредитно поемане на сигурни/необезпечени заеми
• Идентифициране на измами/подозрителни транзакции
• Проверка
• Управление на жизнения цикъл на клиента
• Кредитно решение

Автономни автомобили: Автономните превозни средства трябва да се придържат към регулаторната строгост, оперативна безопасност и възможност за обяснение при вземането на решения в реално време. AryaXAI дава възможност да се разбере как AI системата взаимодейства с автомобила

• Анализ на решенията
• Автономни операции на автомобила
• Данни за здравето на превозното средство
• Система за управление на AI за наблюдение

Здравеопазване: AryaXAI предоставя по-задълбочена представа от медицинска, технологична, правна и пациентска гледна точка. От откриването на лекарства до производството, продажбите и маркетинга, Arya-xAI насърчава мултидисциплинарно сътрудничество

• Откриване на наркотици
• Клинични изследвания
• Валидиране на данни от клинични изпитвания
• По-високо качество на грижите

Каква е вашата визия за бъдещето на машинното обучение във финансите?

През последното десетилетие имаше огромно образование и маркетинг около „ИИ“. Виждали сме множество хайп цикли през това време. Вероятно щяхме да сме на 4-ти или 6-ти хайп цикъл сега. Първият е, когато Deep Learning спечели ImageNet през 2011/12 г., последвано от работа около класификацията на изображения/текст, разпознаване на реч, автономни автомобили, генериращ AI и в момента с големи езикови модели. Разликата между пиковия хайп и масовото използване намалява с всеки цикъл на хайп заради повторенията около продукта, търсенето и финансирането.

Тези три неща се случиха сега:

1. Мисля, че разбихме рамката на мащаба за AI решения, поне от няколко експерти. Например, Open AI в момента е организация, която не генерира приходи, но те предвиждат приходи от 1 милиард долара в рамките на 2 години. Въпреки че не всяка компания за изкуствен интелект може да не постигне подобен мащаб, шаблонът за мащабируемост е по-ясен.
2.  Дефиницията на идеалните AI решения е почти ясна от всички вертикали: За разлика от по-рано, когато продуктът е изграден чрез итеративни експерименти за всеки случай на употреба и всяка организация, заинтересованите страни са все по-образовани, за да разберат какво им е необходимо от AI решенията.
3. Регламентите вече наваксват: Необходимостта от ясни регулации относно поверителността на данните и използването на AI сега набира голяма сила. Управляващите и регулаторните органи са в състояние да публикуват или са в процес на публикуване на рамки, необходими за безопасното, етично и отговорно използване на ИИ.

Какво следва?

Експлозията на „Модел като услуга (MaaS)“:

Ще видим нарастващо търсене на предложения „Модел като услуга“ не само хоризонтално, но и вертикално. Докато „OpenAI“ представлява добър пример за „Horizonal MaaS“, Arya.ai е пример за вертикален „MaaS“. С опита от внедрявания и набори от данни, Arya.ai събира критични вертикални набори от данни, които се използват за обучение на модели и ги предоставя като plug-and-use или предварително обучени модели.

Вертикализацията е новият хоризонтал: Видяхме тази тенденция при „приемането на облака“. Докато хоризонталните облачни играчи се фокусират върху „платформи за всеки“, вертикалните играчи се фокусират върху изискванията на крайния потребител и ги предоставят като специализиран продуктов слой. Това важи дори за MaaS предложенията.

XAI и управлението на AI ще се превърнат в норма в предприятията: В зависимост от чувствителността на регулациите всеки вертикал ще постигне приемлив XAI и рамка за управление, която ще бъде внедрена като част от дизайна, за разлика от днес, където се третира като добавка.

Генеративният AI върху таблични данни може да види своите хайп цикли в предприятията: Създаването на синтетични набори от данни се предполага, че е едно от лесните за внедряване решения за решаване на предизвикателствата, свързани с данните в предприятията. Екипите за наука за данни силно биха предпочели това, тъй като проблемът е в техен контрол, за разлика от разчитането на бизнеса, тъй като може да отнеме време, да са скъпи и да не се гарантира, че ще следват всички стъпки, докато събират данни. Синтетичните данни решават проблеми с пристрастията, дисбаланса на данните, поверителността на данните и недостатъчните данни. Разбира се, ефикасността на този подход предстои да бъде доказана. И все пак, с по-голяма зрялост в новите техники като трансформаторите, може да видим повече експерименти с традиционни набори от данни като таблични и многоизмерни данни. При успех този подход може да има огромно въздействие върху предприятията и MaaS предложенията.

Има ли нещо друго, което бихте искали да споделите за Arya.ai?

Фокусът на Arya.ai е решаването на „AI“ за банки, застрахователи и финансови услуги. Нашият подход е вертикализирането на технологията до последния слой и превръщането й в използваема и приемлива от всяка организация и заинтересована страна.

AryaXAI (xai.arya.ai) ще играе важна роля в доставянето му на масите във вертикала на FSI. Нашите текущи изследвания на синтетични данни успяха в няколко случая на употреба, но ние се стремим да ги направим по-жизнеспособна и приемлива опция. Ще продължим да добавяме повече слоеве към нашия „AI“ облак, за да служим на нашата мисия.

Мисля, че ще видим повече стартиращи фирми като Arya.ai, не само във FSI вертикала, но във всеки вертикал.

Благодаря ви за страхотното интервю, читателите, които искат да научат повече, трябва да го посетят Arya.ai.