Интервью
Винай Кумар Санкарапу, соучредитель и генеральный директор Arya.ai – серия интервью
Винай Кумар Санкарапу, соучредитель и генеральный директор Арья.ай, платформа, которая предлагает «облако ИИ» для банков, страховых компаний и учреждений, предоставляющих финансовые услуги (BFSI), чтобы найти правильные API-интерфейсы ИИ, экспертные решения ИИ и комплексные инструменты управления ИИ, необходимые для развертывания надежных и самообучающихся механизмов ИИ.
Вы занимаетесь математикой, физикой, химией и машиностроением. Не могли бы вы рассказать о своем пути к переходу к информатике и искусственному интеллекту?
В IIT Bombay у нас есть «Программа двойного диплома», которая предусматривает 5-летний курс обучения как для бакалавров технологий, так и для магистров технологий. Я изучал машиностроение по специальности «Компьютерное проектирование и производство», где информатика является частью нашей учебной программы. Для нашего постдипломного исследования я решил работать над глубоким обучением. В то время как я начал использовать DL для создания структуры прогнозирования отказов для непрерывного производства, я закончил свое исследование использования CNN для прогнозирования RUL. Это было примерно в 2013/14 году.
Вы запустили Arya.ai, еще учась в колледже. Не могли бы вы поделиться историей возникновения этого стартапа?
В рамках академического исследования нам пришлось потратить 3-4 месяца на обзор литературы, чтобы создать подробное исследование по интересующей теме, объему проделанной работы и возможной области нашего исследования. В 2012/13 году инструменты, которые мы использовали, были довольно простыми. Поисковые системы, такие как Google Scholar и Scopus, просто выполняли поиск по ключевым словам. Было очень трудно осознать тот объем знаний, который был доступен. Я думал, что эта проблема будет только усугубляться. В 2013 году, я думаю, каждую минуту публиковалось не менее 30+ статей. Сегодня это как минимум в 10-20 раз больше.
Мы хотели создать помощника с искусственным интеллектом, такого как «профессор», для исследователей, чтобы помочь им предложить тему исследования, найти подходящую статью, которая наиболее актуальна, и все, что связано с исследованиями STEM. С нашим опытом в области глубокого обучения мы думали, что сможем решить эту проблему. В 2013 году мы запустили Arya.ai с командой из 3 человек, а затем в 7 году, когда я еще учился в колледже, она расширилась до 2014 человек.
Наша первая версия продукта была создана путем извлечения более 30 миллионов статей и рефератов. В то время мы использовали самые современные методы глубокого обучения, чтобы создать помощника по исследованиям STEM на основе искусственного интеллекта и контекстную поисковую систему для STEM. Но когда мы продемонстрировали помощника ИИ нескольким профессорам и коллегам, мы поняли, что опоздали. Диалоговые потоки были ограничены, и пользователи ожидали свободного потока и непрерывных конверсий. Ожидания были очень нереалистичными в то время (2014/15), хотя он отвечал на сложные вопросы.
После этого мы решили использовать наши исследования и сосредоточиться на инструментах машинного обучения для исследователей и предприятий в качестве рабочего места для демократизации глубокого обучения. Но опять же, в 2016 году очень немногие специалисты по данным использовали DL. Поэтому мы начали вертикализовать его для одной вертикали и сосредоточились на создании специализированных слоев продукта для одной вертикали, то есть для учреждений финансовых услуг (FSI). Мы знали, что это сработает, потому что, хотя крупные игроки стремятся выиграть в горизонтальной игре, вертикализация может создать большое УТП для стартапов. На этот раз мы были правы!
Мы создаем облако ИИ для банков, страховых компаний и финансовых служб с наиболее специализированными вертикальными уровнями для предоставления масштабируемых и ответственных решений ИИ.
Насколько серьезна проблема черного ящика ИИ в финансах?
Крайне важный! Только 30% финансовых учреждений используют «ИИ» в полной мере. Одной из причин является доступность, другой — отсутствие доверия к «ИИ» и возможности аудита. В настоящее время в нескольких географических регионах четко определены правила законности использования ИИ для случаев использования с низким, средним и высоким уровнем конфиденциальности. По закону ЕС требуется использовать прозрачные модели для случаев использования с «высоким риском». Многие варианты использования в финансовых учреждениях представляют собой варианты использования с высоким риском. Таким образом, они обязаны использовать модели белого ящика.
Циклы ажиотажа также успокаиваются благодаря раннему опыту работы с решениями ИИ. В последнее время появляется все больше примеров последствий использования «черного ящика» «ИИ», сбоев «ИИ» из-за того, что они не отслеживаются, и проблем с юридическими и риск-менеджерами из-за ограниченной возможности аудита.
Не могли бы вы обсудить разницу между мониторингом ML и наблюдаемостью ML?
Работа инструмента мониторинга заключается в том, чтобы просто отслеживать и предупреждать. И работа инструмента наблюдаемости заключается не только в мониторинге и отчетах, но, что наиболее важно, в предоставлении достаточного количества доказательств, чтобы найти причины сбоев или предсказать эти сбои с течением времени.
В AI/ML эти инструменты играют решающую роль. В то время как эти инструменты могут предоставлять необходимые роли или мониторинг, объем наблюдаемости машинного обучения
Почему для наблюдения за машинным обучением нужны отраслевые платформы, а не платформы общего назначения?
Платформы общего назначения предназначены для всех и любого варианта использования, независимо от отрасли — любой пользователь может присоединиться и начать использовать платформу. Клиентами этих платформ обычно являются разработчики, специалисты по данным и т. д. Платформы, однако, создают несколько проблем для заинтересованных сторон из-за их сложной природы и универсального подхода.
К сожалению, сегодня большинству предприятий требуются специалисты по науке о данных для использования универсальных платформ и дополнительные уровни решений/продуктов, чтобы сделать эти модели «пригодными для использования» конечными пользователями в любой вертикали. Это включает в себя объяснимость, аудит, сегменты/сценарии, процессы с участием человека в цикле, маркировку обратной связи, аудит, конвейеры для конкретных инструментов и т. д.
Именно здесь отраслевые платформы искусственного интеллекта становятся преимуществом. Отраслевая платформа искусственного интеллекта контролирует весь рабочий процесс для удовлетворения потребностей или вариантов использования целевого клиента и разработана для предоставления полного продукта от начала до конца, от понимания бизнес-потребностей до мониторинга производительности продукта. Существует множество отраслевых барьеров, таких как нормативно-правовая база, требования к конфиденциальности данных, требования к аудиту и контролю и т. д. Отраслевые платформы и предложения ИИ ускоряют внедрение ИИ и сокращают путь к производству за счет сокращения времени разработки и связанных с этим рисков. в развертывании ИИ. Кроме того, это также поможет объединить опыт ИИ в отрасли в качестве уровня продукта, который поможет повысить признание «ИИ», усилить соблюдение требований и определить общие подходы к этике, доверию и проблемам репутации.
Не могли бы вы поделиться некоторыми подробностями о платформе ML Observability, которую предлагает Arya.ai?
Мы работаем в финансовых учреждениях уже более 6 лет. С 2016 года. Это дало нам возможность заблаговременно столкнуться с уникальными проблемами при развертывании сложного ИИ в FSI. Одной из важных проблем было «принятие ИИ». В отличие от других вертикалей, существует множество правил использования любого программного обеспечения (также применимого к решениям «ИИ»), конфиденциальности данных, этики и, что наиболее важно, финансового воздействия на бизнес. Чтобы решить эти проблемы в масштабе, нам приходилось постоянно изобретать и добавлять новые уровни объяснимости, аудита, рисков использования и подотчетности поверх наших решений — обработка претензий, андеррайтинг, мониторинг мошенничества и т. д. Со временем мы создали приемлемую и масштабируемую систему машинного обучения. Структура наблюдаемости для различных заинтересованных сторон в сфере финансовых услуг.
Сейчас мы выпускаем самодельную версию фреймворка под названием AryaXAI (xai.arya.ai). Любая ML или бизнес-команда может использовать AryaXAI для создания комплексного управления ИИ для критически важных случаев использования. Платформа обеспечивает прозрачность и возможность аудита ваших решений ИИ, которые приемлемы для всех заинтересованных сторон. AryaXAI делает ИИ более безопасным и приемлемым для критически важных случаев использования, обеспечивая надежную и точную объяснимость, предлагая доказательства, которые могут поддержать нормативную осмотрительность, управляя неопределенностью ИИ, предоставляя расширенные элементы управления политиками и обеспечивая согласованность в производстве путем мониторинга данных или отклонения модели и оповещения пользователей. с анализом первопричин.
AryaXAI также выступает в качестве общего рабочего процесса и предоставляет информацию, приемлемую для всех заинтересованных сторон — специалистов по науке о данных, ИТ, специалистов по управлению рисками, операций и соответствия требованиям, что делает развертывание и обслуживание моделей AI/ML беспрепятственным и беспрепятственным.
Еще одно предлагаемое решение — это платформа, расширяющая применимость модели машинного обучения за счет реализации контекстной политики. Не могли бы вы описать, что это конкретно?
Становится сложно отслеживать и контролировать модели машинного обучения в производстве из-за огромного количества функций и прогнозов. Кроме того, неопределенность поведения модели усложняет управление и стандартизацию управления, рисков и соблюдения нормативных требований. Такие сбои моделей могут привести к большим репутационным и финансовым потерям.
AryaXAI предлагает «Контроль политики/рисков», критически важный компонент, который защищает деловые и этические интересы, применяя политики в отношении ИИ. Пользователи могут легко добавлять/редактировать/модифицировать политики для администрирования элементов управления политиками. Это позволяет межфункциональным командам определять ограничения политик для обеспечения непрерывной оценки рисков, защищая бизнес от неопределенности ИИ.
Каковы примеры использования этих продуктов?
AryaXAI может быть реализован для различных критически важных процессов в различных отраслях. Наиболее распространенные примеры:
БФСИ: В условиях строгих нормативных требований AryaXAI упрощает для отрасли BFSI согласование требований и сбор доказательств, необходимых для управления рисками и обеспечения соответствия.
- Кредитный андеррайтинг для обеспеченных / необеспеченных кредитов
- Выявление мошеннических/подозрительных транзакций
- Аудит
- Управление жизненным циклом клиента
- Кредитное решение
Автономные автомобили: Автономные транспортные средства должны соответствовать нормативным требованиям, эксплуатационной безопасности и объяснимости при принятии решений в режиме реального времени. AryaXAI позволяет понять, как система искусственного интеллекта взаимодействует с автомобилем.
- Анализ решений
- Автономные транспортные средства
- Данные о состоянии автомобиля
- Мониторинг системы вождения с искусственным интеллектом
Здравоохранение: AryaXAI обеспечивает более глубокое понимание с точки зрения медицины, технологий, права и пациентов. От открытия лекарств до производства, продаж и маркетинга Arya-xAI способствует междисциплинарному сотрудничеству.
- Открытие лекарств
- Клинические исследования
- Проверка данных клинических испытаний
- Более качественный уход
Каким вы видите будущее машинного обучения в финансах?
За последнее десятилетие вокруг «ИИ» было проведено огромное количество образовательных и маркетинговых мероприятий. За это время мы видели несколько циклов ажиотажа. Вероятно, сейчас мы были бы на 4-м или 6-м цикле ажиотажа. Во-первых, Deep Learning выиграл ImageNet в 2011/12 году, за ним последовала работа над классификацией изображений/текста, распознаванием речи, автономными автомобилями, генеративным искусственным интеллектом и, в настоящее время, с большими языковыми моделями. Разрыв между пиком ажиотажа и массовым использованием сокращается с каждым циклом ажиотажа из-за итераций вокруг продукта, спроса и финансирования.
Эти три вещи произошли сейчас:
- Я думаю, что мы взломали рамки масштабирования решений ИИ, по крайней мере, для нескольких экспертов. Например, Open AI в настоящее время не является организацией, приносящей доход, но они планируют получить доход в размере 1 миллиарда долларов в течение 2 лет. Хотя не каждая ИИ-компания может не достичь аналогичного масштаба, шаблон масштабируемости более четкий.
- Определение идеальных ИИ-решений почти понятно для всех вертикалей: В отличие от того, что было раньше, когда продукт создавался посредством итерационных экспериментов для каждого варианта использования и каждой организации, заинтересованные стороны получают все больше знаний, чтобы понять, что им нужно от решений ИИ.
- Правила сейчас догоняют: Потребность в четких правилах в отношении конфиденциальности данных и использования ИИ в настоящее время набирает обороты. Руководящие и регулирующие органы могут опубликовать или публикуют рамки, необходимые для безопасного, этичного и ответственного использования ИИ.
Что дальше?
Взрыв модели «Модель как услуга (MaaS)»:
Мы увидим растущий спрос на предложения «Модель как услуга» не только по горизонтали, но и по вертикали. В то время как «OpenAI» представляет собой хороший пример «горизонтального MaaS», Arya.ai является примером вертикального «MaaS». Обладая опытом развертывания и наборов данных, Arya.ai собирает критические вертикальные наборы данных, которые используются для обучения моделей и предоставляют их в виде готовых к использованию или предварительно обученных моделей.
Вертикализация — это новая горизонталь: Мы видели эту тенденцию в «принятии облачных вычислений». В то время как горизонтальные облачные игроки сосредотачиваются на «платформах для всех», вертикальные игроки сосредотачиваются на требованиях конечного пользователя и предоставляют их как специализированный уровень продукта. Это верно даже для предложений MaaS.
Управление XAI и AI станет нормой на предприятиях: В зависимости от чувствительности нормативных требований каждая вертикаль будет иметь приемлемую структуру XAI и управления, которая будет реализована как часть проекта, в отличие от сегодняшнего дня, когда она рассматривается как надстройка.
Генеративный ИИ на табличных данных может увидеть циклы ажиотажа на предприятиях: Создание синтетических наборов данных предположительно является одним из простых в реализации решений для решения проблем, связанных с данными на предприятиях. Команды по обработке данных очень предпочли бы это, поскольку проблема находится в их контроле, в отличие от того, чтобы полагаться на бизнес, поскольку это может занять время, быть дорогостоящим и не гарантирует выполнения всех шагов при сборе данных. Синтетические данные решают проблемы предвзятости, дисбаланса данных, конфиденциальности данных и недостаточности данных. Конечно, эффективность этого подхода еще предстоит доказать. Тем не менее, с большей зрелостью новых методов, таких как преобразователи, мы можем увидеть больше экспериментов с традиционными наборами данных, такими как табличные и многомерные данные. В случае успеха этот подход может оказать огромное влияние на предприятия и предложения MaaS.
Есть ли что-нибудь еще, что вы хотели бы рассказать об Arya.ai?
В центре внимания Arya.ai находится решение «ИИ» для банков, страховых компаний и финансовых служб. Наш подход заключается в вертикализации технологии до последнего уровня и обеспечении ее пригодности и приемлемости для каждой организации и заинтересованного лица.
AryaXAI (xai.arya.ai) будет играть важную роль в донесении его до масс в рамках вертикали FSI. Наше текущее исследование синтетических данных увенчалось успехом в нескольких случаях использования, но мы стремимся сделать его более жизнеспособным и приемлемым вариантом. Мы продолжим добавлять новые слои в наше облако «ИИ», чтобы служить нашей миссии.
Я думаю, мы увидим больше таких стартапов, как Arya.ai, не только в вертикали FSI, но и во всех вертикалях.
Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Арья.ай.
