Vinay Kumar Sankarapu, Arya.ai의 공동 설립자 및 CEO – 인터뷰 시리즈

Vinay Kumar Sankarapu는 Arya.ai의 공동 설립자 및 CEO입니다. Arya.ai는 은행, 보험사, 금융 서비스 기관(BFSI)에서 신뢰할 수 있는 자체 학습 인공지능 엔진을 배포하기 위해 필요한 올바른 인공지능 API, 전문가 인공지능 솔루션 및 포괄적인 인공지능 거버넌스 도구를 제공하는 플랫폼입니다.

수학, 물리학, 화학, 기계 공학을 전공했습니다. 컴퓨터 과학 및 인공지능으로 전환한 여정을 설명해 주시겠습니까?

IIT 봄베이에는 학사와 석사 학위를 함께 취득하는 5년제 이중 학위 과정이 있습니다. 저는 기계공학을 전공하고 컴퓨터 지원 설계 및 제조를 세부 전공했으며, 컴퓨터 과학도 교육과정에 포함되어 있었습니다. 대학원 연구에서는 딥러닝을 선택했습니다. 처음에는 연속 제조 공정의 고장을 예측하는 프레임워크를 만들기 위해 딥러닝을 사용했지만, 최종적으로는 합성곱 신경망(CNN)을 활용한 잔여 수명(RUL) 예측 연구를 마쳤습니다. 2013~2014년경의 일입니다.

대학 시절에 Arya.ai를 설립했습니다. 이 스타트업의 기원에 대해 이야기해 주시겠습니까?

학술 연구를 위해 우리는 3-4개월 동안 문헌 검토를 통해 관심 주제, 지금까지 이루어진 연구의 범위, 우리 연구의 잠재적 초점에 대한 상세한 검토를 해야 했습니다. 2012/13년에 우리는 매우 기본적인 도구를 사용했습니다. 구글 스칼라와 스콥스와 같은 검색 엔진은 단순히 키워드 검색을 수행했습니다. 지식의 양을 이해하기가 매우 어려웠습니다. 나는 이 문제가 더 심각해질 것이라고 생각했습니다. 2013년에는 매분마다 최소 30개 이상의 논문이 발표되었습니다. 오늘날에는 그 수가 10-20배 증가했습니다.

우리는 연구자들에게 연구 주제를 제안하고 최신의 적절한 논문을 찾아 주며 STEM 연구 전반을 지원하는 교수 같은 AI 도우미를 만들고자 했습니다. 딥러닝 경험을 바탕으로 이 문제를 해결할 수 있다고 생각했습니다. 2013년 3명으로 Arya.ai를 시작했고, 제가 아직 대학에 다니던 2014년에 팀은 7명으로 늘었습니다.

첫 제품은 3,000만 건이 넘는 논문과 초록을 수집해 만들었습니다. 당시 최첨단 딥러닝 기법으로 AI STEM 연구 도우미와 문맥 검색 엔진을 개발했습니다. 그러나 교수와 동료들에게 시연하면서 시기상조였음을 깨달았습니다. 대화 흐름은 제한적이었지만 사용자는 자유롭고 연속적인 대화를 기대했습니다. 복잡한 질문에 답할 수 있었음에도 2014~2015년 당시의 기대는 매우 비현실적이었습니다.

그 후 연구 성과를 활용해 연구자와 기업이 딥러닝에 쉽게 접근할 수 있는 ML 도구와 작업 환경으로 방향을 바꾸었습니다. 그러나 2016년에는 딥러닝을 쓰는 데이터 과학자가 여전히 드물었습니다. 그래서 금융 서비스 기관이라는 한 산업에 집중해 전문적인 제품 계층을 구축했습니다. 대기업이 여러 산업을 아우르는 시장을 지향하는 동안 산업별 전문화는 스타트업에 강력한 차별점을 제공할 수 있다고 보았습니다. 이번에는 판단이 맞았습니다!

우리는 은행, 보험사, 금융 서비스 기관을 위한 AI 클라우드를 개발하고 있습니다. 고도로 전문화된 산업별 계층을 통해 확장 가능하고 책임 있는 AI 솔루션을 제공합니다.

금융에서 인공지능 블랙박스 문제는 얼마나 큰 문제입니까?

매우 중요합니다! 금융 기관 중 30%만이 AI의 잠재력을 충분히 활용합니다. 접근성 문제뿐 아니라 AI에 대한 신뢰와 감사 가능성의 부족도 원인입니다. 일부 지역에서는 민감도가 낮거나 중간 또는 높은 용도에 AI를 사용하는 법적 기준이 분명해졌습니다. 유럽연합에서는 고위험 용도에 투명한 모델을 사용하도록 법으로 요구합니다. 금융 기관의 용도 상당수가 고위험이므로 화이트박스 모델을 사용해야 합니다.

AI 솔루션에 대한 초기 경험을 거치면서 과열된 기대도 가라앉고 있습니다. 블랙박스 AI 사용의 영향, 모니터링하지 않아 발생한 AI 실패, 제한된 감사 가능성 때문에 법무 및 위험 관리자와 겪는 어려움에 관한 사례가 최근 늘고 있습니다.

인공지능 모니터링과 인공지능 관찰 가능성의 차이를 설명해 주시겠습니까?

 모니터링 도구의 역할은 단순히 상태를 감시하고 경고하는 것입니다. 관찰 가능성 도구는 감시와 보고를 넘어, 실패 원인을 찾거나 시간에 따른 실패를 예측할 수 있는 충분한 증거를 제공해야 합니다.

AI/ML에서 이러한 도구는 중요한 역할을 합니다. 필요한 역할이나 모니터링을 제공할 수 있지만, ML 관찰 가능성의 범위는

일반적인 목적의 플랫폼 대신 산업 특정 플랫폼이 필요한 이유는 무엇입니까?

범용 플랫폼은 산업과 무관하게 모든 사용자와 용도를 위해 설계되며, 누구나 가입해 사용을 시작할 수 있습니다. 이러한 플랫폼의 고객은 개발자, 데이터 과학자 등입니다. 그러나 이러한 플랫폼은 복잡성과 일괄적 접근 방식으로 인해 많은 문제를 일으킵니다.

안타깝게도 오늘날 대부분의 기업은 범용 플랫폼을 사용하려면 데이터 과학 전문가가 필요하며, 각 산업의 최종 사용자가 모델을 활용하도록 만들기 위한 추가 솔루션이나 제품 계층도 필요합니다. 이것에는 설명 가능성, 감사, 세그먼트/시나리오, 인간의 개입, 피드백 라벨링, 감사, 도구 특정 파이프라인 등이 포함됩니다.

이것이 산업 특정 인공지능 플랫폼이 필요한 이유입니다. 산업 특정 인공지능 플랫폼은 고객의 요구 사항을 해결하기 위해 전체 워크플로우를 소유하고 있습니다. 이것은 비즈니스 요구 사항을 이해하고 제품 성능을 모니터링하는 완전한 제품입니다.

산업별 AI 플랫폼은 규제 및 준수 체계, 데이터 개인정보 보호, 감사와 통제 등의 요구를 다룹니다. 개발 기간과 AI 도입 위험을 줄여 채택을 가속하고 운영 환경으로 가는 길을 단축합니다. 또한 산업의 AI 전문성을 제품 계층으로 모아 AI 수용성을 높이고 규정 준수를 촉진하며 윤리, 신뢰, 평판 문제에 관한 공통 접근법을 찾도록 돕습니다.

Arya.ai에서 제공하는 머신러닝 관찰 가능성 플랫폼에 대해 자세히 설명해 주시겠습니까?

우리는 6년 이상 금융 서비스 기관에서 일해 왔습니다. 2016년부터 시작했습니다. 이것은 우리에게 금융 서비스 기관에서 복잡한 인공지능을 배포하는 데 필요한 고유한 과제을 제공했습니다. 하나의 중요한 도전은 인공지능 수용이었습니다. 다른 산업과 달리, 소프트웨어(또한 인공지능 솔루션)를 사용하는 데에는 많은 규제가 있습니다. 데이터 개인 정보 보호, 윤리, 그리고 금융 영향이 있습니다.

이러한 과제를 규모 있게 해결하기 위해 보험금 청구 처리, 인수심사, 사기 모니터링 등의 솔루션에 설명 가능성, 감사, 사용 위험, 책임성 계층을 지속적으로 추가했습니다. 그 결과 금융 서비스 산업의 여러 이해관계자가 수용할 수 있는 확장 가능한 ML 관찰 가능성 프레임워크를 만들었습니다. 이제 이를 AryaXAI(xai.arya.ai)라는 직접 활용 가능한 버전으로 출시합니다. ML 팀이나 사업 팀은 이를 이용해 핵심 업무 용도를 위한 포괄적인 AI 거버넌스를 구축할 수 있습니다.

AryaXAI는 모든 이해관계자가 수용할 수 있는 투명성과 감사 가능성을 제공합니다. 신뢰할 수 있고 정확한 설명, 규제 실사를 뒷받침하는 증거, 고급 정책 통제를 통한 AI 불확실성 관리, 데이터 및 모델 드리프트 감시와 근본 원인 분석에 따른 경고를 제공해 핵심 업무의 AI를 더 안전하고 수용 가능하게 하고 운영 일관성을 확보합니다.

AryaXAI는 또한 공통 워크플로우를 제공하고 모든 이해관계자에게 적합한 통찰력을 제공합니다. 데이터 과학, IT, 위험, 운영, 규정 준수 팀이 모두 사용할 수 있으며, AI/ML 모델의 배포와 유지보수를 매끄럽고 복잡함 없이 수행하도록 돕습니다.

컨텍스트 정책 구현을 강화하는 플랫폼에 대해 자세히 설명해 주시겠습니까?

입력 특성과 예측의 수가 방대하므로 운영 환경에서 ML 모델을 감시하고 통제하기가 어렵습니다. 모델 행동의 불확실성은 거버넌스, 위험, 규정 준수의 관리와 표준화를 어렵게 하며, 모델 실패는 큰 평판 손실과 재정 손실로 이어질 수 있습니다.

AryaXAI는 정책/위험 제어를 제공합니다. 이것은 비즈니스와 윤리적 이익를 보호하기 위해 인공지능에 정책을 적용하는 것입니다. 사용자는 정책을 쉽게 추가, 편집, 수정할 수 있습니다. 이것은 크로스 기능 팀이 정책 가이드레일을 정의하여 지속적인 위험 평가를 허용합니다.

이러한 제품의 사용 사례에 대해 자세히 설명해 주시겠습니까?

AryaXAI는 다양한 임무 중요한 프로세스에 구현할 수 있습니다. 가장 일반적인 예는 다음과 같습니다.

BFSI: 엄격한 규제 환경에서 AryaXAI는 금융 기관이 요구사항을 맞추고, 위험 관리 및 규정 준수에 필요한 증거를 수집하도록 돕습니다.

• 담보 및 무담보 대출의 신용 위험 평가
• 사기/의심스러운 거래 식별
• 감사
• 고객 생애 주기 관리
• 신용 결정

자율 주행 자동차: 자율주행 차량은 엄격한 규제와 운영 안전을 준수하고 실시간 결정을 설명할 수 있어야 합니다. AryaXAI는 AI 시스템이 차량과 어떻게 상호작용하는지 이해하도록 돕습니다.

• 의사 결정 분석
• 자율 주행 자동차 운영
• 차량 상태 데이터
• 인공지능 운전 시스템 모니터링

의료: AryaXAI는 의료, 기술, 법률, 환자 관점에서 더 깊은 통찰력을 제공합니다. 신약 발견부터 제조, 영업, 마케팅에 이르기까지 여러 분야의 협업을 촉진합니다.

• 의약품 발견
• 임상 연구
• 임상 시험 데이터 검증
• 고품질 의료

금융에서 머신러닝의 미래에 대한 비전은 무엇입니까?

과거 10년 동안 인공지능에 대한 교육과 마케팅이 많았습니다. 우리는 하이프 사이클을 여러 번 보았습니다. 우리는 현재 4번째 또는 6번째 하이프 사이클에 있습니다. 첫 번째 하이프 사이클은 2011/12년 딥 러닝이 이미지넷에서 우승했을 때였습니다. 그 후에는 이미지/텍스트 분류, 음성 인식, 자율 주행 자동차, 생성 인공지능, 대규모 언어 모델 등이 나타났습니다.

하이프 사이클의 정점과 대규모 사용 사이의 간격은 각 하이프 사이클마다 줄어들고 있습니다. 이것은 제품, 수요, 자금 조달의 반복으로 인해 발생합니다.

세 가지 중요한 일이 발생했습니다.

1. 적어도 일부 전문가들은 AI 솔루션의 확장 프레임워크를 알아냈다고 생각합니다. 예를 들어, Open AI는 현재 수익을 창출하지 않는 조직이지만, 2년 내에 10억 달러의 수익을 창출할 것이라고 예상합니다. 모든 인공지능 회사에서 동일한 규모를 달성하지는 못할 것입니다. 그러나 확장 가능성의 템플릿은 더 분명해졌습니다.
2. 이상적인 인공지능 솔루션의 정의는 거의 모든 산업에서 명확해졌습니다. 이전에는 제품을 개발하기 위해 각 사용 사례와 조직마다 반복적인 실험을 수행해야 했습니다. 그러나현재는 이해관계자가 인공지능 솔루션에서 무엇을 필요로 하는지 더 잘 이해하고 있습니다.
3. 규제는 이제 따라잡고 있습니다. 데이터 개인 정보 보호와 인공지능 사용에 대한 규제의 필요성은현재 큰 추세입니다. 규제 기관은 인공지능의 안전하고 윤리적이며 책임 있는 사용을 위한 프레임워크를 발행하거나 발행하는 중입니다.

다음은 무엇일까요?

모델-서비스(MaaS)의 폭발:

모델 서비스(MaaS)는 여러 산업에 공통으로 적용되는 형태와 산업별 형태 모두에서 수요가 증가할 것입니다. OpenAI는 수평적 MaaS의 좋은 예이고 Arya.ai는 산업별 MaaS의 예입니다. Arya.ai는 구축 경험과 데이터셋을 바탕으로 중요한 산업별 데이터를 수집해 모델을 학습시키고 즉시 사용 가능한 모델이나 사전 학습 모델로 제공합니다.

산업별 전문화는 새로운 수평적 확장입니다: 클라우드 채택에서도 이 추세를 보았습니다. 수평적 클라우드 사업자가 모두를 위한 플랫폼에 집중하는 동안 산업별 사업자는 최종 사용자의 요구를 전문적인 제품 계층으로 제공합니다. MaaS에도 동일하게 적용됩니다.

XAI와 AI 거버넌스는 기업의 표준이 될 것입니다: 각 산업은 규제의 민감도에 따라 수용 가능한 XAI 및 거버넌스 체계를 마련하고, 오늘날처럼 부가 기능으로 다루는 대신 설계의 일부로 구현할 것입니다.

표 형식 데이터의 생성형 AI는 기업에서 과열된 기대의 주기를 겪을 수 있습니다: 합성 데이터셋 생성은 기업의 데이터 문제를 해결하기 위한 비교적 구현하기 쉬운 방안으로 여겨집니다. 데이터 과학 팀은 문제를 직접 통제할 수 있어 이를 선호할 것입니다. 사업 부문의 데이터 수집에 의존하면 시간이 걸리고 비용이 높을 수 있으며 모든 수집 절차의 준수를 보장할 수도 없습니다. 합성 데이터는 편향, 데이터 불균형, 개인정보 보호, 데이터 부족 문제를 해결합니다. 다만 이 접근법의 효과는 아직 입증되어야 합니다. Transformer와 같은 새 기법이 성숙하면서 표 형식 및 다차원 데이터 등 기존 데이터셋에서 더 많은 실험이 이루어질 수 있습니다. 성공하면 기업과 MaaS 제공 방식에 큰 영향을 미칠 수 있습니다.

Arya.ai에 관해 더 나누고 싶은 이야기가 있습니까?

Arya.ai의 초점은 은행, 보험사, 금융 서비스 기관을 위한 인공지능을 해결하는 것입니다. 우리의 접근 방식은 기술을 마지막 레이어까지 수직화하고 모든 조직과 이해관계자가 활용하고 수용할 수 있게 만드는 것입니다.

AryaXAI(xai.arya.ai)는 금융 서비스 산업에서 대중에게 인공지능을 제공하는 데 중요한 역할을 할 것입니다. 우리는 합성 데이터에 대한 연구를 진행 중이며, 몇 가지 사용 사례에서 성공을 거두었습니다. 우리는 이것을 더 실용적이고 수용 가능한 옵션으로 만들기 위해 노력할 것입니다. 우리는 우리의 인공지능 클라우드에 더 많은 레이어를 추가하여 우리의 임무를 수행할 것입니다.

나는 앞으로 더 많은 스타트업이 Arya.ai와 같은 것을 볼 수 있을 것입니다. 금융 서비스 산업뿐만 아니라 모든 산업에서입니다.

이 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 Arya.ai를 방문하십시오.