비샬 시카 박사, 비아나이 창립자 겸 CEO – 인터뷰 시리즈

비샤르 시카는 비아나이(Vianai)의 창립자이자 CEO이며, 전 SAP AG의 CTO이자 인포시스의 전 CEO입니다. 현재 오라클의 이사회의 일원으로 활동하고 있으며, BMW 그룹의 감시위원회와 스탠퍼드 인간 중심 인공지능 연구소의 고문을 맡고 있습니다.

비아나이 플랫폼은 오픈 소스 요소, 비아나이 고유의 기술 및 최적화, 그리고 인간 중심의 디자인을 결합하여 기업에서 대규모로 AI를 도입할 수 있도록 합니다. 이 플랫폼을 통해 대규모 조직은 기존 인프라에서 복잡한 머신 러닝 모델을 구축, 최적화, 배포, 관리할 수 있으며, 기업 내 머신 러닝 모델의 운영 및 성능을 개선할 수 있습니다.

머신 러닝에 처음 관심을 가지게 된 계기는 무엇인가요?

저는 10대 시절 마빈 민스키의 인간의 마음을 단순한 에이전트의 사회로 묘사한 내용과 조 위젠바움의 초기 챗봇인 엘리자, 존 맥카시의 엘리자에 대한 비판을 읽은 후 머신 러닝에 관심을 가지게 되었습니다. 이후 스탠퍼드에서 존 맥카시가 제 AI 자격시험 위원회의 위원장을 맡아 주셨습니다. 맥카시와 민스키는 인공 지능 분야의 두 대가였으며, 두 사람은 AI의 능력과 한계에 모두 깊은 통찰을 갖고 있었고, 저는 그들과 함께 공부할 수 있는 행운을 누렸습니다.

현재도 우리는 AI가거대한 잠재력을 가지고 있지만동시에 많은 제한이 있음을 알 수 있습니다. 30년 전과 동일한 도전들이 아직도 존재하며, 특히 기업에서 AI를 도입할 때 이러한 도전들이 두드러집니다. 저는 학생 시절에 AI의 가치를 어떻게 실현할 수 있을지에 대해 관심을 가졌으며, 지금도 그에 대해 열정을 가지고 있습니다.

당신이 작성한 논문 중에서 가장 중요한 것은 무엇이라고 생각하시나요?

저는 학생 시절에 수천 개의 논문을 읽었습니다. 존 맥카시의 선견지명 있는 “Advice Taker” 논문과 AI의 주요 철학적 문제에 관한 논문, 마빈 민스키의 인간의 마음을 단순한 에이전트의 사회로 묘사한 논문, 신경망 기반의 연결주의와 기호적 AI 접근을 결합하는 논문, 주데아 펄의 확률적 추론과 인과 지능에 관한 논문, 데이비드 마의 비전에 관한 논문, 패트 윈스턴의 사례에서 사물의 설명을 학습하는 연구, 월딩거의 프로그램 합성에 관한 논문 등이 저의 관점을 형성했습니다. 최근에는 힌튼, 르쿤, 어텐션 연구자들의 연구, 신시아 루딘, 페르난다 비에가스 등의 연구를 읽었습니다.

현재 AI 시스템을 구축하는 개발자들의 경험은 어떻가요?

현재 AI 시스템을 구축하는 개발자들의 경험은 단편적이고 부실합니다. 통계에 따르면, 실제로 AI 시스템을 이해하는 사람은 약 20-30,000명으로 추정되며, 이는 MLOps 전문가의 수인 52,000명이나 데이터 과학자의 수인 100만 명보다 훨씬 적습니다. 이들 중 많은 사람은 시스템이 왜 그렇게 동작하는지, 왜 특정 추천을 하는지, 무엇이 잘못될 수 있는지 또는 기반 기술이 어떻게 작동하는지 설명하지 못합니다.

이러한 문제는 복잡한 환경에서 더욱 두드러집니다. 현재 가트너는 300개 이상의 MLOps 벤더를 추적하고 있으며, 각 벤더는 특정한 제품을 제공합니다. 대형 클라우드 벤더들은 자신의 플랫폼과 인프라에 기업들을 묶어 두려고 합니다.

또한 가장 발전된 모델을 실제로 구축하고 훈련하는 데 드는 계산 비용은 기업들이 감당하기에 너무 높은 경우가 많습니다. 이런 모델은 AI 시스템의 요구를 관리할 인재와 자원을 갖춘 소수 기업의 몫이 됩니다.

이해 부족, 복잡한 도구, 계산 비용이 결합되어 AI 역량을 갖추려는 기업에 단절되고 어려운 환경을 만듭니다. 비아나이는 AI를 더 쉽게 사용하고 이해하며 관찰할 수 있는 방법을 개발하면서, 최상의 성능을 얻는 데 필요한 자원과 비용을 크게 줄이고 있습니다.

비아나이의 창립 배경은 무엇인가요?

저는 기업에서 새로운 혁신을 도입하는 데 많은 시간을 보냈습니다. 저의 팀과 함께 우리는 수만 개의 기업에서 사용하는 제품을 개발했습니다. 또한, 두 번의근본적인 변화를 이끌었으며, 수백 개의 기업에서 변화를 주도했습니다. 이러한 경험과 함께, 저는 AI를 더 좋게 만들고, 인간의 삶을 개선할 수 있도록 하는 방법에 대해 관심을 가졌습니다.

2018년 말, 저는 가족과 함께 동남아시아에서 휴가를 보냈습니다. 우리는 한 시장에서 전통적인 기술과 현지의 돌로 만든 아름다운 수제 장신구을 보았습니다. 그러나, 그 보석을 만든 사람들은 외부에서 알려지지 않았습니다. 저는 그때, “이 판매자가 AI를 쓸 수 있다면 어떨까? 어떤 모습일까? 시스템은 어떻게 작동해야 할까?”라는 질문을 던졌습니다. 그 순간, 저는 모든 비즈니스가 AI로 변화될 것이라는 것을 깨달았습니다. 그 변화는 과거의 관점으로 바라볼 수 없으며, 처음부터 새롭게 출발하는 제품과 아이디어가 필요하다는 점도 깨달았습니다.

약 한 달 후, 저는 비아나이를 설립했습니다. 비아나이의 목표는 인간 중심의 AI를 비즈니스에 도입하는 것입니다. 우리는 비즈니스 사용자, 데이터 과학자, 머신 러닝 엔지니어, 그리고 원격 지역의 벤더들이 AI의 이점을 누릴 수 있도록 도와주는 제품과 서비스를 제공하고자 합니다.

그 이후, 우리는 비즈니스에서 AI를 시작하는 데 도움이 되는 애플리케이션을 개발했습니다. 또한, 머신 러닝 모델을 관리하고 모니터링하는 플랫폼을 개발했습니다. 그리고, 더 많은 기업들이 AI를 사용할 수 있도록 최적화 기술을 개발했습니다.

이 모든 과정에서, 우리는 인간의 이해력, 판단력, 그리고 협력을 데이터와 최선의 AI 기술과 결합하여 결합하는 데 큰 잠재력이 있지만 아직 충분히 활용되지 않았음을 발견했습니다. 선도적인 기업들과 일하며 작은 판매자를 도울 기술이 세계 최대 기업들도 도울 수 있음을 보았습니다.

비아나이의 인간 중심 AI는 무엇인가요?

인간 중심 AI는 인간의 작업을 증폭시키고 인간의 판단력을 향상시키는 AI입니다. 머신 러닝은 인간의 노동을 대체하는 것으로 생각되지만, AI는 인간을 보완하는 것입니다. AI는 인간이 복제할 수 없는 규모, 반복성, 그리고 정밀성을 제공합니다. 그러나, AI는 인간의 판단력, 경험, 그리고 상황에 대한 이해를 복제할 수 없습니다.

예를 들어, AI는 거북이를 라이플로 착각할 수 있습니다. 또한, AI는 아직 신뢰할 수 있는 수준에 도달하지 못했습니다. 따라서, 우리는 AI를과도하게 신뢰해서는 안 됩니다. 예를 들어, 한 기업의 AI는 인간의 개입 없이 거래를진행했으며, 한 시간도 안 되어 4.4억 달러를 손실했습니다.

최근의 예를 들어, 언어 모델은 아직도 쉽게 혼란스럽거나 편향될 수 있습니다. 텍스트로 이미지를 만드는 생성기는 잠재력이 크지만 이를 충분히 발휘하려면 인간 사용자의 매우 구체적인 명령이 필요합니다. 따라서, 인간 중심 AI는 이러한 문제를 해결하기 위한 접근 방식입니다. 우리는 인간의 이해력, 판단력, 그리고 협력을 데이터와 최선의 AI 기술과 결합하여 지능형 시스템을 개발하고 있습니다.

인간과 AI 사이의 피드백 루프는 무엇인가요?

인간이 감독 과정에 참여하는 HITL라는 AI의 한 분야는 인간의 피드백 메커니즘을 통해 AI의 성능을 자연스럽게 개선합니다. 이는 모든 시스템에서 자연스러운 과정입니다.

AI 시스템은 시간이 지남에 따라 재훈련을 통해 개선될 수 있습니다. 이는 사용자의 행동을 포함하여 재훈련에 반영됩니다. 이는 우리의 애플리케이션에서도 마찬가지입니다. 예를 들어, 우리는 한 금융 서비스 기업과 함께 수요 예측을 진행했습니다. 우리가 시스템을 설계한 방식으로 인해, COVID-19가 발생했을 때 다른 모델들이 실패했음에도 불구하고, 우리의 시스템은 빠르게 적응했고 다시 구축할 필요가 전혀 없었습니다.

이것은 인간 중심 AI의 두 번째이자 가장 중요한 측면입니다. 즉, 시스템을 설계할 때 현대적인 복잡성을 고려하여 시스템을 설계하는 것입니다. 이는 신뢰를 만들고 조직 및 사용자와 함께 성장하는 시스템을 만듭니다.

비아나이는 다음 세대의 AI 플랫폼인가요?

현재, 많은 사람들이 AI의 위험, 규제, 그리고 약속에 대해 논의하고 있습니다. 그러나, 비아나이는 이러한 문제를 해결하기 위한 접근 방식을 제시하고 있습니다. 즉, 인간 중심 AI의 개념입니다.

우리의 플랫폼은 기업에서 AI를 도입할 때 발생하는 문제를 해결하기 위해 설계되었습니다. 즉, 신뢰, 편향, 투명성의 문제입니다. 또한, 비아나이는 기업들이 AI를 확장할 수 있도록 모니터링과 최적화를 제공합니다. 그리고, 비기술적인 사용자들이 AI를 활용할 수 있도록 애플리케이션을 제공합니다.

기업에서 AI를 크게 간소화하는 플랫폼을 구축하는 데에는 어떤 도전이 있나요?

기업에서 AI를 도입할 때 가장 큰 도전은 인재, 도구, 기술입니다. 첫째, 인재는 몇몇 곳에 집중되어 있습니다. 특히, 대형 기술 기업에서입니다. 이는 외부 팀원들이 AI 프로그램의 운영, 거버넌스, 그리고 형성을 참여하기 어렵게 만듭니다. 또한 소수의 팀원만 운영을 맡기 때문에 편향이 더 커질 수 있습니다.

기술과 도구 또한 도전이 됩니다. 현재, 기술과 도구는 제한적입니다. AI를 구동하는 칩은 희귀하고 매우 비쌉니다. 도구는 특정 벤더에 잠겨 있으며, 비용을 절감하면서 가치를 확장하는 것을 어렵게 만듭니다. 기업이 AI 도입의 어느 단계에 있든 이런 어려움은 단절되고 분산된 전략을 만들고 적절한 기능을 수행할 도구를 빼앗아 유용하고 윤리적인 AI 구현을 어렵게 할 수 있습니다. 조직은 도입부터 유지보수까지 AI의 모든 영역을 지원하고, 성공을 위해 팀의 지원과 의견을 확보해야 합니다.

진정한 성공을 위해서는 플랫폼의 능력은 완전히 열려 있어야 하며, 모듈화되어야 하며, 유연해야 하며, 비싼 하드웨어와 소프트웨어 업그레이드에 의존해서는 안 됩니다. 또한, 인간 중심의 접근 방식을 통해 인간은 지식, 상황, 경험, 그리고 창의력을 문제 해결에 활용할 수 있습니다. 이는 AI 플랫폼에 의해 증폭되며 대체되지 않습니다.

비아나이에 대해 더 알고 싶은 내용이 있나요?

현재, 우리는 AI의 시대에 살고 있습니다. 많은 사람들이 AI에 대해 논의하고 있으며, 이는 전반적으로 좋은 것입니다. 우리는 많은 발전과 생성형 AI 같은 분야에서 과거보다 더 폭넓은 도입을 보이고 있습니다. 그러나, 우리는 또한 AI의 제한을 인식해야 합니다. 즉, 현재의 기술적 현실과 전문가의 부족, 그리고 특히 기업에서 AI에 대한 신뢰의 부족입니다. 만약에 우리는 AI를 우리의 삶, 사회, 우리의 잠재력의 증폭자로 프레임할 수 있다면, 그리고 AI를 감독할 수 있는필요한 감독을 한다면, 우리는 의미 있는 변화를 볼 수 있을 것입니다.

이 인터뷰에 감사드립니다. 더 많은 정보를 원하시는 독자는 비아나이의 웹사이트를 방문하십시오.