micro1의 창립자 겸 CEO Ali Ansari – 인터뷰 시리즈

Ali Ansari는 micro1의 창립자 겸 CEO로, 인간의 전문성을 첨단 AI 시스템을 위한 학습 데이터와 평가 자료로 전환하는 데 주력하고 있습니다. 그는 소프트웨어 개발 에이전시를 설립하고 peerlinc를 창업한 뒤 2022년에 micro1을 출범시키며 기업가로서 경험을 쌓았습니다. UC Berkeley와 Stanford에서 컴퓨터 과학을 전공하고 강화 학습에 집중했으며, 현재는 AI 개발에 필요한 전문가의 참여를 발굴하고 평가하며 조율하는 시스템을 구축하고 있습니다.

micro1은 전문가의 참여와 현실적인 업무 환경을 활용해 최첨단 AI 모델의 학습과 AI 에이전트의 평가를 지원하는 데이터 연구소입니다. 이 플랫폼은 법률, 의료, 금융, 엔지니어링, 과학 등 여러 분야에서 전문 인력 채용, 데이터 제작, 품질 검토, 모델 평가를 통합합니다. 이번 인터뷰에서 Ansari는 인간 전문성에 대한 수요가 증가하는 이유, 운영 데이터가 강화 학습을 뒷받침하는 방식, AI 학습과 평가 분야에서 새롭게 생겨나는 진로 기회에 관해 이야기합니다.

2022년에 micro1을 창업하기 전에는 peerlinc를 설립해 매각하셨습니다. 처음에는 어떤 문제를 해결하려 하셨으며, micro1은 어떻게 최첨단 AI 모델의 학습과 평가에 주력하는 회사로 발전했나요?

처음에는 제 사업에서 겪은 문제를 해결하려 했습니다. 소프트웨어 개발 에이전시를 운영했는데, 새 프로젝트를 맡을 때마다 엔지니어를 더 찾아 면접을 진행해야 했습니다. 그 일에 제 시간을 너무 많이 쓰고 있었죠. 그래서 이를 돕기 위해 AI 면접관 Zara를 만들었고, 그 일이 결국 micro1로 이어졌습니다.

처음에는 채용 소프트웨어를 판매하고 검증된 인재를 연결하는 마켓플레이스를 구축했습니다. 그러던 중 한 고객이 AI 모델을 학습시키는 데 필요한 엔지니어 수백 명을 요청했습니다. 왜 그렇게 많은 인력이 필요한지 파고들기 시작했고, 모델 개발에 필요한 인간의 전문성에 대한 수요가 엄청나다는 사실을 깨달았습니다.

우리는 이미 수년간 대규모로 인재를 발굴하고 검증하는 역량을 구축해 왔습니다. 인간이 만든 데이터는 그 인프라를 활용할 수 있는 매우 강력한 분야였습니다. 그래서 이 분야에 전력을 다하기로 하고, AI 채용 도구를 활용해 전문 인재를 발굴하고 검증하는 한편, 이를 뒷받침할 데이터 플랫폼과 품질 관리 시스템도 구축했습니다. 오늘날 우리는 연구소들이 그 전문성을 더 뛰어난 모델 역량으로 전환하도록 돕고 있습니다.

AI 모델의 성능이 향상될수록 인간의 전문성에 대한 수요는 사라지기는커녕 오히려 커진다고 말씀하셨습니다. 이런 관계를 이끄는 요인은 무엇인가요?

몇 가지 요인이 작용하고 있습니다. 첫째, 모델의 성능이 좋아질수록 우리는 모델에 더 어려운 일을 맡깁니다. 질문에 답할 수 있는 모델도 유용합니다. 하지만 전체 업무 흐름을 수행할 수 있는 모델은 훨씬 더 유용하며, 그렇게 되려면 전문가의 참여가 훨씬 더 많이 필요합니다.

둘째, 인간은 계속해서 새로운 일을 만들어 냅니다. 변호사가 하루 일과 중 상당 부분을 AI로 처리할 수 있게 되면, 더 많은 시간을 들여 복잡한 문제를 다루거나 고객을 위한 새로운 서비스를 개발할 수 있습니다. 그렇게 새롭게 생겨난 업무 기능 역시 모델에 학습시켜야 할 대상이 됩니다. 이것이 바로 우리가 “마지막 단계는 없다”고 말하는 이유입니다. 업무는 계속 변화합니다.

합성 데이터는 이런 흐름을 더욱 흥미롭게 만듭니다. 전문가가 만든 과제와 피드백을 바탕으로 데이터를 확장하면, 처음에 투입된 인간의 입력을 더 유용하게 활용할 수 있습니다. 모델의 역량이 커지는 동시에 인간의 전문성에 대한 수요도 계속 늘어나는 이유는 이 두 가지가 결합되기 때문이라고 생각합니다.

micro1은 법률, 의료, 금융, 엔지니어링, 과학 등 다양한 분야의 전문가와 협력합니다. 이들은 기존 온라인 데이터만으로는 배울 수 없는 어떤 지식을 AI 시스템에 보탤 수 있나요?

뛰어난 의사나 변호사, 엔지니어를 만드는 요소 중 상당 부분은 실제 업무를 수행하며 쌓은 판단력입니다. 그중 일부는 문서로 남아 있지만, 상당 부분은 이례적인 사례를 처리하는 방식, 누락된 정보를 알아차리는 능력, 또는 어떤 세부 사항이 실제로 중요한지 판단하는 과정에서 드러납니다.

이런 지식은 모델 학습에 매우 중요합니다. 전문가는 어려운 과제를 만들고, 좋은 결과가 어떤 모습이어야 하는지 설명하며, 모델이 정확히 어느 부분에서 부족한지 짚어낼 수 있습니다. 답변이 매우 설득력 있게 들리더라도 해당 직무에 종사하는 사람에게 가장 중요한 점을 놓칠 수 있습니다.

이런 차이를 구별하려면 전문가가 필요합니다. 한 사람의 판단만으로는 모든 사례를 포괄할 수 없으므로 다양한 관점과 탄탄한 검토 절차도 필요합니다. 목표는 전문가의 경험을 모델이 학습할 수 있는 신호로 전환하는 것입니다. 각 분야에는 엄청나게 다양한 세부 사항도 있습니다. 예를 들어 법률 전문성은 하나의 단일한 지식이 아닙니다. 업무 분야와 주 또는 관할권에 따라 다르고, 국가마다 법률 체계도 다릅니다. 각각의 층위에는 더욱 전문적인 지식과 판단력이 필요합니다. 모든 분야와 그 안의 여러 하위 분야에도 이와 같은 깊이가 존재합니다. 따라서 각 차이가 실제 업무에서 무엇을 의미하는지 이해하는 전문가가 필요합니다.

업계의 관심이 점점 더 사후 학습, 강화 학습, 평가로 옮겨 가는 가운데, 오늘날 최첨단 모델의 성능을 개선하는 데 가장 큰 병목은 무엇이라고 보시나요?

현실적인 데이터에 접근하는 일이 가장 큰 병목 중 하나라고 생각합니다. 기업들은 수년간 문제를 해결하고 의사 결정을 내리며 예외 상황을 처리해 왔고, 그 과정에서 쌓인 경험은 문서와 시스템, 업무 흐름 전반에 담겨 있습니다. 모델이 실제 업무를 수행하는 방법을 학습하게 하려면 이런 데이터는 대단히 가치가 있습니다.

그래서 Company Data Partnerships 프로그램, 즉 CDP를 만들었습니다. 기업이 운영 데이터를 라이선스할 수 있도록 비용을 지급합니다. 여기에는 내부 문서, 프로젝트 이력, CRM 기록, 그리고 사람들이 업무를 처리하는 절차가 포함될 수 있습니다. 가치가 높은 기업 데이터 세트의 경우, 데이터와 파트너십에 따라 200만 달러가 넘는 금액을 지급하고 있습니다.

이 자료를 활용해 실제와 유사한 학습 및 평가 환경을 구축합니다. 고객 문제를 해결하는 상황을 생각해 보세요. 계정 이력을 살펴보고, 관련 정책을 찾아낸 뒤, 어떤 조치를 취할지 판단해야 할 수 있습니다. 이러한 업무 흐름을 기반으로 구축한 환경은 모델이 각 단계를 연습할 수 있는 공간을 제공합니다. 전문가들은 과제를 정의하고, 과제가 성공적으로 완료됐는지 평가하는 방법도 정합니다. 이러한 피드백 덕분에 이 환경은 강화 학습에 유용해집니다.

기업은 기초가 되는 데이터의 소유권을 유지합니다. 개인정보 보호 조치를 비롯해 데이터 이용 범위와 처리 요건을 합의하고, 의도된 용도에 맞게 데이터를 준비합니다.

가치는 기록에 담긴 경험에 있습니다. CDP를 통해 기업은 그 경험으로 수익을 얻는 동시에 모델이 훨씬 더 실제에 가까운 환경에서 작동하는 법을 배우도록 도울 수 있습니다.

모델의 역량이 크게 향상되더라도 AI 시스템이 따라 하기 특히 어려울 인간의 판단이나 전문성이 무엇이라고 보시나요?

인간의 취향과 창의성은 모델이 특히 따라 하기 어려울 영역이라고 생각합니다. 그 이유는 학습 데이터를 만드는 방식과 관련이 있습니다.

많은 과제에서는 전문가들을 모아 무엇이 좋은 결과인지 합의하게 할 수 있습니다. 그러면 학습에 활용할 만한 유용한 신호를 얻을 수 있습니다. 하지만 사람들에게 훌륭한 이미지나 영화, 매력적인 디자인이 무엇인지 물으면, 논의가 깊어질수록 의견이 더 크게 갈릴 수 있습니다. 모두가 합의할 수 있는 하나의 답이 항상 있는 것은 아닙니다.

그런 영역에서도 AI는 매우 유용해질 수 있습니다. 하지만 무엇을 만들고 싶은지, 누구를 위한 것인지, 실제로 사람들의 공감을 얻는지를 판단하려면 인간의 판단이 상당히 많이 필요합니다. 도구 덕분에 무언가를 더 쉽게 만들 수 있게 될수록 그러한 판단은 더욱 중요해진다고 생각합니다.

전문가들이 AI 학습과 평가를 부업이 아니라 진지한 전문 업무로 점점 더 받아들이는 모습이 보입니다. 이 일이 완전히 새로운 고용 분야로 발전할 수 있을까요? 그런 경력은 어떤 모습일까요?

물론입니다. 이미 수십억 달러 규모의 새로운 업무 분야가 형성되고 있습니다. 전문가들은 경력을 쌓으며 얻은 지식을 바탕으로 AI의 학습과 평가를 돕고 있습니다. 일부 사람들에게는 이 일이 직업 생활에서 상당한 비중을 차지하기 시작했습니다.

이 일은 그 자체로 상당히 깊이 있는 업무가 될 수 있습니다. 변호사는 어려운 상황을 설정하고 모델의 응답을 평가하는 기준을 정할 수 있습니다. 엔지니어는 에이전트가 소프트웨어 업무 흐름 전체를 수행하도록 하는 과제를 만들 수 있습니다. 데이터를 검토하고 평가 기준을 개선하며 전문가 팀을 이끄는 사람들도 있습니다. 이 일은 사람들이 처음에 그 분야를 선택하게 만든 일에 더 집중할 여유를 주기도 합니다. 대부분의 직업에서는 사람들이 가장 의미 있다고 여기는 업무와 무관한 행정 업무와 의무에 많은 시간을 씁니다. 자신의 전문 분야에서 AI를 학습시키면 어려운 문제를 해결하고, 판단력을 발휘하고, 경험을 통해 배운 점을 공유하는 등 전문성을 중심으로 일할 수 있습니다. AI가 해당 업무에 접근하는 방식의 형성에 기여하면서 자신이 중요하게 여기고 가장 잘하는 일에 더 많은 시간을 쓸 기회입니다.

이 모든 분야에서 실질적인 경력 경로가 생겨날 것이라고 생각합니다. 자신의 분야 전문성을 학습 데이터로 전환하는 일이나 데이터 파이프라인을 운영하고 모델에 어떤 도움이 필요한지 파악하는 일에서 뛰어난 역량을 갖출 수 있습니다. 이런 기술은 가치가 높으며, 이러한 역할이 어떤 모습일지 알아가는 과정은 아직 초기 단계입니다.

기업들이 AI 모델을 개선하기 위해 의사, 변호사, 엔지니어, 과학자 등 여러 분야의 전문가를 채용할 때, 전문성을 어떻게 검증하고 그 결과로 만들어지는 학습 데이터의 정확성과 일관성을 어떻게 보장하나요?

이를 위해 전체 시스템을 구축했습니다. 프로젝트에 필요한 기술을 갖춘 전문가를 찾고 검증하는 데 도움을 주는 AI 채용 도구 Zara에서 시작합니다. 그런 다음 Merit 도구로 전문가가 제공한 기여의 품질과 속도, 신뢰성을 시간에 따라 추적합니다. 각 전문가의 역량뿐 아니라 그 역량이 실제로 만들어 내는 데이터에 어떻게 반영되는지도 파악해야 합니다.

flow 플랫폼은 전문가의 작업을 데이터 생성과 검토를 지원하도록 구축한 모델과 연결합니다. 전문가들이 과제와 좋은 결과의 기준을 정합니다. 그런 다음 flow gen이 그 출발점을 바탕으로 새로운 예시와 변형 사례를 만들어 확장합니다. flow qc는 근거 누락이나 과제와 채점 기준 간의 불일치 같은 문제를 데이터에서 확인합니다. flow grader는 해당 기준에 따라 모델의 성능을 평가합니다.

중요한 것은 전문가가 실수를 발견했을 때 일어나는 일입니다. 그 수정은 학습 데이터를 개선할 뿐 아니라 생성기와 품질 검사 자체를 개선하는 데도 도움이 됩니다. 반복적으로 발생하는 실수를 다음 버전의 테스트로 만들 수 있습니다.

이것이 바로 우리가 구축하고 있는 합성 데이터 플라이휠입니다. 인간의 전문성은 출발점과 판단력을 제공합니다. 우리의 도구는 이를 확장하고, 전문가의 피드백은 다음 주기를 개선하는 데 도움을 줍니다. 그런 다음 이러한 변화가 실제로 모델 성능을 높이는지 테스트합니다. 이 과정이 가치 있는 이유가 바로 여기에 있습니다.

AI 에이전트는 단순히 응답을 생성하는 데 그치지 않고, 점점 더 복잡한 다단계 작업을 수행해야 합니다. 이러한 시스템을 훈련하고 평가하는 일은 기존 대규모 언어 모델을 개선하는 데 필요한 작업과 어떻게 다른가요?

가장 큰 차이는 작업의 길이입니다. 에이전트는 유용한 결과를 얻기까지 여러 도구를 사용해 수많은 작업을 수행해야 할 수 있습니다. 처음 몇 단계는 잘 해내더라도, 오류가 서로 누적되면서 전체 작업에는 실패할 수 있습니다.

따라서 모델이 전체 작업 흐름을 연습할 수 있는 환경과, 어느 지점에서 문제가 생기는지 알려주는 평가가 필요합니다. 올바른 정보를 찾았나요? 도구를 제대로 사용했나요? 원하는 결과를 실제로 달성했나요?

그리고 기업 자체의 맥락도 있습니다. 한 기업에서 일하는 에이전트는 해당 기업의 업무 절차와 기대 사항을 이해해야 합니다. 일반적인 역량만으로는 한계가 있습니다.

이때 도메인 전문가가 매우 중요한 역할을 합니다. 전문가는 실패 원인을 진단하고 개선에 필요한 데이터를 만드는 데 도움을 줍니다. 평가를 하고, 부족한 점을 찾아내고, 그 부분을 집중적으로 훈련한 뒤 다시 평가합니다. 에이전트가 더 많은 업무를 맡게 되면서 이 과정은 계속 이어집니다.

최첨단 모델의 역량이 향상되면서 필요한 인간 생성 데이터의 유형은 어떻게 달라지고 있나요? 또 앞으로 몇 년 동안 어떤 전문성이나 평가 방식의 가치가 크게 높아질 것으로 예상하시나요?

점점 더 중요해지는 것은 두 가지입니다. 작업이 얼마나 오래 이어지는지, 그리고 실제 세계를 얼마나 충실히 반영하는지입니다. 모델이 발전할수록 유용한 훈련 데이터는 더 많은 판단과 맥락, 실수할 가능성을 포함하는 복잡한 작업 흐름으로 옮겨갑니다.

그래서 현장 업무에 대한 전문성이 매우 중요합니다. 어떤 일을 수년간 해 온 사람은 외부에서 작업을 설계할 때 놓치기 쉬운 예외 상황과 의존 관계를 이해합니다. 또한 에이전트가 내놓은 결과가 실제 기업 환경에서 제대로 쓰일 수 있는지도 판단할 수 있습니다.

시간이 지나면서 기업용 평가가 잠재적으로 연간 1조 달러 규모의 거대한 시장이 될 것이라고 생각합니다. 에이전트를 도입하는 모든 기업은 에이전트가 어떤 업무를 잘 수행하고 어디에서 실패하는지, 그리고 어떻게 개선할 수 있는지 파악해야 합니다. 자신의 지식을 유용한 평가로 전환할 수 있는 사람들이 이 분야의 중심이 될 것입니다. 기업과 모델, 업무가 모두 계속 변하기 때문에 이는 지속적으로 필요한 일입니다.

일부 전문가는 사실상 자신의 업무 일부를 수행하도록 AI 시스템을 훈련하는 데 도움을 주고 있을 수도 있습니다. 이러한 긴장 관계를 어떻게 바라보시나요? 또 앞으로 3~5년 동안 인간의 전문성과 AI의 관계가 어떤 모습일 것이라고 생각하시나요?

사람들이 이러한 도구를 갖게 되면 얼마나 많은 새로운 일을 만들어낼지 우리가 과소평가한다고 생각합니다.

채용을 예로 들어보겠습니다. 에이전트가 초기 심사 업무를 더 많이 맡아 처리할 수 있다면, 채용 담당자는 지원자와 관계를 쌓거나 이전에는 회사가 다가갈 수 없었던 사람들에게 어떻게 연락할지 고민하는 데 더 많은 시간을 쓸 수 있습니다. 담당자의 역할은 달라지고, 같은 시간 동안 더 많은 일을 해낼 수 있습니다.

많은 직업에서 비슷한 변화가 일어날 것으로 예상합니다. 앞으로 3~5년 동안 에이전트는 사람들이 지시를 내리고, 맥락을 알려주고, 결과를 평가하는 동료로 점점 자리 잡을 것입니다. 그에 따라 사람들은 새로운 책임을 맡게 될 것입니다.

그래서 저는 낙관적입니다. 이미 AI 훈련과 평가를 둘러싼 새로운 일들이 생겨나고 있으며, 사람들이 AI로 무엇을 만들고 해낼 수 있는지 알아갈수록 앞으로 훨씬 더 많은 기회가 생길 것이라고 생각합니다.

좋은 인터뷰에 감사드립니다. 전문가가 주도하는 학습 데이터와 AI 평가, 그리고 자신의 분야 지식을 제공할 기회에 대해 더 알아보고 싶은 독자는 micro1을 방문해 주세요.