올가 메고르스카야, 톨로카의 창립자 및 CEO – 인터뷰 시리즈

올가 메고르스카야, 톨로카의 창립자이자 CEO는 2020년부터 회사를 이끌어 왔으며, 원래 크라우드 라벨링 루츠에서 AI 데이터 서비스의 주요 플레이어로 성장했습니다. 톨로카를 창립하고 이끄기 전에 그녀는 얀덱스에서 10년 이상 근무했으며, 크라우드소싱 및 플랫폼 책임자로 머신러닝 제품을 위한 크라우드소스 데이터 레이블링 인프라를 구축하고 확장했습니다.彼女의 리더십 아래에서 톨로카는 전 세계적인 AI 데이터 파트너로 자리 잡았습니다. 머신러닝 기술과 인간 전문 지식을 결합하여 대규모 AI 모델과 에이전트의 훈련, 평가 및 안전성을 지원합니다.

톨로카는 암스테르담에 본사를 둔 네덜란드 회사로, AI 개발을 위한 고품질, 전문가가 큐레이팅한 데이터를 제공합니다. 注釈 및 레이블링에서 시작하여 감독된 미세 조정(SFT) 및 인간 피드백에서 강화 학습(RLHF)을 위한 맞춤형 데이터 세트까지 다양한 모달리티(텍스트, 이미지, 오디오, 비디오)를 지원합니다. 도메인 전문가와 글로벌 크라우드를 동시에 활용하여 고급 AI 에이전트와 대규모 언어 모델을 훈련하고 평가하는 데 필요한 확장 가능하고 정확한 데이터 세트를 제공합니다. 톨로카의 서비스는 이유, 다국어 이해, 이미지/오디오 생성 및 AI 안전성과 같은 기능을 개선하는 데 도움이 됩니다.

여러 해 동안 얀덱스에서 인간-루프 시스템을 구축한 후 2020년에 톨로카를 공동 창립했습니다. 톨로카를 독립 회사로 만드는 데 결정적인 순간은 무엇이었나요? 그리고 그 경험이 톨로카의 AI 개발 역할에 대한 비전을 어떻게 형성했나요?

일정 시점에, 우리는 톨로카가 원래 회사에서 독립해야 한다고 깨달았습니다. 전 세계의 AI 연구자들이 플랫폼을 사용하고 있었으며, 독립적인實體로써 더 많은 것을 달성할 수 있을 것이라고 판단했습니다. 따라서 톨로카는 웹 검색, 음성 조작, 제네레이티브 AI 챗봇 및 AI 에이전트를 포함한 모든 AI 솔루션을 위한 훈련 데이터를 수집하는 수백 개의 AI 팀의 경험을 활용할 수 있었습니다. 우리는 인간 노력을 관리하는 전문 지식과 AI 에이전트를 구축하고 훈련하는 것을 결합하여 새로운 제품인 텐덤을 만들었습니다.

완전 자율 에이전트가 아닌 하이브리드 에이전트가 궁극적으로 승리할 것이라고 생각하는 이유는 무엇인가요?

많은 영역에서 완전 자율적인 AI 솔루션이 고객의需求을 완전히 만족하는 수준으로 발전할 것이라고 믿지만, 기본 모델이 최적화되지 않은 사용 사례가 항상 남아 있을 것입니다. 이것이 하이브리드 접근 방식이 AI 전용 솔루션과 인간 전용 솔루션을 모두 능가하는 영역입니다. 우리는 지난 10년 동안 반복적으로 같은 패턴을 보았습니다. AI는 작업을 아름답게 확장할 수 있지만, 세부 사항, 맥락 및 실제 비즈니스 환경에서 중요한 판단을 내리는 데에는 어려움을 겪습니다. 전문가들은 속도와 신뢰성을 모두 원합니다. 완전 자율적인 에이전트는 현재 이러한 것을 보장할 수 없습니다. 하이브리드 시스템이 승리하는 이유는 두 가지를 모두 해결하기 때문입니다. AI는 속도, 구조 및 반복 가능성에서 우수합니다. 인간 전문 지식은 모호성, 에지 케이스 및 해석을 채웁니다. 두 가지를 네이티브로 결합하면 빠르고 신뢰할 수 있는 워크플ロー가 됩니다.

모호성과 다중 문서推論에서 AI의 한계를 가장 명확하게 보여주는 작업은 무엇인가요?

장기 작업 – 여러 소스를 종합하거나, 상충되는 정보를 조정하거나, 맥락을 해석하거나, 인간이 수시간 또는 수일을 걸쳐 완료해야 하는 작업 – 현재 AI의 한계를 가장 명확하게 보여줍니다. 예를 들어, 시장 조사, 경쟁 분석, 장형 문서 요약, 혼합 입력에서 원본 콘텐츠를 작성하거나, 인간의 세부 사항을 인식하는 대신 패턴 인식을 통해 통찰력을 얻는 작업이 있습니다. AI는 첫 번째 시도를 잘합니다. 그러나 작업에 우선순위, 판단 또는 모호성을 해결하는 것이 필요한 순간, 신뢰성은 급격히 떨어집니다. đó가 인간 전문가가 필수적인 곳입니다.

전문가들이 AI 지원 시스템에 실제 작업을 위임할 때 신뢰를 어떻게 재건축합니까?

신뢰는 사람들이 AI 출력을 수정할 필요가 없을 때 향상됩니다. 우리의 접근 방식은 워크플로우의 처음부터 인간을 통합하여 신뢰를 재건축합니다. 텐덤의 모든 작업은 AI 프로젝트 매니저를 통해 흐르며, 자동화되어야 하는 부분과 인간 전문 지식이 필요한 부분을 결정합니다. 이후 자동화된 검사와 인간 QA를 통해 최종 출력이 정확하고 완전하며 비즈니스에 준비가 된 것을 보장합니다. 전문가들은 작업을 위임하고 검증된 결과를 실제로 기대할 수 있습니다. 수정할 필요가 없는 것입니다.

하이브리드 시스템에서 인간 전문가가 높은 품질의 출력을 유지하면서 워크플로우를 느리게 하지 않도록 하는 메커니즘은 무엇인가요?

두 가지가 가능하게 합니다:

• 대규모 전문화. 텐덤 네트워크의 전문가들은 사전 검증, 훈련 및 특정 작업 유형에 대한 도메인 전문 지식에 따라 매칭됩니다. 그들은 즉흥적으로 적응하려고 하는 일반 프리랜서가 아닙니다. 특정 작업 유형에 이미 자격을 갖춘 것입니다.
• 계층화된 QA 및 스마트 라우팅. AI는 기본 단계를 처리하므로 인간 전문가가 판단을 요구하는 부분에만 집중할 수 있습니다. 이후 필요한 경우 자동화된 QA와 인간 검증의 두 번째 계층이 있습니다. 이는 인간이 가장 가치를 추가하는 부분에서 참여할 수 있도록 유지하면서 병목 현상을 생성하지 않습니다.

결과는 자동화와 같은 속도이며, 전문가 검토와 같은 정확도입니다.

정확성과 준수성이 요구되는 산업에서 하이브리드 시스템이 어떻게 검증 가능성과 감사 가능성을 제공할 수 있나요?

하이브리드 시스템은 워크플로우의 모든 단계가 추적, 속성 및 품질 검사가 가능하므로 내재적으로 감사 가능성을 제공합니다. 자동화된 부분, 전문가가 수행한 부분 및 출력을 검증한 QA 단계를 모두 알 수 있습니다.高度하게 규제되는 산업에서 이 프로세스는 필수적입니다. 더 이상 블랙박스 AI 결정을 의존하지 않습니다. 검증된 판단, 수정 및 승인 체인이 있습니다. 이것이 하이브리드 시스템을 정확성과 준수성이 선택이 아닌 필수인 영역에서 적합하게 만듭니다.

하이브리드 에이전트가 먼저 적용될 지식 작업의 범주는 무엇이며, 어떤 범주는 가장 느리게 적용될까요?

전반적으로 하이브리드 접근 방식은 AI 전용 접근 방식보다 채택하기 훨씬 쉽다고 생각합니다. 따라서 거의 모든 도메인이 이 모델로 커버될 수 있다고 기대합니다. 차이점은 단지 AI와 인간 참여의 비율일 것입니다. 가장 초기의 적용자는 속도와 정확성이 모두 중요한 역할을 하는 전문가입니다. 이미 컨설팅, 마케팅, 세일즈 오퍼레이션, 연구 및 콘텐츠 생성에서 강한 당ギ를 보고 있습니다. 가장 복잡하고 아마도 가장 흥미로운 영역은 물리적 세계에 가까운 영역입니다. 그러나 기술적으로도 그곳에 도달하는 경로를 명확히 볼 수 있습니다.

조직은 하이브리드 에이전트로 전환할 때 운영적으로 어떤 이점을 얻나요?

하이브리드 에이전트는 두 가지 주요 비효율성을 제거합니다. 즉, 관리 오버헤드와 일관되지 않은 품질입니다. 조직과 전문가들은 더 이상 프리랜서를 모집, 검증, 브리핑, 관리 또는 수정할 필요가 없습니다. 하이브리드 에이전트는 자동으로 워크플로우 오케스트레이션을 처리하고 각 단계에 적절한 AI와 인간 전문 지식을 할당합니다. 이는ター어라운드 시간을 줄이고 출력 품질을 표준화하며 헤드카운트를 늘리지 않고 작업을 확장합니다. 즉, 자동화의 속도와 전문가 팀의 신뢰성을 얻지만, 둘 다를 관리하지는 않습니다.

하이브리드 시스템이 주류로 자리 잡을 때, 이는 더 넓은 프리랜서와 기그 경제에 어떤 영향을 미칠까요?

우리는 그것이 프리랜서 경제를 재구성할 것이라고 생각합니다. 프리랜서들은 더 이상 반복적인 작업에 시간을 보내지 않고, 특정 도메인에서 전문가로서 하이브리드 시스템에 플러그인할 수 있습니다. 작업은 더 구조化되고, 가치가 더 높고, 더 예측 가능하며, 더 안정적입니다. 일관되지 않은 프로젝트를 추구하는 대신, 전문가들은 텐덤과 같은 플랫폼에서 작업할 수 있으며, 그들의 기술은 적절한 작업에 매칭되고, 바쁜 작업을 제거하는 AI 시스템을 지원합니다.

몇 년 후, 하이브리드 에이전트가 디지털 작업 전반에 標準이 될 때, “AI에 위임”은 어떤 모습일까요?

위임은 더 이상 “도구 사용”과 같은 것이 아니라, 능력 있는 팀에게 작업을 넘기는 것과 같습니다. 원하는 결과를 설명하고, 하이브리드 에이전트가 작업을 분해하고, 서브 작업을 라우팅하고, 적절한 AI와 인간 전문 지식을 적용하고, 결과를 검증하고, 완성된 제품을 제공합니다. 모두 몇 시간 내에 이루어집니다. 변화는 AI를 드래프팅 어시스턴트로 사용하는 것에서, AI를 프로젝트 매니저로 사용하여 전체 워크플로우를 감독하는 것입니다. 그것이真正한 위임이 발생하는 때입니다. 전문가가 시스템이 시작점이 아닌 최종 출력을 제공할 수 있도록 신뢰할 수 있을 때입니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 원하는 독자는 톨로카를 방문할 수 있습니다.