구글, AI 훈련 요구 사항 10,000배 절감

인공지능 산업은 근본적인 역설에 직면해 있습니다. 기계가 이제 방대한 데이터를 처리할 수 있게 되었지만, 학습은 놀라울 정도로 비효율적이며 수익 감소라는 과제에 직면해 있습니다. 기존의 머신러닝 방식은 방대한 양의 레이블이 지정된 데이터 세트를 요구하는데, 이는 수백만 달러의 비용이 들고 생성하는 데 수년이 걸릴 수 있습니다. 이러한 방식은 일반적으로 더 많은 데이터가 더 나은 AI 모델로 이어질 것이라는 믿음에 기반합니다. 그러나 구글 연구원들은 최근 혁신적인 방법 이러한 오랜 믿음에 도전하는 것입니다. 이들은 최대 10,000만 배 더 적은 훈련 데이터로 유사한 AI 성능을 달성할 수 있음을 보여줍니다. 이러한 발전은 AI에 대한 우리의 접근 방식을 근본적으로 바꿀 잠재력을 가지고 있습니다. 이 글에서는 구글 연구원들이 이러한 획기적인 성과를 어떻게 달성했는지, 이 개발이 미래에 미칠 잠재적 영향, 그리고 앞으로의 과제와 방향을 살펴보겠습니다.

AI의 빅데이터 과제

수십 년 동안 "더 많은 데이터는 더 나은 AI를 의미한다"라는 구호는 업계의 AI 접근 방식을 주도해 왔습니다. 다음과 같은 대규모 언어 모델 GPT-4 학습 과정에서 수조 개의 토큰을 소모합니다. 이처럼 데이터 집약적인 접근 방식은 광범위한 리소스나 전문 데이터 세트가 부족한 조직에 상당한 장벽을 초래합니다. 첫째, 수작업 라벨링 비용이 상당히 높습니다. 전문 주석 작성자는 높은 요금을 부과하며, 필요한 데이터의 양이 너무 많아 프로젝트 비용이 증가합니다. 둘째, 수집된 데이터의 대부분이 중복되는 경우가 많아 학습 과정에서 중요한 역할을 하지 못합니다. 또한 기존 방식은 변화하는 요구 사항에 적응하는 데 어려움을 겪습니다. 정책 변화 새로운 유형의 문제가 있는 콘텐츠가 등장하면 기업은 라벨링 프로세스를 처음부터 다시 시작해야 합니다. 이 프로세스는 값비싼 데이터 수집과 모델 재학습이라는 끊임없는 악순환을 야기합니다.

능동 학습을 통한 빅데이터 과제 해결

이러한 데이터 과제를 해결할 수 있는 알려진 방법 중 하나는 다음과 같습니다. 적극적인 학습이 접근법은 인간 라벨링에 가장 가치 있는 학습 사례를 식별하는 신중한 큐레이션 프로세스에 의존합니다. 기본 아이디어는 모델이 사용 가능한 모든 데이터를 수동적으로 사용하는 대신, 가장 혼란스럽다고 생각하는 사례에서 가장 잘 학습한다는 것입니다. 대규모 데이터 세트를 필요로 하는 기존 AI 방법과 달리, 능동 학습은 가장 유익한 사례만 수집하는 데 집중하는 더욱 전략적인 접근법을 취합니다. 이 접근법은 모델에 거의 가치가 없는 명백하거나 중복된 데이터에 라벨을 지정하는 비효율성을 방지하는 데 도움이 됩니다. 능동 학습은 모델 성능을 크게 향상시킬 수 있는 경계 사례와 불확실한 사례를 대상으로 합니다.

전문가의 노력을 이러한 핵심 사례에 집중시킴으로써, 능동 학습은 훨씬 적은 데이터 포인트로 모델이 더 빠르고 효과적으로 학습할 수 있도록 합니다. 이러한 접근 방식은 기존 머신러닝 접근 방식의 데이터 병목 현상과 비효율성을 모두 해결할 수 있는 잠재력을 가지고 있습니다.

Google의 능동 학습 접근 방식

구글 연구팀은 이 패러다임을 성공적으로 적용했습니다. 그들의 새로운 능동 학습 방법론은 신중하게 선별된 고품질 사례가 방대한 양의 레이블이 지정된 데이터를 대체할 수 있음을 보여줍니다. 예를 들어, 전문가가 레이블을 지정한 500개 미만의 사례로 학습된 모델이 100,000만 개의 기존 레이블로 학습된 시스템의 성능과 동일하거나 그 이상의 성능을 보였습니다.

이 프로세스는 구글이 "LLM-as-Scout"이라고 부르는 시스템을 통해 작동합니다. 대규모 언어 모델은 먼저 방대한 양의 레이블이 지정되지 않은 데이터를 검토하여 가장 불확실하다고 느껴지는 사례를 식별합니다. 이러한 경계 사례는 모델의 의사 결정 개선을 위해 인간의 도움이 필요한 정확한 시나리오를 나타냅니다. 이 프로세스는 기본 프롬프트를 사용하여 대규모 데이터 세트에 레이블을 지정하는 초기 모델로 시작합니다. 그런 다음 시스템은 예측된 분류 기준으로 사례를 클러스터링하고 모델이 여러 범주 간에 혼동을 보이는 영역을 식별합니다. 이러한 중첩된 클러스터는 전문가의 인간 판단이 가장 가치 있게 활용될 수 있는 정확한 지점을 보여줍니다.

이 방법론은 서로 가장 가까이 위치하지만 레이블이 다른 사례 쌍을 명시적으로 대상으로 합니다. 이러한 경계 사례는 인간의 전문성이 가장 중요한 상황을 정확히 나타냅니다. 전문가 레이블링 작업을 이러한 혼란스러운 사례에 집중함으로써 시스템은 놀라운 효율성 향상을 달성합니다.

수량보다 품질

이 연구는 AI의 일반적인 가정에 도전하는 데이터 품질과 관련된 중요한 결과를 보여줍니다. 높은 정확도를 갖춘 전문가 레이블이 대규모 크라우드소싱 주석보다 지속적으로 우수한 성과를 보인다는 것을 보여줍니다. 연구진은 이를 다음과 같은 방법으로 측정했습니다. 코헨의 카파는 모델의 예측이 전문가 의견과 얼마나 일치하는지, 우연의 일치를 넘어 평가하는 통계 도구입니다. 구글의 실험에서 전문가 주석 작성자들은 코헨의 카파 점수 0.8 이상을 달성하여 크라우드소싱이 일반적으로 제공하는 것보다 훨씬 우수한 성과를 보였습니다.

이러한 높은 일관성 덕분에 모델은 훨씬 적은 수의 예제에서 효과적으로 학습할 수 있습니다. 제미니 나노-1과 Nano-2에서 모델은 약 250만 개의 무작위 크라우드소싱 라벨을 사용한 것과 달리, 신중하게 선택된 450~100,000개의 사례만을 사용하여 전문가의 일치도와 일치하거나 이를 능가했습니다. 이는 55~65배의 감소입니다. 그러나 이러한 이점은 단순히 데이터 사용량 감소에만 국한되지 않습니다. 이러한 접근 방식으로 학습된 모델은 기존 방식으로 학습된 모델보다 성능이 우수한 경우가 많습니다. 복잡한 작업과 대규모 모델의 경우, 기준 대비 성능 향상률이 XNUMX~XNUMX%에 달했으며, 이는 정책 전문가와의 일치도가 더욱 실질적이고 신뢰할 수 있음을 보여줍니다.

이 획기적인 발견이 지금 중요한 이유

이러한 발전은 AI 산업에 있어 매우 중요한 시기에 이루어졌습니다. 모델이 더욱 커지고 정교해짐에 따라, 학습 데이터를 확장하는 기존 방식은 점점 더 지속 불가능해졌습니다. 환경 비용 대규모 모델 훈련이 계속됩니다 성장그리고 많은 기업이 진입하기에는 경제적 장벽이 여전히 높습니다.

구글의 방법 구애 여러 산업 과제가 동시에 발생합니다. 라벨링 비용이 크게 감소함에 따라 소규모 조직과 연구팀도 AI 개발에 더 쉽게 접근할 수 있게 되었습니다. 빠른 반복 주기 덕분에 변화하는 요구 사항에 신속하게 대응할 수 있으며, 이는 콘텐츠 관리나 사이버 보안과 같은 역동적인 분야에서 필수적입니다.

이 접근법은 AI 안전성과 신뢰성에 더 광범위한 영향을 미칩니다. 모델이 가장 불확실한 사례에 초점을 맞춤으로써, 이 방법은 잠재적인 실패 모드와 경계 사례를 자연스럽게 파악합니다. 이 과정을 통해 시스템의 한계를 더 잘 이해하는 더욱 견고한 시스템이 구축됩니다.

AI 개발에 대한 더 광범위한 의미

이러한 획기적인 발전은 규모보다 효율성이 더 중요한 AI 개발의 새로운 국면에 접어들고 있음을 시사합니다. 데이터 학습에 대한 기존의 "크면 클수록 좋다"는 접근 방식은 데이터 품질과 전략적 선택을 우선시하는 더욱 정교한 방법으로 대체될 수 있습니다.

환경적 영향만으로도 심각합니다. 현재 대규모 AI 모델을 훈련하는 데는 막대한 컴퓨팅 리소스와 에너지 소비가 필요합니다. 만약 훨씬 적은 데이터로 비슷한 성능을 달성할 수 있다면, AI 개발의 탄소 발자국을 상당히 줄일 수 있을 것입니다.

민주화 효과 또한 마찬가지로 중요할 수 있습니다. 이전에는 대규모 데이터 수집에 투자할 여력이 없었던 소규모 연구팀과 기관들이 이제 경쟁력 있는 AI 시스템을 구축할 수 있는 길을 열게 되었습니다. 이러한 발전은 혁신을 가속화하고 AI 개발에 대한 더욱 다양한 관점을 창출할 수 있습니다.

제한 및 고려 사항

유망한 결과에도 불구하고, 이 방법론은 몇 가지 실질적인 과제에 직면해 있습니다. 코헨의 카파 점수가 0.8 이상인 전문가 주석 작성자가 필요하다는 점은 충분한 전문성이나 명확한 평가 기준이 부족한 분야에서는 적용에 제한이 될 수 있습니다. 이 연구는 주로 분류 작업과 콘텐츠 안전 응용 분야에 중점을 두고 있습니다. 이러한 획기적인 개선이 언어 생성이나 추론과 같은 다른 유형의 AI 작업에도 적용될지는 아직 불확실합니다.

능동 학습의 반복적인 특성은 기존 일괄 처리 방식에 비해 복잡성을 야기합니다. 조직은 지속적인 모델 개선을 가능하게 하는 쿼리-응답 주기를 지원하기 위해 새로운 워크플로와 인프라를 개발해야 합니다.

향후 연구에서는 전문가 수준의 주석 품질을 유지하고 핵심 방법론을 도메인별로 적용하기 위한 자동화된 접근 방식을 모색할 것으로 예상됩니다. 능동 학습 원칙을 다음과 같은 다른 효율성 기법과 통합하는 것이 중요합니다. 매개변수 효율적 미세 조정, 추가적인 성능 향상을 가져올 수 있습니다.

히프 라인

구글의 연구에 따르면, 타겟팅된 고품질 데이터가 방대한 데이터 세트보다 더 효과적일 수 있습니다. 가장 가치 있는 사례에만 라벨을 지정하는 데 집중함으로써, 성능은 향상시키면서 학습 요구 사항을 최대 10,000배까지 줄였습니다. 이러한 접근 방식은 비용을 절감하고, 개발 속도를 높이며, 환경에 미치는 영향을 줄이고, 고급 AI의 접근성을 높입니다. 이는 효율적이고 지속 가능한 AI 개발을 향한 중요한 전환을 의미합니다.