AI 기초
Few-shot 학습이란 무엇인가?
Unite.AI를 Google의 선호 소스에 추가
Few-shot 학습은 모델이 소수의 라벨이 지정된 예시만으로 새로운 작업이나 클래스에 어떻게 적응할 수 있는지를 연구합니다. 전통적인 벤치마크에서는 에피소드가 지원 집합을 제공하는데, 예를 들어 클래스당 하나 또는 다섯 개의 예시가 있는 다섯 개의 클래스를 제공하고 모델에게 보이지 않는 질의들을 분류하도록 요구합니다.
이 용어는 사전 학습된 언어 모델이 파라미터를 업데이트하지 않고 프롬프트에 몇 개의 시연을 제공받는 인컨텍스트 학습에도 사용됩니다. 이러한 설정은 적은 예시를 목표로 하지만 적응 메커니즘이 다르고 평가 설계도 달라야 합니다.
핵심 요약
- N-way K-shot은 N개의 클래스와 각 클래스당 K개의 라벨이 지정된 지원 예시를 의미합니다.
- 메트릭 학습 방법은 질의를 지원 예시의 학습된 표현과 비교합니다.
- 메타 학습은 다수의 작업을 최적화하여 새로운 작업을 빠르게 학습할 수 있게 합니다.
- 예시가 적을수록 라벨 오류, 누수, 클래스 모호성 및 불확실성이 확대되므로 기준선과 신뢰도 보고가 중요합니다.
에피소드, 지원 집합 및 질의 집합
Few-shot 에피소드는 작은 라벨이 지정된 지원 집합과 평가에 사용되는 질의 집합을 분리합니다. 메타 훈련 동안 모델은 이러한 에피소드를 많이 경험합니다. 강력한 평가는 전체 클래스, 작업 또는 도메인을 보류하여 테스트 에피소드가 암기보다 적응을 측정하도록 합니다.
편리한 하나의 샘플이 아니라 다수의 에피소드에 걸친 정확도 분포를 보고합니다. 간단한 최근접 이웃 및 선형 기준선과 비교하십시오; 잘 훈련된 표현과 기본 분류기를 능가하지 못하는 정교한 방법은 복잡성을 정당화하지 못할 수 있습니다.
메트릭 학습 및 프로토타입
매칭 네트워크와 관련 방법들은 지원 및 질의 예시를 인접 벡터가 동일한 라벨을 공유하도록 하는 공간에 임베딩합니다. 프로토타입 네트워크는 각 클래스의 지원 임베딩을 평균하여 클래스 프로토타입과의 거리를 기준으로 질의를 분류합니다.
이것은 Few-shot 학습을 표현 품질과 연결합니다. 사전 학습된 딥러닝 모델은 이미 관련 특징을 잘 정리하고 있을 수 있지만, 부적합한 표현은 모든 거리를 오해하게 만들 수 있습니다.
최적화 기반 메타 학습
Model-Agnostic Meta-Learning은 소수의 그래디언트 단계로 적응할 수 있는 파라미터를 탐색합니다. 다른 방법들은 옵티마이저, 초기화 혹은 파라미터 업데이트 규칙을 학습합니다. 외부 루프는 작업 전반에 걸친 적응 후 성능을 평가합니다.
메타 학습은 유용한 구조가 훈련 작업과 목표 작업 사이에 공유된다고 가정합니다. 목표 분포가 크게 다를 경우 빠른 적응이 실패할 수 있습니다. 검증은 하나의 벤치마크를 보편적으로 다루기보다 샷 수, 클래스, 도메인 및 작업 난이도를 다양하게 설정해야 합니다.
전이 학습 및 데이터 수준 전략
전이 학습은 종종 가장 강력한 실용적 시작점입니다: 사전 학습된 인코더를 고정하고, 작은 헤드를 훈련한 뒤 데이터가 충분하면 선택적으로 미세 조정합니다. 데이터 증강은 불변성을 도입할 수 있지만 비현실적인 합성 예시는 편향을 확대하거나 지름길을 만들 수 있습니다.
액티브 러닝은 라벨링할 예시를 우선순위화할 수 있고, 반지도 학습은 추가적인 라벨이 없는 데이터를 활용할 수 있습니다. 이러한 전략은 상호 보완적이며, Few-shot 학습의 동의어는 아닙니다.
Few-shot 프롬프트는 다릅니다
트랜스포머는 컨텍스트에 배치된 시연으로부터 패턴을 유추할 수 있습니다. 지속적인 파라미터 업데이트는 필요하지 않습니다. 순서, 문구 및 라벨 균형은 출력에 실질적인 영향을 미칠 수 있으며, 예시가 컨텍스트 윈도우의 큰 부분을 차지할 수 있습니다.
대표적인 평가 세트를 사용하고, 모든 프롬프트와 시연을 버전 관리하며, 제로샷, Few-shot 및 미세 조정 대안을 테스트하십시오. 아주 작은 지원 집합은 특히 희귀하거나 안전이 중요한 경우에 전체 인구에 대한 강력한 주장을 뒷받침하지 못합니다.
Few-shot 학습 패러다임 및 작업 구성
Few-shot 학습은 매우 적은 라벨이 지정된 예시로 작업을 수행하는 것을 목표로 합니다. 메트릭 기반 방법에서는 인코더가 예시를 가장 가까운 프로토타입이나 이웃이 클래스를 나타내는 공간으로 매핑합니다. 최적화 기반 메타 학습은 빠른 적응을 위해 초기화 또는 업데이트 규칙을 학습합니다. 전이 학습은 사전 학습된 모델을 작은 목표 집합에 미세 조정합니다. 인컨텍스트 학습은 가중치를 업데이트하지 않고 프롬프트에 예시를 제공합니다. 이러한 메커니즘은 다르므로, 주장에서는 파라미터가 변경되는지, 사전 훈련이 어떻게 이루어졌는지, 예시가 어떻게 선택되는지를 명시해야 합니다.
평가는 주장된 일반화에 따라 훈련 클래스와 테스트 클래스, 작업, 주제 또는 도메인을 분리해야 합니다. N-way K-shot 에피소드는 N개의 클래스와 클래스당 K개의 지원 예시, 그리고 점수를 매기기 위한 질의 예시를 포함합니다. 반복된 에피소드는 지원 선택으로 인한 분산을 추정합니다. 프롬프트의 경우, 예시 순서, 라벨 문구, 형식 및 시연 유사성이 결과에 실질적인 변화를 줄 수 있습니다. 동일한 표현과 데이터 예산을 사용하여 제로샷, 최근접 이웃, 선형 프로브 및 일반적인 미세 조정 기준선과 비교하십시오.
데이터 품질, 불확실성 및 부정적 전이
예시가 적을수록 잘못 라벨링된 사례나 비정형 사례가 과도한 영향을 미칩니다. 주석 규칙을 정의하고 각 지원 항목을 검사하며 알 수 없거나 포기하는 결과를 유지하십시오. 데이터 증강 및 합성 예시는 작업을 보존하고 현실적인 변화를 추가할 때만 도움이 됩니다. 사전 학습된 모델은 원본 도메인에서 지름길이나 편향을 전이할 수 있습니다. 도메인 외 사례, 희귀 그룹 및 하나의 지원 예시를 제거했을 때의 민감도를 테스트하십시오. 하나의 유리한 프롬프트가 아니라 작업 및 무작위 시드 전반에 걸친 신뢰 구간을 보고하십시오.
액티브 러닝은 정보가 풍부한 사례에 라벨을 요청할 수 있으며, 반지도 방법은 추가 가정 하에 라벨이 없는 데이터를 활용합니다. 검색은 관련 시연을 동적으로 선택할 수 있지만 테스트 라벨 누수를 피해야 합니다. 적응은 빠르게 과적합될 수 있으므로 업데이트를 제한하고 정규화를 사용하며 별도의 예시로 검증하십시오. 고위험 작업에서는 소수의 라벨만으로 자율 결정을 정당화하기 어렵습니다; 충분한 결과 증거가 확보될 때까지 모델을 우선순위 지정이나 검토 지원에 활용하십시오.
프로덕션 운영
기본 모델, 임베딩 또는 프롬프트 템플릿, 시연, 라벨 스키마 및 적응 파라미터를 버전 관리하십시오. 프롬프트나 그래디언트가 민감한 기록을 노출할 수 있으므로 예시를 보호합니다. 클래스와 언어가 변함에 따라 성능을 모니터링하고 자동 자체 라벨링이 아닌 관리된 검토를 통해 지원 예시를 갱신하십시오. Few-shot 학습은 사전 구조를 활용하여 라벨이 지정된 목표 요구량을 줄이지만, 대표적인 평가, 신중한 작업 정의, 도메인 전문성, 또는 새로운 작업이 기존 범위를 벗어날 때 안전한 대체 수단의 필요성을 없애지는 못합니다.
실제 예시: 새로운 제품에 대한 Few-shot 분류
지원 팀은 이슈당 검토된 예시가 다섯 개뿐인 제품에 대한 라우팅 라벨이 필요합니다. 사전 학습된 임베딩에서 가장 가까운 프로토타입, 선형 헤드, 파라미터 효율적인 미세 조정, 그리고 인컨텍스트 프롬프트를 비교합니다. 제품군, 고객 및 이후 메시지는 메타 훈련 및 모델 선택에서 제외됩니다. 반복적인 지원 집합 샘플링을 통해 클래스 재현율, 캘리브레이션, 분산 및 하나의 잘못 라벨된 시연에 대한 민감도를 보고합니다.
신뢰도가 낮고 지원되지 않는 메시지는 일반 지원으로 라우팅되며, 검토자는 관리된 큐를 통해 라벨을 수정합니다. 예시는 익명화되고 버전 관리되며 최종 테스트 세트에서 선택되지 않습니다. 모니터링은 새로운 어휘, 클래스 비율, 수정 및 의견 차이를 추적합니다. 충분한 라벨이 축적되면 Few-shot 시스템을 일반 지도 학습과 비교합니다. 빠른 설정은 유용하지만 성능이 불안정하거나 새로운 제품이 기존 작업군과 크게 다를 경우 자동화를 정당화하지 못합니다.
구현 증거 및 운영 준비성
프로덕션 의사결정은 성공적인 시연보다 더 많은 것이 필요합니다. 의도된 사용자, 운영 환경, 입력, 출력, 의존성, 소유자 및 각 중요한 실패의 결과를 정의하십시오. 튜닝 전에 재현 가능한 기준선과 버전 관리된 평가 세트를 구축합니다. 일반적인 사례, 경계 조건, 잘못된 혹은 누락된 입력, 분포 변화, 의존성 장애, 오용 및 소외될 가능성이 높은 그룹이나 환경을 테스트합니다. 작업 품질을 캘리브레이션 또는 불확실성, 지연 시간, 처리량, 자원 비용, 접근성, 프라이버시 및 보안과 함께 측정합니다. 모든 변환 및 임계값을 기록하여 독립적인 검토자가 결과를 재현하고 매력적인 프로토타입과 증거를 구분할 수 있게 합니다.
출시 전에는 릴리스, 예외, 변경, 롤백 및 폐기에 대한 권한을 지정합니다. 단계적 롤아웃을 사용하고 안전한 대체 수단을 유지하며 고의로 주입된 실패를 통해 모니터링을 검증합니다. 운영 텔레메트리는 불필요한 민감 데이터 수집 없이 입력 품질, 출력 동작, 모델 또는 규칙 버전, 의존성 상태, 인간 개입 및 확인된 결과를 보여줘야 합니다. 알림 임계값과 대응 담당자를 정의한 뒤, 오프라인 성능이 지속될 것이라고 가정하지 말고 배포 후 실제 증거를 검토합니다. 데이터 소스, 사용자, 모델, 공급업체, 정책, 하드웨어 또는 목표가 변경될 때마다 재평가합니다. 유지되는 시스템은 문서화된 복구, 사고 학습, 삭제 및 보존 절차와 함께 언제 비활성화하거나 교체해야 하는 명확한 시점을 필요로 합니다.
자주 묻는 질문
One-shot 학습은 Few-shot 학습과 동일한가요?
One-shot 학습은 클래스 또는 작업당 하나의 라벨이 지정된 지원 예시가 있는 특수한 경우입니다. Zero-shot 학습은 라벨이 지정된 목표 예시를 전혀 사용하지 않습니다.
Few-shot 학습이 데이터 필요성을 없애나요?
아니오. 이는 사전 학습 데이터, 관련 작업, 표현 및 가정에 대한 의존성을 이동시킵니다. 목표 라벨은 적지만 전체 학습 이력은 보통 방대합니다.
주요 참고문헌
