AI 기초
K-평균 군집화란 무엇인가?
Unite.AI를 Google의 선호 소스에 추가
K-평균은 수치 관측값을 k개의 군집으로 나누는 비지도 알고리즘입니다. 각 점을 가장 가까운 중심점에 할당하고, 할당된 점들의 평균으로 중심점을 다시 계산하는 과정을 반복합니다.
이 알고리즘은 빠르고 유용하지만, 결과는 스케일링, 거리 측정, 초기화 방법 및 선택한 k에 따라 달라집니다. 군집은 수학적 분할이며, 자동으로 실제 세계의 카테고리를 의미하지는 않습니다.
핵심 요점
- K-평균은 군집 내 제곱 유클리드 거리를 중심점에 대해 최소화합니다.
- 초기화가 중요합니다; k-means++는 초기 중심점을 퍼뜨려 일반적으로 결과를 개선합니다.
- 특성의 단위나 스케일이 비슷하게 기여해야 할 경우 표준화합니다.
- K-평균은 이상치, 비구형 군집, 불균등한 밀도 및 범주형 데이터에 취약합니다.
목표와 업데이트 루프
k개의 중심점이 주어지면, 할당 단계에서 각 관측값을 가장 가까운 중심점에 보냅니다. 업데이트 단계에서는 각 중심점을 해당 중심점에 할당된 관측값들의 평균으로 교체합니다. 이러한 단계에서는 군집 내 제곱합이 증가할 수 없으므로, 과정은 지역 최적점으로 수렴합니다.
수렴이 전역 최적점을 보장하지는 않습니다. 초기 중심점이 다르면 서로 다른 분할이 생성될 수 있기 때문에, 구현에서는 여러 초기화를 실행하고 관성(inertia)이 가장 낮은 해를 선택합니다.
초기화와 k-means++
모든 초기 중심점을 한 밀집 영역에서 무작위로 선택하면 부실한 해가 나오거나 수렴이 느려질 수 있습니다. k-means++는 기존 중심점으로부터의 거리와 비례하는 확률로 시드를 선택해 데이터셋 전체를 골고루 커버하도록 합니다.
여러 번 실행하는 것이 여전히 유용합니다. 무작위 시드와 초기화 횟수를 기록해 결과를 재현할 수 있게 합니다.
스케일링과 거리
제곱 유클리드 거리는 단위에 민감합니다. 천 단위로 측정된 특성은 0~1 사이의 특성을 압도할 수 있습니다. 표준화가 일반적이지만, 도메인 지식에 따라 표준화된 분산이 동일한 중요성을 의미하는지 판단해야 합니다.
이상치는 평균을 일반적인 점들에서 멀리 끌어당길 수 있습니다. 강인한 스케일링, 트리밍 또는 중심점 기반 방법이 더 나을 수 있습니다. 원-핫 인코딩된 범주형 특성은 거리 기하학을 만들지만, 이는 카테고리 유사성과 일치하지 않을 수 있습니다.
k 선택 및 군집 검증
관성은 k가 증가할 때마다 감소하므로, 관성만으로 k를 선택할 수 없습니다. 엘보우(Elbow) 휴리스틱은 개선 폭이 감소하는 지점을 찾습니다. 실루엣(Silhouette) 분석은 응집도와 분리를 비교합니다. 샘플 및 시드 간 안정성도 또 다른 검증 기준이 됩니다.
가장 강력한 검증은 목표 도메인에서의 유용성입니다. 알려진 결과, 전문가 리뷰 또는 하위 작업과 군집을 비교하되, 사후 라벨이 객관적으로 발견된 것처럼 착각하지 않도록 합니다.
제한 사항 및 대안
K-평균은 규모가 비슷하고 대략 구형인 조밀한 군집을 선호합니다. 가우시안 혼합 모델은 확률적 타원형 구성 요소를 나타내며, DBSCAN 계열 방법은 조밀한 영역과 잡음을 식별하고, 계층적 군집은 병합 트리를 생성합니다.
차원 축소는 속도를 높이거나 입력을 잡음 제거할 수 있지만, 전체 데이터셋에 적용하면 검증 질문 자체가 바뀔 수 있습니다. 미니배치 K-평균은 근사 업데이트를 대가로 대규모 데이터셋의 계산량을 줄입니다.
목표, 초기화 및 수렴
K-평균은 중심점에 대한 군집 내 제곱 유클리드 거리를 최소화함으로써 수치 관측값을 k개의 군집으로 나눕니다. Lloyd 알고리즘은 각 점을 가장 가까운 중심점에 할당하고 중심점을 재계산하는 과정을 반복하여 할당이나 목표 함수가 안정될 때까지 진행합니다. 이는 전역 최적이 아니라 지역 최적에 수렴합니다. K-means++ 초기화는 초기 중심을 퍼뜨려 일반적으로 결과를 개선하지만, 여러 시드를 사용하는 것이 여전히 중요합니다. 단위가 비슷하게 기여해야 할 경우 특성을 표준화해야 합니다. 제곱 거리 때문에 규모가 큰 변수와 이상치가 크게 부각되기 때문입니다.
이 방법은 유클리드 기하학 하에서 대략 컴팩트하고 구형이며 규모가 비슷한 군집을 전제로 합니다. 길게 늘어진 매니폴드, 불균등한 밀도, 범주형 데이터, 심한 이상치 및 중첩 구조에는 취약합니다. 빈 군집이나 중복 점에 대해서는 명시적인 처리 규칙이 필요합니다. 미니배치 k-평균은 근사적인 트레이드오프를 통해 대규모 데이터에 확장됩니다. 희소 텍스트의 경우 코사인 기반 구형 k-평균이 방향을 더 잘 맞출 수 있으며, 혼합 모델, 밀도 기반 방법, 계층적 군집 또는 k-메도이즈가 다른 가정을 인코딩합니다.
k 선택 및 의미 검증
엘보우 곡선, 실루엣 점수, 관련 모델의 정보 기준 및 안정성은 k를 안내할 수 있지만, 어느 하나도 유일하게 올바른 값을 발견하지는 못합니다. 비즈니스 유용성과 도메인 해석이 중요합니다. 샘플과 시드를 교차 검증하고, 중심점 이동과 할당 일관성을 비교하며, 형성에 사용되지 않은 독립적인 결과에 대해 군집을 검증합니다. 2차원 투영은 분리를 왜곡할 수 있으므로 원본 또는 검증된 표현 공간에서 거리와 사례를 살펴보아야 합니다.
군집은 선택된 특성과 거리 측정에 의해 생성된 기술적 그룹이며, 자연적 종류나 인과적 세그먼트가 아닙니다. 군집에 사용된 동일 변수를 기반으로 만든 프로파일은 순환 논리가 될 수 있습니다. 보류된 속성과 정성적 리뷰를 활용하고, 군집이 주로 지리, 데이터 출처 또는 민감한 특성을 재현하는지 점검합니다. 작은 군집은 이상치나 인공적인 산물일 수 있습니다. 군집에 이름을 붙인다고 해서 모든 구성원이 그 라벨에 맞는 것은 아닙니다.
배포 및 유지보수
스케일링, 특성 순서, 중심점, 거리 정의 및 군집 라벨을 함께 저장합니다. 새로운 점에 대해서는 할당된 중심점까지의 거리와 학습 지원 범위를 크게 벗어난 비율을 모니터링하고, 모든 경우를 강제로 군집에 넣기보다 알 수 없는 상태를 제공합니다. 시간에 따라 군집 크기, 중심점 및 결과 연관성을 추적합니다. 재학습은 군집 정체성을 바꾸므로, 기존 규칙을 조용히 재사용하기보다 매핑하거나 버전 관리해야 합니다. K-평균은 기하학이 질문에 맞을 때 유용한 압축·세분화 기준이며, 보편적인 발견 엔진은 아닙니다.
실제 예시: K-평균을 활용한 고객 세분화
구독 서비스 기업은 일정 기간 동안 사용량 특성을 표준화하고 계정 식별자를 제거한 뒤, 다양한 시드에서 k 값을 테스트합니다. 안정성, 실루엣 점수 및 보류된 비즈니스 결과를 검토하지만, 제품 팀은 대표 계정과 경계 계정도 살펴봅니다. 한 군집이 단순히 관측 기간이 짧은 신규 고객임을 발견하고, 재직 기간을 명시적으로 처리합니다. K-평균은 계층적·밀도 기반 대안과 비교되며, 적합하다고 가정하지 않습니다. 이 작업은 비지도 학습으로 간주되며 라벨 발견이 아닙니다.
세그먼트는 연구·메시징 실험을 안내하지만, 자격 부여나 가격 책정에 사용되지 않습니다. 모든 중심점에서 멀리 떨어진 신규 계정은 알 수 없는 할당을 받습니다. 스케일링, 특성, 중심점 및 이름은 버전 관리되고, 재학습 시 증거가 있을 때만 새로운 군집을 기존 군집에 매핑합니다. 모니터링은 군집 크기, 거리 및 결과 연관성을 추적합니다. 민감한 속성과 프록시는 감시되며, 팀은 군집을 선택된 행동에 대한 수학적 분할이라고 인식하고 자연적 성격 유형이라고 묘사하지 않도록 합니다.
구현 증거 및 운영 준비성
프로덕션 의사결정에는 성공적인 시연 이상의 것이 필요합니다. 목표 사용자, 운영 환경, 입력·출력, 의존성, 소유자 및 각 주요 실패에 대한 결과를 정의합니다. 튜닝 전에 재현 가능한 베이스라인과 버전이 지정된 평가 세트를 마련합니다. 일반 케이스, 경계 조건, 형식이 잘못되었거나 누락된 입력, 분포 변화, 의존성 장애, 오용 및 소외될 가능성이 높은 그룹·환경을 테스트합니다. 작업 품질을 보정·불확실성, 지연, 처리량, 자원 비용, 접근성, 프라이버시 및 보안과 함께 측정합니다. 모든 변환과 임계값을 기록해 독립 검토자가 결과를 재현하고 매력적인 프로토타입과 증거를 구분할 수 있게 합니다.
출시 전에는 릴리스, 예외, 변경, 롤백 및 폐기에 대한 권한을 지정합니다. 단계적 롤아웃을 사용하고 안전한 폴백을 유지하며, 의도적으로 주입한 장애를 통해 모니터링을 검증합니다. 운영 텔레메트리는 입력 품질, 출력 동작, 모델·규칙 버전, 의존성 상태, 인간 개입 및 확인된 결과를 보여주어야 하며, 불필요한 민감 데이터를 수집하지 않아야 합니다. 알림 임계값과 대응 담당자를 정의하고, 배포 후 실제 증거를 검토하며 오프라인 성능이 지속될 것이라고 가정하지 않습니다. 데이터 소스, 사용자, 모델, 공급업체, 정책, 하드웨어 또는 목표가 변할 때마다 재평가합니다. 유지되는 시스템은 문서화된 복구, 사고 학습, 삭제·보존 절차 및 비활성화·교체 시점을 명확히 해야 합니다.
자주 묻는 질문
K-평균은 지도 학습인가 비지도 학습인가?
K-평균은 목표 라벨이 아니라 특성과 선택된 군집 수만을 입력받기 때문에 비지도 학습입니다.
K-평균은 새로운 데이터를 분류합니까?
모델을 학습시킨 후, 새로운 점은 가장 가까운 중심점에 할당될 수 있습니다. 이는 군집 할당이며, 반드시 지도 학습의 클래스 예측을 의미하지는 않습니다.
주요 참고문헌
