비지도학습

비지도 학습이란?

 

타깃 값을 알 수 없거나 예측할 수 없는 데이터를 학습하는 방법

지도 학습과 달리 정답(라벨)이 없으며, 데이터의 패턴을 발견하고 그룹화하는 데 초점을 맞춤

ex) 군집, 차원축소

 

1. 군집 알고리즘 (Clustering)

 

비슷한 샘플끼리 그룹으로 묶는 과정, 이를 수행하는 알고리즘

클러스터: 군집에서 만들어진 각 그룹

 

K-Means 군집 알고리즘

 

K-Means는 가장 널리 사용되는 군집 알고리즘으로, K개의 클러스터 중심(센트로이드, Centroid)을 자동으로 찾는 방식

K-Means 알고리즘 작동 방식

1. 임의로 K개의 클러스터 중심을 지정
2. 각 샘플을 가장 가까운 클러스터 중심에 할당
3. 클러스터에 속한 샘플들의 평균값을 계산하여 새로운 클러스터 중심을 갱신
4. 클러스터 중심이 더 이상 변화하지 않을 때까지 2~3단계를 반복

사이킷런을 활용한 K-Means 구현

from sklearn.cluster import KMeans

# KMeans 모델 생성: 클러스터 개수 3개, 랜덤 시드 설정
km = KMeans(n_clusters=3, random_state=42)
km.fit(X)


# 클러스터 중심 확인
print(km.cluster_centers_)

• cluster_centers_: K개의 클러스터 중심을 반환

클러스터 개수(K) 선택: 엘보우 방법, K를 미리 설정해야 하는 것이 K-Means의 단점이다.

최적의 K를 찾는 방법 중 하나가 엘보우 방법

• 이너셔(Inertia): 클러스터 중심과 샘플 간의 거리의 제곱합. 클러스터 개수가 늘어나면 이너셔 값이 감소한다.
• 엘보우 지점: 이너셔 값이 급격히 줄어들다가 완만해지는 K 지점을 찾는다.
  
  

엘보우 방법 구현 

import matplotlib.pyplot as plt

inertia = []
K_range = range(1, 11)

for k in K_range:
    km = KMeans(n_clusters=k, random_state=42)
    km.fit(X)
    inertia.append(km.inertia_)

plt.plot(K_range, inertia, marker='o')
plt.xlabel('Number of Clusters (K)')
plt.ylabel('Inertia')
plt.title('Elbow Method for Optimal K')
plt.show()

 

군집 알고리즘 비교

알고리즘	특징	장점	단점
K-Means	K개의 중심을 기준으로 샘플을 배정	빠르고 효율적	K값을 미리 지정해야 함
계층적 군집	트리 구조(덴드로그램)를 사용하여 군집 형성	데이터의 구조를 계층적으로 분석 가능	계산량이 많음
DBSCAN	밀집도가 높은 지역을 클러스터로 정의	이상치(노이즈)에 강함	클러스터 개수를 미리 지정할 필요 없음, 하지만 매개변수 조정이 필요

 

2. 차원 축소

 

데이터의 중요한 특성을 유지하면서 차원을 줄이는 기법

 

주성분 분석(Principal Component Analysis)

 

데이터의 분산이 큰 방향을 찾아 고차원 데이터를 저차원으로 변환하는 기법

 

PCA 작동 원리

1. 데이터에서 분산이 가장 큰 방향(주성분 벡터)을 찾음
2. 데이터를 주성분 벡터에 투영하여 차원을 축소
3. 정보 손실을 최소화하면서 주요 특성을 유지

 

사례

• 이미지 압축: 고해상도 이미지를 적은 차원의 벡터로 변환하여 저장 용량을 줄이고, 복원할 때도 원본과 유사한 품질 유지 가능
• 데이터 시각화: 고차원 데이터를 2D 또는 3D로 변환하여 분석 및 시각화

 

사이킷런에서 PCA 사용하기

from sklearn.decomposition import PCA

# PCA 모델 생성: 주성분 개수(n_components) 지정
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X)

# PCA로 원본 데이터 재구성
# 원본 데이터 복원
X_reconstructed = pca.inverse_transform(X_pca)
print(pca.explained_variance_ratio_)

• 첫 번째 주성분이 가장 큰 분산을 설명하며, 이후 주성분들이 점차 작은 분산을 나타냄

 

 차원 축소의 장점

• 데이터 크기를 줄여 저장 용량 절약
• 불필요한 특성을 제거하여 모델 성능을 향상
• 데이터를 2D 또는 3D로 변환하여 시각적으로 분석