이상치 탐지 모델 성능 비교
이상치 탐지(Anomaly Detection)는 데이터셋에서 비정상적인 패턴이나 행동을 식별하는 프로세스다. 특히 금융 사기 탐지, 네트워크 침입 감지, 제조업 결함 검출 등 많은 실제 상황에서 중요한 역할을 한다. 이 글에서는 다양한 이상치 탐지 모델의 성능을 비교한다.
차원 축소 및 클러스터링
이상치 탐지를 위한 첫 번째 접근법으로 차원 축소와 클러스터링 기법을 살펴볼 수 있다. 고차원 데이터에서는 차원 축소 기법이 효과적이다.
주요 차원 축소 기법
- PCA(Principal Component Analysis): 데이터의 분산을 최대화하는 방향으로 차원을 축소한다.
- t-SNE(T-Distributed Stochastic Neighbor Embedding): 고차원 데이터의 유사성을 보존하며 2D 또는 3D로 시각화한다.
- UMAP(Uniform Manifold Approximation and Projection): t-SNE보다 계산 효율성이 높고 글로벌 구조를 더 잘 보존한다.
클러스터링 기반 접근법
클러스터링은 데이터 포인트를 유사한 그룹으로 나누며, 이상치는 주요 클러스터에서 멀리 떨어진 포인트로 간주된다:
from sklearn.cluster import DBSCAN
import numpy as np
# DBSCAN 클러스터링을 사용한 이상치 탐지
dbscan = DBSCAN(eps=0.5, min_samples=5)
clusters = dbscan.fit_predict(X)
# -1로 레이블된 포인트는 이상치로 간주
outliers = np.where(clusters == -1)[0]모델 성능 비교 평가
지도학습 분류 모델
평가 방식
지도학습 기반 이상치 탐지의 성능을 평가하기 위해 다음 단계를 따른다:
- PyCaret 모델 테스트 후 상위 3개 모델 선정
- Stratified K-Fold: 5-fold 교차검증 평가 점수
불균형 데이터에서는 정확도(Accuracy)보다 F1-score, Precision, Recall 등의 지표가 더 중요하다.
평가 모델 리스트
총 16개의 분류 모델을 테스트했다:
- Random Forest Classifier
- Extra Trees Classifier
- Extreme Gradient Boosting
- CatBoost Classifier
- Linear Discriminant Analysis
- Logistic Regression
- Ada Boost Classifier
- Decision Tree Classifier
- Gradient Boosting Classifier
- Ridge Classifier
- K Neighbors Classifier
- Dummy Classifier
- SVM - Linear Kernel
- Light Gradient Boosting Machine
- Naive Bayes
- Quadratic Discriminant Analysis
CatBoost - 샘플링 기법 비교
PyCaret에서 가장 성능이 좋았던 CatBoost 모델을 사용하여 다양한 샘플링 기법을 비교했다:
- Base(원본 데이터): 불균형 상태 그대로 학습
- UnderSampling(과소표집): 다수 클래스 샘플을 줄여 균형을 맞춤
- OverSampling(과대표집): SMOTE 등을 활용해 소수 클래스 샘플을 증가시킴
각 방법의 장단점:
| 방법 | 장점 | 단점 |
|---|---|---|
| Base | 원본 데이터 보존 | 소수 클래스에 편향됨 |
| UnderSampling | 학습 속도 향상 | 정보 손실 가능성 |
| OverSampling | 정보 보존 | 과적합 위험 |
비지도학습 이상 탐지 모델
비지도학습 방식은 레이블이 없는
데이터에서도 이상치를 탐지할 수 있는 장점이 있다.
PyOD 라이브러리
PyOD는 파이썬 기반의 이상치 탐지 툴킷으로, 다양한 알고리즘을 제공한다:
from pyod.models.iforest import IForest
from pyod.models.knn import KNN
# Isolation Forest를 사용한 이상치 탐지
clf_if = IForest()
clf_if.fit(X_train)
y_pred_if = clf_if.predict(X_test)
# KNN을 사용한 이상치 탐지
clf_knn = KNN()
clf_knn.fit(X_train)
y_pred_knn = clf_knn.predict(X_test)PyOD에서 사용된 주요 알고리즘:
- Isolation Forest
- Local Outlier Factor (LOF)
- One-Class SVM
- CBLOF (Cluster-Based Local Outlier Factor)
DeepOD 라이브러리
DeepOD는 딥러닝 기반 이상치 탐지를 위한 라이브러리다. 신경망 기반 접근법을 사용하여 복잡한 패턴을 학습할 수 있다:
- DeepSVDD: 하이퍼스피어 경계를 학습
- DevNet: 정상 샘플과 이상치의 차이를 학습
- GOAD: 자기지도학습으로 정상 패턴 학습
PyThresh 라이브러리
PyThresh는 임계값 계산에 특화된 라이브러리로, 이상치 점수의 최적 임계값을 찾는 데 도움을 준다:
- SPOT/DSPOT: 극단 값 이론 기반 임계값 계산
- 앙상블 기반 임계값 선택
- 동적 임계값 업데이트
결론
이상치 탐지는 다양한 접근법을 통해 수행할 수 있으며, 문제의 특성과 데이터에 따라 적합한 모델을 선택해야 한다. 지도학습 방법은 레이블이 있는 데이터에서 효과적이고, 비지도학습 방법은 레이블이 없는 데이터에서도 사용할 수 있다.
실험 결과, CatBoost와 같은 앙상블 모델이 지도학습에서 좋은 성능을 보였으며, 과대표집(OverSampling)을 적용했을 때 성능이 더욱 향상되었다. 비지도학습에서는 Isolation Forest와 DeepSVDD가 좋은 성능을 보였다.
실제 애플리케이션에서는 이상 탐지 시스템을 구축할 때 여러 모델의 앙상블과 함께 도메인 지식을 결합하는 것이 효과적이다. 또한 데이터의 특성에 따라 차원 축소 기법을 적절히 활용하는 것이 중요하다.