딥러닝: 딥러닝을 활용한 Out-of-Distribution (OOD) 탐지

딥러닝 모델의 OOD 탐지 기술에 대한 블로그 게시물입니다. 딥러닝 모델이 훈련 데이터와 다른 분포의 데이터를 만났을 때 어떻게 대응하고 이를 탐지하는지에 대해 설명합니다.

😊 서론: 딥러닝 모델과 Out-of-Distribution (OOD) 데이터

딥러닝 모델은 이미지 분류, 자연어 처리 등 다양한 분야에서 뛰어난 성능을 보여주고 있다. 그러나 이러한 모델들은 훈련 데이터에 의존하며, 훈련 데이터의 분포(Distribution, 분포)에서 벗어난, 즉 Out-of-Distribution (OOD, 분포 밖) 데이터를 만나면 예측의 신뢰성이 급격히 떨어진다. 예를 들어, 고양이 사진을 학습한 모델이 강아지 사진을 입력받으면, 모델은 종종 고양이라고 잘못 예측하거나, 높은 신뢰도로 엉뚱한 클래스를 예측할 수 있다. OOD 탐지(OOD Detection, OOD 탐지)는 이러한 문제를 해결하기 위한 중요한 기술이다.

---

🧐 OOD 탐지의 중요성: 안전성과 신뢰성 확보

자율 주행, 의료 영상 분석 등 안전이 중요한 분야에서 딥러닝 모델을 사용하는 경우, OOD 탐지는 필수적이다. 모델이 예측에 확신을 가지지 못하는 데이터를 탐지하여, 시스템이 안전하게 작동하도록 보장한다. 예를 들어, 자율 주행 시스템이 예측 불가능한 상황 (눈, 비, 야간 등)에 직면했을 때, OOD 탐지를 통해 시스템이 운전을 중단하거나, 인간 운전자에게 제어권을 넘겨주는 등의 안전 조치를 취할 수 있다. OOD 탐지는 딥러닝 모델의 신뢰성을 향상시키고, 모델의 안전한 사용을 가능하게 한다.

---

📚 OOD 탐지 방법론

OOD 탐지를 위한 다양한 방법론이 존재한다.

1. 확률 기반 방법론:

   • Softmax Probabilities (소프트맥스 확률): 딥러닝 모델의 마지막 레이어인 Softmax (소프트맥스) 함수의 출력 확률을 활용한다. 훈련 데이터에 속하는 데이터는 높은 확률을, OOD 데이터는 낮은 확률을 보일 것으로 예상한다. 하지만, 모델이 OOD 데이터에도 높은 확률을 부여하는 경우가 발생할 수 있다.

   • 예시:

     import torch
     import torch.nn.functional as F
     
     # 모델의 출력 (예시)
     output = torch.tensor([0.1, 0.2, 0.7])  # 3개의 클래스에 대한 확률
     softmax_output = F.softmax(output, dim=0)
     print(softmax_output) # 각 클래스에 대한 소프트맥스 확률

2. Density Estimation (밀도 추정) 기반 방법론:

   • Gaussian Mixture Models (GMM, 가우시안 혼합 모델): 훈련 데이터의 특징 공간에서 데이터의 분포를 가우시안 혼합 모델로 학습한다. 새로운 데이터의 밀도를 계산하여, 낮은 밀도를 가지는 데이터를 OOD로 간주한다.

   • 예시 (간단한 GMM 사용):

     from sklearn.mixture import GaussianMixture
     import numpy as np
     
     # 훈련 데이터 (예시)
     train_data = np.random.rand(100, 2)  # 100개의 2차원 데이터
     # GMM 학습
     gmm = GaussianMixture(n_components=3).fit(train_data)
     # 새로운 데이터의 밀도 계산
     new_data = np.array([[0.5, 0.5]])
     density = np.exp(gmm.score_samples(new_data))[0]
     print(density) # 새로운 데이터의 밀도

3. 예측 불확실성 기반 방법론:

   • Bayesian Neural Networks (베이즈 신경망): 각 가중치에 대한 불확실성을 모델링하여, 예측의 불확실성을 추정한다. 불확실성이 높은 데이터는 OOD로 간주한다.
   • 예시 (몬테 카를로 드롭아웃): 훈련 시 드롭아웃을 적용하고, 테스트 시 여러 번의 forward pass를 수행하여 예측의 분산을 계산한다. 높은 분산은 불확실성을 의미한다.

4. Feature Embedding (특징 임베딩) 기반 방법론:

   • Open-set Recognition (열린 집합 인식): 훈련 데이터에 속하지 않는 클래스를 탐지하도록 설계되었다. 특징 공간에서 OOD 데이터를 훈련 데이터와 분리하는 방법을 학습한다.

---

💡 OOD 탐지 성능 평가 지표

OOD 탐지 모델의 성능을 평가하기 위해 다양한 지표가 사용된다.

1. Area Under the Receiver Operating Characteristic Curve (AUROC, ROC 곡선 아래 면적): OOD 탐지 모델의 성능을 측정하는 가장 일반적인 지표. True Positive Rate (TPR, 참 양성 비율)과 False Positive Rate (FPR, 거짓 양성 비율)을 사용하여 ROC 곡선을 그리고, ROC 곡선 아래 면적을 계산한다. AUROC 값이 높을수록 성능이 우수하다.

   • TPR = TP / (TP + FN)
   • FPR = FP / (FP + TN)
   • TP: True Positives (참 양성)
   • FP: False Positives (거짓 양성)
   • TN: True Negatives (참 음성)
   • FN: False Negatives (거짓 음성)

2. False Positive Rate at 95% True Positive Rate (FPR95, 95% TPR에서의 거짓 양성 비율): TPR이 95%일 때의 FPR 값을 측정한다. FPR95 값이 낮을수록, 즉 OOD 데이터를 잘 탐지하면서, 훈련 데이터에 속하는 데이터를 OOD로 잘못 판단하는 경우가 적을수록 성능이 우수하다.

---

🚀 결론: OOD 탐지의 미래와 도전 과제

OOD 탐지는 딥러닝 모델의 안전성과 신뢰성을 향상시키는 핵심 기술이다. 다양한 방법론이 개발되고 있으며, 딥러닝 모델의 실용성을 높이는 데 기여하고 있다. 하지만, 여전히 해결해야 할 과제들이 남아있다.

• 강력한 OOD 탐지 방법론 개발: 다양한 OOD 데이터 유형에 대해 일관된 성능을 보이는 모델 개발
• 효율적인 OOD 탐지: 계산 비용을 줄이고, 실시간으로 OOD 데이터를 탐지할 수 있는 모델 개발
• OOD 탐지와 관련된 이론적 이해: OOD 탐지의 원리를 더욱 깊이 있게 이해하고, 모델의 성능을 향상시킬 수 있는 이론적인 기반 마련

OOD 탐지 기술은 앞으로 더욱 발전하여, 딥러닝 모델이 더욱 안전하고 신뢰할 수 있도록 기여할 것이다.

---

✅ 요약:

• Out-of-Distribution (OOD, 분포 밖) 데이터: 딥러닝 모델이 훈련 데이터와 다른 분포를 갖는 데이터.
• OOD 탐지 (OOD Detection, OOD 탐지): 딥러닝 모델이 OOD 데이터를 탐지하는 기술.
• Softmax Probabilities (소프트맥스 확률): 모델의 출력 확률을 활용한 OOD 탐지 방법.
• Gaussian Mixture Models (GMM, 가우시안 혼합 모델): 데이터의 밀도를 추정하여 OOD 데이터를 탐지하는 방법.
• Bayesian Neural Networks (베이즈 신경망): 예측의 불확실성을 모델링하여 OOD 데이터를 탐지하는 방법.
• AUROC (ROC 곡선 아래 면적): OOD 탐지 모델의 성능을 평가하는 지표.
• FPR95 (95% TPR에서의 거짓 양성 비율): OOD 탐지 모델의 성능을 평가하는 지표.