# 5 이상치 탐지 # 모델 기반 이상치 탐지1 Auto-Encoder

Auto-Encoder (Auto-Associative Neural Network)

• 입력과 출력이 동일한 인공 신결망 구조
• 정상 데이터들에 대한 학습이 충분히 되어 있을 경우
  • 정상 데이터는 자기 자신을 잘 복제할 수 있는 신경망이 학습이 되나,
  • 이상치 데이터는 학습 기회가 적어서 상대적으로 복제를 잘 못 할 것을 가정하는 모형
• 반드시 입력 변수의 수보다 은닉 노드의 수가 더 적은 은닉 층이 있어야 함
  • 은닉 층에서 정보의 축약이 이루어짐 
  • 은닉층이 존재하지 않으면 100% 복원 가능 -> 이상치 탐지에 효과적이지 않음

L에 해당하는 곳이 은닉층

 

---

Auto-Encoder의 두 가지 활용방식

• 활용방식 1) 입력 정보와 AE 출력 정보간 차이를 손실함수로 정의하여 직접 이상치 탐지를 수행

• 활용방식 2) 차원 축소의 목적으로 AE를 학습시킨 뒤 Latent vector를 다른 Anomaly Detection 모형의 Input으로 사용

가운데 Code 부분이 Latent Vector이고 X'에 Anomaly Detection을 사용

 

---

Auto-Encoder는 입력 데이터의 노이즈에 민감하게 반응하는 과적합 경향이 존재

• 이상치가 아닌 노이즈임에도 불구하고 이상치 스코어가 높게 산출되는 원하지 않는 상황 발생 가능
• Denoising Auto-Encoder : 일부러 입력에 노이즈(가우시안 랜덤 노이즈 등)를 첨가한 뒤, 노이즈가 제거된 출력을 산출하도록 학습

Denoising Auto-Encoder

 

• 위의 Hand-written Digit은 입력 데이터를 이미자가 아닌 벡터로 사용
  • 16 by 16 행렬을 256차원의 vector로 취급하고 오토 인코더 학습
• CAE = 이미지 자체를 취급하는 오토 인코더

• RNN Auto-Encoder (RAE) : 순차 데이터를 복원하는 오토 인코더