# 2 이상치 탐지 # 밀도 기반 이상치 탐지1 Gauss & Mog

밀도 기반 이상치 탐지의 목적

- 주어진 데이터를 바탕으로 각 객체들이 생성될 확률을 추정

- 새로운 데이터가 생성될 확률이 낮은 경우 이상치로 판단

---

Gaussian Density Estimation

- 모든 데이터가 하나의 가우시안(정규) 분포로부터 생성됨을 가정

- 학습 : 주어진 정상 데이터들을 통해 가우시안 분포의 평균 벡터와 공분산 행렬을 추정

- 테스트 : 새로운 데이터에 대하여 생성 확률을 구하고 이 확률이 낮을수록 이상치에 가까운 것으로 판정함

- 장점 :

1. 추정이 간단하며 학습시간이 짧음
2. 적절한 기중치(Cut-Off)를 분포로부터 정할 수 있음
3. 각 변수의 측정 단위에 영향을 받지 않음

- 우리가 추정해야 하는 파라미터 : 평균 μ, 분산 σ²

- 정상 데이터 생성 확률을 최대화하도록 평균과 분산을 계산하는 것이 가능 (Analytically Tractable)

 

- 최대 우도 추정법을 이용하여 해를 찾을 수 있음

 

마지막으로 요약해보자면 Gaussian Density Estimation은 정상 데이터가 모두 하나의 가우시안 분포에서부터 생성되었단 가정 하에서 데이터를 통해 하나의 가우시안 분포에 평균 벡터와 공분산 행렬을 추정해서 데이터의 밀도 함수를 추정한 뒤에 새로운 데이터가 들어왔을 때 해당하는 데이터의 생성 확률을 계산하여 그 확률이 일정 수준보다 낮으면 이상치로 판별하는 기법이다.

---

Mixture of Gaussian (MOG) Density Estimation

- Gaussian Density Estimation은 데이터 분포에 대해 매우 강한 가정을 가지고 있음 - Unmodal Gaussian

 

MOG

- 데이터는 여러개의 가우시안 분포의 혼합으로 이루어져 있음을 허용

- 이 가우시안 분포들의 선형 결합으로 전체 데이터의 분포를 표현

 

- Expectation-Maximization Algorithm

• E-Step : 주어진 개별 가우시안분포를 바탕으로 개별 객체가 각 가우시안 분포에 속할 확률을 추정
• M-Step : E-Step에서 추정된 확률을 바탕으로 개별 가우시안 분포의 평균, 공분산행렬, 결합가중치를 업데이트
• 객체별 가우시안 분포 확률, 개별 가우시안 분포의 평균/공분산행렬, 결합가중치의 변화가 없을 때까지 반복

쉽게 설명해 A 와 B 가 있을 때 『A고정, B최적화 -> B고정, A최적화 -> A고정, B최적화 -> B고정, A최적화』 과정을 수렴될 때까지 반복하는 것 (고정 -> 추정 과정: E-Step)

P(A)는 A에서 생성되었을 확률 P(B)는 B에서 생성되었을 확률

 

공분산 행렬의 형태에 따른 MOG 모양

tied의 경우 개별 가우시안 분포는 full coveriance를 띄지만 모든 가우시안 분포의 공분산 행렬은 동일함