본문 바로가기
ML

# 3 이상치 탐지 # 밀도 기반 이상치 탐지2 Parzen Window

by Kwonys 2023. 9. 20.
728x90
반응형

Kernel Density Estimation

- 데이터가 특정한 분포 (ex: 가우시안)을 갖는다는 가정 없이 주어진 데이터로부터 주변부의 밀도를 추정하는 방식

- 확률밀도의 추정은 샘플수 N 이 클수록, 영역의 볼륨 V가 작을수록 정확해짐

- 실제 상황에서는 데이터의 수는 고정되어 있으므로 적절한 V를 찾는 문제로 귀결

  • 영역 R 내부에 충분한 데이터가 포함되도록 커야 하며,
  • 영역 R 내부에서는 p(x)의 변동이 없다는 가정을 뒷받침해줄 수 있도록 작아야 함

- V를 고정시키고 K를 찾는 것이 커널 밀도 추정의 목적임

 

Parzen Window Density Estimation

  • K개의 객체를 포함하는 영역 x를 중심으로 하며 각 면의 길이가 h인 Hypercube로 정의

      - 이의 볼륨V는 H의 d제곱으로 정의 됨(d는 차원 수)

 

  • Kernel function을 다음과 같이 정의

- Hypercube 안에 들어와 있어면 1 아니면 0

 

 

Kernel function의 단점

- 불연속적인 추정, Hypercube 내에 있는 객체들의 동등한 가중치

 

Smoothing parameter (bandwidth) h

  • Large h는 over-smooth한 밀도 분포를 가짐
  • Small h는 급격한 밀도 분포를 초래함

왼쪽 위가 Small h , 오른쪽 아래가 Large h

Smooth parameter h는 E-M Algorithm을 통해 최적화될 수 있음

 

 

728x90
반응형