728x90
반응형
Kernel Density Estimation
- 데이터가 특정한 분포 (ex: 가우시안)을 갖는다는 가정 없이 주어진 데이터로부터 주변부의 밀도를 추정하는 방식


- 확률밀도의 추정은 샘플수 N 이 클수록, 영역의 볼륨 V가 작을수록 정확해짐
- 실제 상황에서는 데이터의 수는 고정되어 있으므로 적절한 V를 찾는 문제로 귀결
- 영역 R 내부에 충분한 데이터가 포함되도록 커야 하며,
- 영역 R 내부에서는 p(x)의 변동이 없다는 가정을 뒷받침해줄 수 있도록 작아야 함
- V를 고정시키고 K를 찾는 것이 커널 밀도 추정의 목적임
Parzen Window Density Estimation

- K개의 객체를 포함하는 영역 x를 중심으로 하며 각 면의 길이가 h인 Hypercube로 정의
- 이의 볼륨V는 H의 d제곱으로 정의 됨(d는 차원 수)
- Kernel function을 다음과 같이 정의

- Hypercube 안에 들어와 있어면 1 아니면 0
Kernel function의 단점
- 불연속적인 추정, Hypercube 내에 있는 객체들의 동등한 가중치
Smoothing parameter (bandwidth) h
- Large h는 over-smooth한 밀도 분포를 가짐
- Small h는 급격한 밀도 분포를 초래함

Smooth parameter h는 E-M Algorithm을 통해 최적화될 수 있음

728x90
반응형
'ML' 카테고리의 다른 글
| # 5 이상치 탐지 # 모델 기반 이상치 탐지1 Auto-Encoder (0) | 2023.09.20 |
|---|---|
| # 4 이상치 탐지 # 밀도 기반 이상치 탐지3 Local Outlier Factor (LOF) (0) | 2023.09.20 |
| # 2 이상치 탐지 # 밀도 기반 이상치 탐지1 Gauss & Mog (0) | 2023.09.20 |
| # 1 이상치 탐지 (0) | 2023.09.20 |
| #6 커널기반 학습 Support Vector Regression (0) | 2023.09.19 |