728x90 ResNet1 ResNet(Residual Neural Network) 리뷰 1. Introduce기존 CNN 방식은 Layer가 깊어질 수록 성능이 좋아져야 하나 역전파 과정에서 gradient vanishing / exploding이 발생해 성능이 떨어지고 파라미터 증가로 training error가 증가하는 문제가 있었다. 이를 해결하기 위해 여러 기법을 사용하여 개선한 모델이 ResNet이다. 2. Residual Learning아래 ResNet의 구조를 보면 Residual Network에서 화살표를 통해 Convolution Layer를 건너 뛰는게 보일 것이다.입력값이 convoution을 거치지 않고 넘어가는 skip connection을 통해 신경망이 깊어지면 필연적으로 발생하는 gradient vanishing문제를 해결했다. 기존 방식의 신경망은 입력 x에 대.. 2024. 3. 12. 이전 1 다음 728x90 반응형
