CNN(Convolutional Neural Network)

Dense Net의 문제점

input의 공간적 정보(인접정보 등) 무시

 

컨볼루션 레이어

동작 방식: https://cs231n.github.io/convolutional-networks/ (Convolution Demo 부분)

(직사각형 모양의 윈도우 하나에서 값 하나를 추출)

 

풀링 레이어

채널은 그대로 두고 가로, 세로만 줄임

 

output size

$ OH = {H + 2P - FH \over S} + 1 $

$ OW = {W + 2P - FW \over S} + 1 $

입력: (H, W), 필터: (FH, FW), 출력: (OH, OW), 패딩: P, 스트라이드: S

 

 

 

• 5x5 Conv는 3x3 Conv 2번으로 대체할 수 있는데 $5^2 = 25,\ 3^2\times2 = 18$로 후자가 파라미터가 적다.
• 층이 깊을수록 활성화 함수를 많이 사용하므로 비선형성이 증가되 표현력도 증가한다.