Split & Merge (Convolution NN)

No Padding, No Stride

Padding, Stride

입력 단 자체를 나누어서 노드를 단들고 마지막에 합쳐버린다!

이 발상은, 고양이 실험으로 부터 왔는데, 요약하면, 우리는 그림 전체를 파악하는 것이 아니고, 부분 부분의 입력을 나누어서 받는다는 것이 핵심 아이디어이다.

자세한 설명은, index 여기서 공부해보자!

여기서 중요한 것은,

  1. 필터의 깊이는 해당 Activation map의 깊이와 같아야 한다.
  2. 필터의 개수에 따라 Activation map의 깊이가 달라진다.
  3. convolution 된 뒤의 면적은 stride와 padding에 따라 달라진다.

Pooling

= sampling

압축? 과 같은 개념!

Avg Pooling

Max Pooling

Fully Connected Layer (FC layer)

마지막 단에서 최종 출력 개수로 맞춰주는 것! 소프트맥스를 사용한다.

Reference