[딥러닝 필기] week6. CNN Basics: Convolution

Convolutional Neural Networks

• Reduction of Model Complexity
  
  • 보통 Sequential data에 사용된다.
    • Sequential data:
    • ex) Images, Speech, Text

Image Classification

• 어떻게 사진이 같은지 판단해 ㅠㅠ
  • Local Feature 을 찾아내고, Matching 해보자
• Feature Extraction
  • Convolution: A way to find out local features
  • 각 자리 곱하여 합한다. (net)
  • 8X8 에 3X3 넣으면 6X6이 나온다.
  • output은 Feature Map이라고 부르기도 한다.
  • Threshold로 음수를 0으로 바꿀 수 있다. (relu) 
• Zero padding
  • 인풋에 0이 더 있다고 보고 계산

 

 

 

• Convolution (3D)
  • 입력의 채널이 3개면 mask의 채널도 3개여야 한다.
  • output을 1개의 feature map으로 만들경우 각 mask별로 나온 map값을 합한다.
•  Pooling
  • Subsampling from m by m pixels into 1 pixels
  • Max, Averaging or Lp pooling
  • 보통 2x2 pixels을 1pixels로 만든다.
  • 보통 max pooling을 많이 사용한다.
    • max pooling으로 하면 픽셀의 중요도를 어느정도 보존 가능하다.
  • 장점
    • 해상도를 줄여서 계산 속도를 줄인다.
    • 파라미터의 개수를 줄일 수 있다.
    • robust feature map을 만들 수 있다.
      • 그림이 한픽셀 밑으로 내련간 거는 인간이 볼 때 차이가 없다.
      • pooling하고 비교하면 많이 겹치게 된다.

convolution

Convolution feature extraction

convolution (multi channel)