코딩하는 바나나

Abstract 이 논문에서는 deep network는 대체로 train 하는 것이 어렵기 때문에 깊은 모델의 train을 더 쉽게 만들어주기 위한 방법으로 Residual Learning Framework를 제시합니다. Deep network가 train이 어려운 이유는 뒤에서 설명됩니다. Residual Learning Framework는 redidual function을 layer에 새롭게 추가하는 방식입니다. 뒤에 어떤 구체적인 방식으로 이루어지는 지와 accuracy가 얼마나 좋아지는지에 대해서는 뒤에 실험적인 증거와 함께 설명됩니다. 그래서 ResNet은 VGGNet 보다 8배 깊은 layer로 훨씬 더 좋은 성능을 보이는 것 뿐만 아니라 더 적은 dropout 같은 테크닉을 적용하지 않아 더..

VGGNet 은 옥스포드 대학에서 개발된 모델로 2014년 ILSVRC에서 2위를 차지한 CNN을 기반으로 한 딥러닝 모델이다. Introduction VGGNet은 CNN을 기반으로 하였기 때문에 CNN과 마찬가지로 크게 Convolutional layer, pooling layer, Fully connected layer 이렇게 3가지의 layer들로 구성된다. 그러나 VGG 이전의 ILSVRC에서 높은 순위를 차지한 모델들과는 다르게 CNN 모델의 depth 즉, 깊이에 중점을 둔다. 이전의 모델들은 주로 큰 receptive field (필터 크기)를 사용했지만 VGG에서는 모델을 더 깊게 설계하기 위해 아주 작은 receptive field (3 * 3)를 사용한다. 이렇게 작은 필터 크기를 사..