레이어의 수가 많아지면 성능이 좋아질 여지가 많아진다. 일반적으로 레이어를 100개, 1000개 쌓는다고 성능이 좋아지지는 않는다. 레이어를 딥하게 쌓으면서 성능을 좋아지게 만드는 방법은? 1. AlexNet 파라미터의 수가 몇개인지를 먼저 알아야 한다 11x11 convolution, channel이 3 11, 11, 3, 48 ... 두 개로 나눠져 있는 이유, GPU가 좋지 않아서. ReLU(Rectified Linear Unit) - 웬만하면 ReLU를 쓰는 게 성능이 좋다는 게 현재 중론 LRN(Local Response Normalization) - 어떤 convolution feature map에 일정 부분만 값을 높게 갖고, 나머지는 값을 낮게 해주고 싶은 것. (모든 값을 같게 해주는 게..
