논문 리뷰반 피드백 정리

23년도 1학기에 동아리에서 논문 리뷰반 수업을 들었다. 나는 한 학기동안 논문 두개를 읽고 발표를 진행했다. 논문을 처음 읽었을때는 정말 어려웠다. 하지만 어떻게든 읽고 발표를 준비하는 과정에서 대충 어떻게 읽는지는 알게 돼었다. 동아리 수업과 상관없이 학기에 두 편씩은 읽어야겠다. 

 

ImageNet Classification with Deep Convolutional Neural Networks(AlexNet)

1. MLP보다는 이전 CNNs모델과 비교하는게 좋다 -> 이전 모델의 어떤 점을 개선했는지를 중심으로

2. 모델 구조, 기술(최적화된 GPU, 효율적인 모델)에 대한 설명이 빠짐 -> 간단히 설명하지 말고 자세하게 꼼꼼히

3. DataSet Image 표가 여러개라 보기 어려움. 하나의 표로 정리

 

Deep Residual Learning for Image Recognition(ResNet)

1. skip connection의 장점에 대한 설명이 부족 > Backpropagation시 미분을 했을때 Gradient vanishing을 방지해 degradation problem을 해결할 수 있음.

2. Zero padding에 대한 설명이 부족 > 사이즈가 다른 행렬끼리는 덧셈 연산이 불가능해 0인 요소들을 채워 shape를 맞춰주기 위해 사용함