EfficientNet - Network 구조 및 구현

💡Network (아키텍처 구조)

EfficientNet Network는 메인으로 mobile inverted bottleneck convolution(MBConv)
block을 사용한다. MBConv block Depthwise separable conv와
Squeeze-and-excitation(se) 개념을 적용한 방식이다.

 

📝 https://github.com/qubvel/efficientnet

GitHub - qubvel/efficientnet: Implementation of EfficientNet model. Keras and TensorFlow Keras.

📝 https://keras.io/examples/vision/image_classification_efficientnet_fine_tuning/

Keras documentation: Image classification via fine-tuning with EfficientNet

---

 

👉 특징

EfficientNet 모델은 Network Depth, Filter 개수(width), Image Resolution 크기를
최적으로 조합하여 모델 성능을 극대화 했다.

 👉 Depth, Width, Resolution의 모든 차원을 균일하게 scaling하는
새로운 방법을 제안

2019년 기준 (FLOFS는 초당 부동소수점 연산 횟수)

---

✏️ 개별 Scaling 요소에 따른 성능 향상 테스트

• Depth, 네트워크 깊이를 확장하는 것은 CNN에서 일반적인 방식이며, 깊이가 깊을수록 일반화적인 feature map을 추출 할 수 있다. 하지만 기울기 손실에 대한 문제가 존재
• Width, scaling하는 방법은 주로 소형 모델에 사용되며, width가 클수록 network가 훨씬 넓어지면 acc가 빠르게 saturate 되는 것을 확인 할 수 있다.
• Resolution, CNN에서 고해상도 input image를 사용 할수록 정확도가 향상 되지만, 매우 높은 해상도는 acc gain이 떨어지는 것으로 연구 결과가 나와 있다.

---

 👉 filter 수, network depth를 일정 수준 이상 늘려도 성능 향상이 미비하다. Resolution 경우 성능 향상이 지속됨
       imagenet dataset 기준 80% 정확도에서 개별 scaling 요소를 증가 시키더라도 성능 향상이 어려움.

inflearn 강의 자료

✏️ Compound Scaling

• Image 해상도가 높을 경우, 더 큰 Receptive Field가 더 많은 Pixel을 포함하는 비슷한 Feature를 잘 Capture 함.
• 더 많은 Pixel 수를 가지면 높은 이미지 해상도의 많은 픽셀들에 대해서 세밀한 패턴을 잘 Capture 할 수 있음.
• depth + resolution을 각각 1.0으로 고정, width만 증가하게 되면 acc 성능 80% 수렴
  (각각 2.0으로 고정하고, width만 변화 시, 비슷한 FLOPS상에서 더 나은 성능 향상이 된다.)
  

👉 Receptive Field(수용영역, 수용장)은 output layer의 뉴런 하나에 영향을 미치는 input 뉴런들의 공간 크기

---

// 참고 자료

📝 https://lynnshin.tistory.com/13

EfficientNet 모델 구조