[CV] ZF Net 리뷰

1. ZF Net이란

 

zf는 저자인  zeiler 와 fegus 의 이름을 딴 것이다.zf은 alex넷을 조금 변형시켜 이는 새로운 구조를 제안한 것은 아니지만cnn의 중간 과정을 확인할 수 있게 비주얼라이징함으로써 . 어떤 크기의 conv와 chanel이 최적의 조합인지 판단할 수 있다.

 

 

2. 시각화 과정

 

alex넷에서 제안했던 conv와 pooling 그리고 relu activ 를 역으로 연산하여 각 레이어가 나타내는 것을 확인하려하였다.

 

2-1. unpooling

max pooling 은 크기내에서 가장 큰값만 남기게 되는데 역방향으로 진행할떄는 어떤 위치에서 남게된 값인지 알기가 어려웠다. 

이에 저자들은 맥스풀링시에 위치를 저장하도록하여 언풀링이 가능하도록하였다.

 

2-2.  relu

렐루의 경우 0이상은 그대로 유지하고 0아래는 0을 리턴하게되는데 

저자들은 음의 값의 경우 복원하지않아도 큰 문제가 되지 않는다고 한다.

이에 역과정 역시 relu의 정방향과 같은 방법으로 진행한다.

 

 

2-3. deconv

수학적으로 역 연산을 실행하여 deconv한다.

 

 

3. 각 layers

 

레이어 1에서는 수평 수직전같은 단순한 특징 점점 깊어 질수록 여러 선이나 코너의 결함으로 더 자세한 특징을 짚어내는 것을 확인할 수 있다.

이런 시각화로 어떤 레이어에서 좋은 특징을 뽑아내고있는지 등 cnn의 구조가 적절했는지를 확인 할 수 있었다.

추가적으로 각 레이어별로 몇 epoch부터 특징을 제대로 잡아냈는지 즉 잘 학습을 했는지를 확인하엿는데 (특징이 수렴하였는지)

앞쪽의 레이어들은 낮은 epoch에도 특징이 수렴했지만 뒷쪽의 레이어들은 좀더 많은 epoch가 필요함을 확인할 수 있었다.

 

 

https://www.youtube.com/watch?v=46TlWpZgKRE 

위 영상을 많이 참고했다.