Modeling - [Try] VGGNet 층별 성능 비교

[UGeunJi]

VGGNet은 일반적으로 ResNet보다 성능이 저조하다. 하지만 일부 데이터를 가지고 할 때에는 더 좋은 성능을 보인 적이 있어서 실험해보겠다.

VGG11

Epoch 1/10
train | Loss: nan Acc: 0.1635
test | Loss: nan Acc: 0.1000
Epoch 2/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 3/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 4/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 5/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 6/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 7/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 8/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 9/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 10/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
<__main__.TrainModel at 0x7f4fc82cbe80>

test | Loss: nan Acc: 0.2083

오차와 정확도에 변화가 없다. 훈련 중일 때의 Loss는 nan(not a number)로 처리된다. 이유는 gradient vanishing로 이를 보완한 것이 ResNet이다. 아마 이 데이터셋은 VGGNet으로 훈련시키기엔 적합하지 않은 것 같다.

하지만 유명한 VGGNet 층은 16층과 19층이니 성능을 검토해보겠다.

VGG16

Epoch 1/10
train | Loss: nan Acc: 0.1635
test | Loss: nan Acc: 0.1000
Epoch 2/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 3/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 4/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 5/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 6/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 7/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 8/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 9/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
Epoch 10/10
train | Loss: nan Acc: 0.1698
test | Loss: nan Acc: 0.1000
<__main__.TrainModel at 0x7f4fc83944c0>

test | Loss: nan Acc: 0.2083

변화는 없다. 19층도 마찬가지일 거라 생각하므로 성능 검토는 생략하겠다. VGGNet은 사용하지 않는 걸로.