AlexNet、層の深さ

AlexNetの深さ8層、GoogleNetの深さ22層は何を数えていますか？

Answer 1

[Akira Agata]

厳密には、どの層の数をカウントするかによって変わってきますが、「AlexNet：8層、GoogleNet：22層」といわれるときには「畳み込み層」と「全結合層」の合計数を指しています。

AlexNet：畳み込み層×５＋全結合層×３＝８層

GoogLeNet：畳み込み層×２１＋全結合層×１＝２２層

[Tsubasa Mawatari]

なぜ「畳み込み層」と「全結合層」の合計数なのでしょうか？

[Akira Agata]

たとえば畳み込み層については、畳み込み層からプーリング層までを１つの処理単位と考えることができるためです。実際、AlexNetの元となる下記論文のFig.2でも、畳み込み層からプーリング層までを纏めて１つのブロックとして図示されています。

[1] Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Advances in neural information processing systems. 2012.

[Tsubasa Mawatari]

大変勉強になりました。ありがとうございます。

Answer 2

[Hiroyuki Hishida]

Mawatari様、

例えばalexnetの論文に、以下の説明があります。 Now we are ready to describe the overall architecture of our CNN. As depicted in Figure 2, the net contains eight layers with weights; the first five are convolutional and the remaining three are fully- connected.

https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf

この論文の図2と、matlabで読み込んだalexnetを比較いただきますと、対応関係がわかるかと思います。

いかがでしょうか？

菱田

[Tsubasa Mawatari]

論文ありがとうございます。 読んでみようと思います。