E資格受験に必要なJDLA認定講座の一つであるラビット・チャレンジ(https://ai999.careers/rabbit/)のレポート用ページです。
100文字以上要点まとめ
MobileNets
【提案手法】
ディープラーニングモデルの軽量化・高速化・高精度化を実現(その名の通りモバイルなネットワーク)
【解決課題】
一般的な畳み込みレイヤーは計算量が多い
【解決方法】
Depthwise ConvolutionとPointwise Convolutionの組み合わせで軽量化を実現
DenseNet
【解決課題】
層が深くなるにつれて、学習が難しくなる
【解決方法】
DenseBlockと呼ばれるモジュールを用い前方の層から後方の層へアイデンティティ接続を介してパスを作る
【DenseNetとResNetの違い】
DenseBlockでは前方の各層からの出力全てが後方の層へ入力
RessidualBlockでは前1層の入力のみ後方の層へ入力
実装演習
確認テスト
①Depthwise Convolitionはチャネル毎に空間方向へ畳み込む。すなわち、チャネル毎にDK×DK×１のサイズのフィルターをそれぞれ用いて計算を行うため、その計算量は（い）となる。
(い)H×W×C×K ×K
②次にDepthwise Convolutionの出力をPointwise Convolutionによってチャネル方向に畳み込む。すなわち、出力チャネル毎に１×１×Mサイズのフィルターをそれぞれ用いて計算を行うため、その計算量は（う）となる。
(う)H×W×C×M
コメント