【ラビットチャレンジレポート】深層学習day1　Section3：出力層

E資格受験に必要なJDLA認定講座の一つであるラビット・チャレンジ(https://ai999.careers/rabbit/)のレポート用ページです。

100文字以上要点まとめ

出力層の役割

私たちが欲しい意味を持った値を出力する

誤差関数

残差平方和の場合
出力データと訓練データの残差の2乗

\( E_n(w) = \frac{1}{2}\sum_{j=1}^J {(y_j-d_j)}^2 \)
\( = \frac{1}{2} { || \bf{y}-\bf{d} || }^2 \)

分類問題の場合：クロスエントロピー誤差
回帰問題の場合：平均2乗誤差

出力層の活性化関数

出力層の中間層とのちがい

【値の強弱】
・中間層：閾値の前後で信号の強弱を調整
・出力層：信号の大きさ(比率)はそのままに変換

【確率出力】
・分類問題の場合、出力層の出力は0-1の範囲に限定し、総和を1にする必要がある
⇒利用される活性化関数が異なる

①上記誤差関数はなぜ引き算ではなく二乗するか述べよ。1/2はどういう意味をもつか述べよ

なぜ引き算ではなく二乗するか
⇒+方向の誤差と-方向の誤差が打ち消しあうのを防ぐため

1/2はどういう意味をもつか
⇒微分した際にでてくる2を打ち消し、計算式の見通しをよくするため。(本質的な意味はない）

②1-3の数式に該当するソースコード示し1行ずつ処理の説明せよ

③ 1-2の数式に該当するソースコード示し1行ずつ処理の説明せよ

12/11 1:00