【ラビットチャレンジレポート】深層学習day3　Section1：再帰型ニューラルネットワークの概念

E資格受験に必要なJDLA認定講座の一つであるラビット・チャレンジ(https://ai999.careers/rabbit/)のレポート用ページです。

100文字以上要点まとめ

RNN全体像

時系列データに対応可能な、ニューラルネットワーク
　時系列データ
　　時間的順序を追って一定間隔ごとに観察され
　　相互に統計的依存関係が認められるようなデータの系列
　　例：音声データ、テキストデータ
下図はRNNの模式図としてよくみるもの。左右同じものを表している
CNNとのちがい
　中間層の出力を出力にするだけでなく次の中間層の入力にする
RNNの特徴
　時系列モデルを扱うには再帰構造が必要になる

BPTT

BPTTとは？
　RNNにおいてのパラメータ調整方法の一種(誤差逆伝播の一種)

実装演習

エビデンス

確認テスト

①RNNのネットワークには大きくわけて3つの重みがある。1つは入力から現在の中間層を定義する際にかけられる重み、1つは中間層から出力を定義する際にかけられる重みである。残り1つの重みについて説明せよ。

　前回の中間層の出力から今回の中間層を定義する際にかけられる重み

②連鎖律の原理を使い、dz/dxを求めよ。

③図のy1をx・z0・z1・win・w・woutを用いて数式で表せ。※バイアスは任意の文字で定義せよ。※また中間層の出力にシグモイド関数g(x)を作用させよ。