| Up | 勾配計算ツール | 作成: 2026-06-26 更新: 2026-06-26 |
状態の各種データ 動作系の各種データ (種類もスケールもバラバラ) の処理計算を書くものなる。 そこで,パラメータ値更新の勾配計算が,たいへんなものに思えてくる。 しかし,勾配計算そのものは,定型の処理であり,計算グラフの内容に関係しない。 「自動微分 (autograd)」が全部やってくれる。 実際, PyTorch TensorFlow JAX はどれも,計算グラフを自動で構築し,勾配を自動で計算する: backward(逆伝播)は自動で計算される 勾配更新も optimizer がやってくれる 勾配計算は,計算グラフを逆向きにたどる。 どんな複雑な NN も,微分可能な演算で構成されていれば,逆向きにたどれる。 これを自動化したのが,「自動微分」。 |