最適解を見つける勾配降下法

勾配降下法は重みの値を最適化する手法です。ニューラルネットワークの各層の重みを繰り返し調整することによって、予測結果と正解ラベルの間の誤差を小さくしていくことが学習です。

この誤差をは損失関数によって定量的に表すことができます。最も誤差を小さくするパラメータの組み合わせを最適解と呼びます。