2023-10-20から1日間の記事一覧
5.5.2 Sigmoid レイヤについて 合成関数の微分を利用したほうが理解しやすかったのでメモしておきます。 Lを損失関数とする。 ◎ステップ1 α(i) = 1+exp(-x) とすると、 y = 1/α(i) ∂L/∂α(i) = (∂L/∂y )(∂y/∂α(i)) ∂y/∂α(i) = - 1/α(i)^2 = -(1/α(i))^2 = -y^…
5.5.2 Sigmoid レイヤについて 合成関数の微分を利用したほうが理解しやすかったのでメモしておきます。 Lを損失関数とする。 ◎ステップ1 α(i) = 1+exp(-x) とすると、 y = 1/α(i) ∂L/∂α(i) = (∂L/∂y )(∂y/∂α(i)) ∂y/∂α(i) = - 1/α(i)^2 = -(1/α(i))^2 = -y^…