Language
AI 實驗室 · 理論概念
在損失山谷往下走:梯度指路,學習率決定步幅。
訓練模型=在「損失山谷」找最低點。梯度告訴你往哪邊下坡;學習率決定一步跨多遠。 按「走一步」或自動下山,觀察學習率太大時的震盪。
目前損失 L(w)
4.475
梯度 ∂L/∂w
-1.854
已走步數
0
更新規則:w ← w − η · ∇L(w)