言語
AI 實驗室 · 理論概念
Sigmoid、Tanh、ReLU：非線性讓多層網路真正有用。
激發函數決定神經元「怎麼放電」。沒有非線性，多層網路就等價於一層線性。 拖動輸入 z，看輸出與梯度（斜率）如何變化。
正數原樣通過、負數歸零。深網常用，但負區梯度=0 → 可能「死神經元」。
迷你神經元：a = σ(w · x)
w·x = 1.20 → 輸出 1.200