AI 實驗室 · 理論概念
分數變機率，交叉熵衡量分類有多確定。
Softmax 把任意分數（logits）變成加總為 1 的機率；交叉熵衡量「預測分布」與「正確類別」差多遠。 調分數看機率如何重新分配。
模型預測
貓 (63%)
交叉熵損失 −log(p_正確)
0.463
正確答案（監督標籤）
公式直覺
Softmax(zᵢ) = exp(zᵢ) / Σⱼ exp(zⱼ)
某個類別的 logit 變高，它的機率上升、其他類被「擠壓」下降——這就是競爭。 交叉熵只關心正確類的機率：p 越接近 1，損失越接近 0；p 很小則損失爆炸（模型被重罰）。