怎麼玩?
- 先按一個預設資料集(建議從 XOR 開始),或切到「類別 A/B」直接在畫布上點出你自己的資料。
- 按 ▶ 開始。背景顏色就是神經網路目前的判斷:藍色偏向 A、橘色偏向 B;被分錯的點會有紅圈。
- 試試看:兩團高斯 用 1 層 × 1 顆神經元就夠;XOR 1 顆神經元永遠學不會,tanh 加到 4 顆就行;雙螺旋 要 3 層 × 16 顆、跑幾百到一千個 epoch。
- 換成 ReLU 看看邊界變成直線拼起來的樣子;ReLU 只給 4 顆學 XOR 常常卡住(神經元「死掉」了),加到 8 顆就穩。
- 把優化器換成純梯度下降、學習率調到 0.3 以上,感受一下沒有 Adam 的年代有多慢;Adam 學習率拉到 1 或 3,看看會不會震盪或直接爆掉。
- 批次大小改成 32 或 8:每個 epoch 會更新很多次、邊界會抖動,用 Adam 配雙螺旋反而比全批次更容易卡住,自己試試看。
- 右邊的結構圖:線越粗代表權重絕對值越大,藍色正、橘色負。loss 曲線在下面。
類別 A
類別 B
分錯的點
背景=模型預測(越深越肯定)
EPOCH
0
LOSS
–
正確率
–
參數量
0