第565章 偏置(第1/2 頁)

偏置的故事：魔法天平的微調

在一座古老的魔法城堡裡，有一位鍊金術師艾利斯，他精通配製神秘的魔法藥劑。他的實驗室裡擺放著一座魔法天平，用來精確測量各種魔法成分的比例，以確保藥劑能夠發揮最佳效果。

但是，他遇到了一個奇怪的問題：即使沒有放任何材料，天平的指標也不是完全歸零，而是略微偏向一側。 這讓他的實驗變得困難，因為如果不校準這個偏差，他的配方就會出現誤差，影響藥劑的品質。

於是，他在天平的一側放置了一個微調砝碼，以便讓指標在沒有材料的情況下剛好歸零。這塊小砝碼的作用，就像神經網路中的“偏置”（bias）。

1 偏置的作用：微調系統的初始狀態

艾利斯的魔法天平對應於神經網路的計算過程，其中天平的兩側重量之和決定了最終的讀數（就像神經網路的加權求和計算）。

但是如果天平本身就有偏差，那麼無論他放入多少材料，最終的讀數都會受到影響。因此，他需要新增一個微調砝碼，讓天平在空載時處於平衡狀態。

在人工神經網路中，我們的預測計算公式如下：

其中：

? 代表輸入資料（比如藥劑的不同成分）。

? 代表每個成分的重要性（權重）。

? 就是偏置，它的作用類似於微調砝碼，用來修正系統的初始狀態。

2 為什麼需要偏置？（天平偏移的影響）

如果艾利斯的天平沒有微調砝碼（偏置），那麼他的測量就會出現系統性偏差。例如：

? 如果天平天生就稍微向左傾斜，那麼即使他正確地新增了所有材料，最終的測量結果仍然會比實際值偏低。

? 反之，如果天平向右傾斜，那麼他的配方可能會變得過於濃烈，導致藥劑的副作用增強。

在神經網路中，如果沒有偏置 ，那麼即使所有輸入 為零，神經元的輸出仍然可能無法正確表達某些情況。例如：

? 在一個二分類問題（比如判斷一個人是否會購買商品）中，如果所有輸入都是零，模型仍然需要一個預設的“初始傾向”來決定預設輸出應該更接近 0 還是 1。

? 在影象識別中，如果沒有偏置，神經網路可能會對完全黑色的圖片（畫素全為 0）產生不合理的輸出。

因此，偏置的作用是確保神經元的輸出在沒有輸入時仍然能產生合理的初始值，避免因系統性偏差導致錯誤判斷。

3 現實世界的偏置：不同場景的微調

偏置不僅僅出現在神經網路中，它在許多實際問題中都有類似的作用。例如：

（1）電子裝置的“基礎電流”

想象一個電子電路，某個電器只有當輸入電壓達到某個閾值時才會啟動。但是由於電路的物理特性，可能在輸入為零時，裝置根本無法啟動。因此，工程師會新增一個微小的基礎電流（偏置電壓），確保電器能正常工作。

（2）公司招聘中的“經驗偏置”

假設某家公司招聘員工時，根據學歷、工作經驗、技能評分等因素來打分，計算公式如下：

如果沒有偏置（），那麼對於那些沒有工作經驗但極具潛力的應聘者（比如剛畢業的學生），評分可能會非常低，導致他們很難被錄取。公司可能會人為地新增一個“基礎分數”（偏置），以確保即使經驗較少的候選人也有一定的機會進入面試。

4 偏置的數學解釋：為什麼它和權重不同？

在神經網路中，權重（weights）決定輸入資料的影響力，而偏置（bias）調整整體的輸出水平。

如果我們只用權重，那麼神經元的計算