第567章 多層感知機(第1/2 頁)
多層感知機的故事:魔法議會的決策過程
在一個神秘的王國裡,國王想要選出一位新的王國守護者。這個過程可不是隨便挑選一個人,而是需要經過一套複雜的決策系統。
首先,國王召集了一群初級顧問(第一層),他們的任務是根據簡單的標準篩選候選人,比如力量、智慧、忠誠等。然後,這些初級顧問會把篩選後的結果交給高階顧問(第二層),高階顧問會進一步綜合分析,比如勇氣、戰鬥經驗、道德標準。最終,這些資訊被提交給大祭司(輸出層),由她做出最終決定——誰能成為王國的守護者!
這個複雜的決策過程,就像多層感知機(lp, ulti-yer perceptron)的工作方式——透過多層計算,逐步從簡單特徵提取更高層次的模式,最終得出精準的判斷。
1 什麼是多層感知機?
多層感知機(lp)是一種前饋神經網路,由多個感知機(神經元)組成,至少包含一個隱藏層,能夠學習複雜的非線性關係。
lp 的基本結構包括:
? 輸入層(put yer):接收外界資料,比如影象、文字、感測器資料等。
? 隱藏層(hidden yers):一層或多層,負責逐步提取更復雜的特徵。
? 輸出層(output yer):根據處理的結果,輸出最終的預測,比如分類結果、數值預測等。
數學上,lp 的計算流程如下:
1 計算加權和:
其中, 是權重矩陣, 是輸入資料, 是偏置。
2 透過啟用函式引入非線性:
這裡的 可能是 re, sigoid, tanh 等啟用函式,使得神經網路可以學習複雜的關係。
整個過程可以層層推進,直到輸出層最終給出結果。
2 為什麼單層感知機不夠?(國王的錯誤決策)
想象國王直接讓一群初級顧問(單層感知機)做最終決策,那會發生什麼?
他們只能依據簡單的標準,比如:
? “誰的力量最強?”
? “誰的智慧最高?”
但如果候選人需要同時具備力量+智慧+忠誠+勇氣,單層感知機就無能為力了。因為它只能學習線性關係,而無法組合多個因素進行復雜決策。
數學上,單層感知機只能表示線性可分問題,但現實世界的很多問題是非線性的。例如:
? 邏輯異或(xor)問題:單層感知機無法解決,因為它不是線性可分的。
? 影象識別:不能僅靠畫素的亮度判斷物體,需要多層特徵提取。
? 自然語言處理:單個詞的出現不夠,需要理解語境關係。
這就是為什麼國王需要多層顧問(lp)——多層神經網路可以逐步提取複雜特徵,使得最終決策更加準確!
3 lp 如何學習?(國王的顧問如何改進決策)
國王知道自己的顧問系統有缺陷,於是決定引入一套學習機制,讓顧問們透過經驗不斷最佳化決策。
(1)前向傳播(forward propagation)
國王向顧問們提交候選人名單,每個顧問按照自己擅長的領域打分,然後層層傳遞,最終大祭司給出決策。
數學上,這就是:
1 每一層計算:
2 透過啟用函式:
3 最終輸出預測結果 。
但如果這個決策結果和實際情況不符呢?國王如何最佳化顧問們的判斷呢?這就需要反向傳播。
(2)反向傳播(backpropag