[ANN] Probabilistic Neural Network

• Probabilistic Neural Network

Download: Probabilistic.c


機率神經網路(Probabilistic Neural Network)是由D.F.Specht於1988年所發表的，此網路是基於貝氏分類器(Bayesian Classifier)所設計出來的，固然機率神經網路比較適合應用在分類問題上。其優點是採一次學習，運算速度極快，但是缺點是隱藏層裡的節點數會受訓練範例所影響，在處理較複雜的問題時所需的記憶空間就會比其他類型的神經網路大了許多。

• Table for XOR Probelm



XOR輸入輸出分類表格如上

• Architecture for XOR Problem



依照上面的表格所設計的架構

輸入層：2個nodes (對應到兩個輸入)。

隱藏層：4個nodes（對應到4個訓練範例）。

輸出層：2個nodes（對應到兩種輸出可能性）。

• 網路計算公式

網路加權值初始化：



Whi: inputs到hidden nodes的weights值

Who: hidden nodes 到 output nodes的weight值

跟之前的網路架構不一樣的是他們的初始值是由訓練範例而定。

sigma是平滑曲度，這裡設定為 1。


網路計算公式：

隱藏節點計算公式




加總各output的weight值：



計算output：




最後設定最大輸出值為1，其餘為0（這個範例裡只有兩個輸出，所以其中為1，另一則為0）:


• 範例輸出畫面


這裡我只是介紹最簡易的Probabilistic Neural Network的簡單應用，改良後的PNN(MPNN)能分類的問題就不僅如此了。