下圖是一個 2-layer feed-forward 類神經網路:

其中元件分別

輸入(Input layer)、隱藏層(Hidden layer)與輸出層(Output layer)
節點稱為神經元(Neuron)
彼此的連結有權重

NN_1.jpg

 

當需要訓練的物件可以被量化成3個元素(x1,x2,x3)並且得知這個物件的正確答案為Y時。

2-layer feed forward neutral network的公式如下。

NN_2.jpg

 

 

NN_3.jpg

 

 

NN_4.jpg

 

 

NN_5.jpg

 

NN_6.jpg

 

 

由於整個演算法都是由前往後累加,並不會受到後面的 Neuron 影響,所以稱為 Feed-forward

NN_7.jpg

 

之後計算出AFn6與正確答案之間的誤差 Err6 = AFn6*(1-AFn6)*(T-AFn6),假設正確答案是T。

接下來要更新每個 Neuron theta 與連結上的權重(w)

NN_8.jpg

NN_9.jpg

依此類推,將整個類神經網路的 theta and weight通通更新,並且進行下一次的學習,直到收斂為止。

於是由後面往前面,所以這個方法稱作 Backpropagation

arrow
arrow
    全站熱搜

    葛瑞斯肯 發表在 痞客邦 留言(0) 人氣()