Cost Function and Backpropagation 2

Backpropagation Algorithm : article

Coursea 提示這章超級重要~ 偶的學長學姊都這樣說~~ 所以要多看遍 多多熟悉唷~~

有一點 忘了後~ 速度複習一下!

• Neuron model:

  

  • Neruon model: Logistic unit

  

• Nerual Network:

  

• Forward Propagation: Vectorized implementation

  

Gradien computation: Backpropagation algorithm

要計算在每一 layer 下各個 unit 的 error

• For each output unit (layer L = 4)
  • 

      (4)         
     a    = (hΘ(x)) 
      j            j
    

  • 從 δ^(4) —-> δ^(1) 計算回去: 所以叫 Backpropagation

Backpropagation algorithm

Backpropagation Intuition : article

大神教到這邊的時候也說，他自己有時候也沒法度很很有港覺得說出 backpropagation 在銃三學~ 但就是用了粉多年且用的好棒棒!

• 筆記一下當初學 cs231 學的

• 推導

  •   (2)     (2)    (3)      (2)    (3)
     δ     = Θ    * δ      + Θ    * δ   
      2       12     1        22     2   
    

  •   (3)     (3)    (4)
     δ     = Θ    * δ   
      2       12     1