less than 1 minute read

Tags: , ,

Backpropagation Algorithm : article

Coursea :heart: 提示這章超級重要~ 偶的學長學姊都這樣說~~ 所以要多看遍 多多熟悉唷~~

Imgur

有一點 忘了後~ 速度複習一下!

  • Neuron model:

    Imgur

    • Neruon model: Logistic unit

    Imgur

  • Nerual Network:

    Imgur

  • Forward Propagation: Vectorized implementation

    Imgur

Gradien computation: Backpropagation algorithm

Imgur

要計算在每一 layer 下各個 unit 的 error Imgur

  • For each output unit (layer L = 4)
    • Imgur
        (4)         
       a    = (hΘ(x)) 
        j            j
      
    • 從 δ^(4) —-> δ^(1) 計算回去: 所以叫 Backpropagation

Backpropagation algorithm

Imgur

Backpropagation Intuition : article

大神教到這邊的時候也說,他自己有時候也沒法度很很有港覺得說出 backpropagation 在銃三學~ 但就是用了粉多年且用的好棒棒!

  • 筆記一下當初學 cs231 學的
  • 推導

    •   (2)     (2)    (3)      (2)    (3)
       δ     = Θ    * δ      + Θ    * δ   
        2       12     1        22     2   
      
    •   (3)     (3)    (4)
       δ     = Θ    * δ   
        2       12     1  
      

Imgur