Neural Networks: Applications
Examples and Intuitions I : article
Non-linear classification example: XOR/XNOR
- XOR
| Input | Output | |
|---|---|---|
| A | B | A XOR B |
| 0 | 0 | 0 |
| 0 | 1 | 1 |
| 1 | 0 | 1 |
| 1 | 1 | 0 |
- XNOR
| Input | Output | |
|---|---|---|
| A | B | A XNOR B |
| 0 | 0 | 1 |
| 0 | 1 | 0 |
| 1 | 0 | 0 |
| 1 | 1 | 1 |
x1, x2 are bindary ( 0 or 1 )
Simple example: AND
- Sigmoid Chart
純正阿廷手工藝品!
- 在 z 為 4.6 時候 快要為 1
- 在 z 為 - 4.6 時候 快要為 0
- 運算:
hΘ(x) = g ( -30 + 20 * x1 + 20 * x2)
| x1 | x2 | hΘ(x) |
| 0 | 0 | g(-30) ≈ 0 |
| 0 | 1 | g(-10) ≈ 0 |
| 1 | 0 | g(-10) ≈ 0 |
| 1 | 1 | g(10) ≈ 1 |
計算出的結果 hΘ(x) ≈ x1 AND x2
Simple example: OR
很好!! 超懶 XDDD
Examples and Intuitions II : article
Negation: Not x1
Putting it together: x1 XNOR x2
Handwritten digit classification
用上面學的 Neural Networks 來做手寫辨識!!
影片來大神介紹的另一位神人 Yann LeCun
Multiclass Classification : article
Multiple output units: One-vs-all
- ex: 辨別四種- Pedestrian, Car, Motorcycle, Truck
- 在 output layer 的 地方會有 four output units
- 看 y^(i) 時候，改用 vector 的方式呈現
