Neural Networks: Applications

Examples and Intuitions I : article

Non-linear classification example: XOR/XNOR

• XOR

Input		Output
A	B	A XOR B
0	0	0
0	1	1
1	0	1
1	1	0

• XNOR

Input		Output
A	B	A XNOR B
0	0	1
0	1	0
1	0	0
1	1	1

x1, x2 are bindary ( 0 or 1 )

---

Simple example: AND

• Sigmoid Chart

純正阿廷手工藝品!

• 在 z 為 4.6 時候 快要為 1
• 在 z 為 - 4.6 時候 快要為 0

• 運算:

hΘ(x) = g ( -30 + 20 * x1 + 20 * x2)

x1	x2	hΘ(x)
0	0	g(-30) ≈ 0
0	1	g(-10) ≈ 0
1	0	g(-10) ≈ 0
1	1	g(10) ≈ 1

計算出的結果 hΘ(x) ≈ x1 AND x2

---

Simple example: OR

很好!! 超懶 XDDD

Examples and Intuitions II : article

Negation: Not x1

Putting it together: x1 XNOR x2

Handwritten digit classification

用上面學的 Neural Networks 來做手寫辨識!!

影片來大神介紹的另一位神人 Yann LeCun

Multiclass Classification : article

Multiple output units: One-vs-all

• ex: 辨別四種- Pedestrian, Car, Motorcycle, Truck
• 在 output layer 的 地方會有 four output units

• 看 y^(i) 時候，改用 vector 的方式呈現