Outline
Intro to Perceptron
Perceptron adalah model machine learning untuk binary clasification. Perceptron terinspirasi dari neuron Biologis manusia Dendrites menerima sinyal, cell body menjumlahkan sinyal, jika lebih dari threshold, output dihasilkan dan disalurkan lewat axon yang mengirim sinyal output kemana mana.
Perceptron Termasuk? ?
- Supervised Learning(Klasifikasi)
- Linear Model (hanya Dataset yang linerarly separable)
- Simple Neural Network (dasar dari ANN)
Formal Definition of a neuron
Input X (Real Value/fitur) Weight W (Kontribusi tiap real value) Threshold θ (W0/b)
Linear combination z = w₀ + w₁x₁ + w₂x₂ + … + wₘxₘ or z = wᵀ · x (dot product)
Output berarti melebihi threshold ada 2:
σ(z) = { 1 jika z > 0
{ -1 otherwise (Sign Function)
σ(z) = { 1 jika z > 0
{ 0 otherwise (Step Function)
Decision Boundary
| Dimensi | Decision Boundary | Visual |
|---|---|---|
| 2D (2 fitur) | Garis Lurus | w₁x₁ + w₂x₂ + w₀ = 0 |
| 3D (3 fitur) | Bidang Datar | w₁x₁ + w₂x₂ + w₃x₃ + w₀ = 0 |
| n-D (n fitur) | Hyperplane | wᵀx + w₀ = 0 |
Perceptron untuk Logical Function
m of n function :: Fungsi yang menghaslkan true jika minimal m dari n inut bernilai true
And M OF N :: semua input harus TRUE e.g sign(x₁ + x₂ - 1)
OR M OF N :: minimal 1 input True e.g sign(2x₁ + 2x₂ - 1)
Perceptron Training (Learning) Rule
Prinsip Perceptron Training (Learning) Rule :: perbaiki kesalahan secara langsung.
Algoritma Lengkap (Harus paham dan bisa ngetik python)
Gradient Descent Untuk data yang tidak linearly separable