Pengklasifikasi linear

Dalam pemelajaran mesin, pengklasifikasi linear adalah klasifikasi yang mengambil keputusan berdasarkan nilai kombinasi linear dari sifat-sifatnya. Sifat-sifat suatu objek disebut juga nilai fitur (ciri) dan biasa dinyatakan dalam vektor yang disebut vektor fitur. Pengklasifikasi ini bekerja dengan baik untuk permasalahan praktis seperti klasifikasi dokumen dan masalah-masalah yang memiliki banyak variabel (fitur) hingga mencapai tingkat akurasi yang sekelas dengan pengklasifikasi nonlinear dengan waktu pelatihan yang lebih sedikit.

Definisi

Pada kasus ini, bulatan isi dan bulatan kosong dapat diklasifikasikan dengan benar oleh banyak pengklasifikasi linear. H₁ (biru) mengklasifikasikan dengan benar. Begitu juga H₂ (merah). H₂ dapat dianggap "lebih baik" dalam artian bahwa garisnya berada paling jauh dari kedua kelompok. H₃ (hijau) gagal mengklasifikasikan bulatan-bulatan tersebut dengan benar.

Jika vektor fitur input pengklasifikasi adalah vektor riil ${\vec {x}}$, nilai keluarannya adalah

$y=f({\vec {w}}\cdot {\vec {x}})=f\left(\sum _{j}w_{j}x_{j}\right)$

dengan ${\vec {w}}$ adalah vektor riil bobotnya dan $f$ adalah fungsi yang mengubah produk skalar dua vektor ke bentuk keluaran yang diinginkan. Vektor bobot ${\vec {w}}$ dipelajari dari himpunan sampel pelatihan yang telah dilabeli. Biasanya, fungsi $f$ adalah fungsi ambang batas yang memetakan semua nilai ${\vec {w}}\cdot {\vec {x}}$ yang di atas batas tertentu ke dalam kelas pertama dan nilai-nilai lainnya ke dalam kelas kedua, misalnya

$f(\mathbf {x} )={\begin{cases}1&{\text{jika }}\ \mathbf {w} \cdot \mathbf {x} >T\\0&{\text{lainnya}}\end{cases}}$

Fungsi $f$ yang lebih kompleks mungkin dapat memberikan peluang suatu barang termasuk kelas tertentu.

Lihat pula

• Propagasi balik
• Regresi linear
• Perceptron
• Pengklasifikasi kuadratik
• Support-vector machine
• Winnow (algoritme)

Bacaan lebih lanjut

1. Y. Yang; X. Liu (1999). "A re-examination of text categorization". Proc. ACM SIGIR Conference: 42–49. 
2. R. Herbrich (2001). Learning Kernel Classifiers: Theory and Algorithms. MIT Press. ISBN 0-262-08306-X.