Pilihan Fitur Berbasis Filter

Penting

Dukungan untuk Studio Azure Machine Learning (klasik) akan berakhir pada 31 Agustus 2024. Sebaiknya Anda transisi ke Azure Machine Learning sebelum tanggal tersebut.

Mulai 1 Desember 2021, Anda tidak akan dapat membuat sumber daya Studio Azure Machine Learning (klasik) baru. Hingga 31 Agustus 2024, Anda dapat terus menggunakan sumber daya Pembelajaran Mesin Studio (klasik) yang ada.

ML Dokumentasi Studio (klasik) sedang berhenti dan mungkin tidak diperbarui di masa mendatang.

Mengidentifikasi fitur dalam himpunan data dengan kekuatan prediktif terbesar

Kategori: Modul Pemilihan Fitur

Catatan

Berlaku untuk: Pembelajaran Mesin Studio (klasik) saja

Modul drag-and-drop serupa tersedia di Azure Machine Learning desainer.

Ringkasan Modul

Artikel ini menjelaskan cara menggunakan modul Pemilihan Fitur Berbasis Filter di Pembelajaran Mesin Studio (klasik), untuk mengidentifikasi kolom dalam himpunan data input Anda yang memiliki kekuatan prediktif terbesar.

Secara umum, pemilihan fitur mengacu pada proses penerapan tes statistik ke input, diberikan output tertentu, untuk menentukan kolom mana yang lebih prediktif terhadap output. Modul Pemilihan Fitur Berbasis Filter menyediakan beberapa algoritma pemilihan fitur untuk dipilih, termasuk metode korelasi seperti korelasi Pearsons atau Kendall, skor informasi bersama, dan nilai kuadrat. Pembelajaran Mesin juga mendukung nilai fitur yang dihitung sebagai indikator nilai informasi.

Saat Anda menggunakan modul Pemilihan Fitur Berbasis Filter , Anda menyediakan himpunan data, mengidentifikasi kolom yang berisi label atau variabel dependen, lalu menentukan satu metode untuk digunakan dalam mengukur pentingnya fitur.

Modul menghasilkan satu himpunan data yang berisi kolom fitur terbaik, sesuai yang diurutkan berdasarkan daya prediktif. Modul tersebut juga menghasilkan nama fitur dan skor fiturnya dari metrik yang telah dipilih.

Apa itu pemilihan fitur berbasis filter dan mengapa menggunakannya?

Modul ini untuk pemilihan fitur disebut "berbasis filter" karena Anda menggunakan metrik yang dipilih untuk mengidentifikasi atribut yang tidak relevan, dan memfilter kolom redundan dari model Anda. Anda memilih satu pengukuran statistik yang sesuai dengan data Anda dan modul akan menghitung skor untuk setiap kolom fitur. Kolom akan ditampilkan dan diurutkan berdasarkan skor fitur kolom tersebut.

Dengan memilih fitur yang tepat, Anda berpotensi untuk meningkatkan akurasi dan efisiensi klasifikasi.

Anda biasanya hanya menggunakan kolom dengan skor terbaik untuk membangun model prediktif Anda. Kolom dengan skor pilihan fitur yang buruk dapat ditinggalkan di himpunan data dan diabaikan saat Anda membangun sebuah model.

Cara memilih metrik pilihan fitur

Pemilihan Fitur Berbasis Filter menyediakan berbagai metrik untuk menilai nilai informasi di setiap kolom. Bagian ini memberikan deskripsi umum tentang setiap metrik, dan bagaimana penerapannya. Persyaratan tambahan untuk menggunakan setiap metrik dinyatakan di bagian Catatan Teknis dan dalam instruksi untuk mengonfigurasi setiap modul.

  • Korelasi Pearson

    Statistik korelasi Pearson atau koefisien korelasi Pearson juga dikenal sebagai nilai r dalam model statistik. Untuk dua variabel, ia mengembalikan nilai yang menunjukkan kekuatan korelasi.

    Koefisien korelasi Pearson dikomputasi dengan mengambil kovarian dua variabel dan membaginya berdasarkan produk dari simpangan baku kedua variabel tersebut. Koefisien tidak terpengaruh oleh perubahan skala dalam dua variabel.

  • Informasi Bersama

    Skor informasi timbal balik mengukur kontribusi variabel terhadap pengurangan ketidakpastian tentang nilai variabel lain: yaitu, label. Banyak variasi dari skor informasi bersama telah dirancang agar sesuai dengan distribusi yang berbeda.

    Skor informasi timbal balik sangat berguna dalam pemilihan fitur karena memaksimalkan informasi timbal balik antara distribusi bersama dan variabel target dalam dataset dengan banyak dimensi.

  • Korelasi Kendall

    Korelasi peringkat Kendall adalah salah satu dari beberapa statistik yang mengukur hubungan antara peringkat variabel ordinal yang berbeda atau peringkat yang berbeda dari variabel yang sama. Dengan kata lain, ini mengukur kesamaan pemesanan ketika diberi peringkat berdasarkan jumlah. Koefisien ini dan koefisien korelasi Spearman dirancang untuk digunakan dengan data non-parametrik dan tidak terdistribusi secara normal.

  • Korelasi Spearman

    Koefisien Spearman adalah ukuran nonparametrik ketergantungan statistik antara dua variabel, dan kadang-kadang dilambangkan dengan huruf Yunani rho. Koefisien Spearman mengungkapkan sejauh mana dua variabel terkait secara monoton. Ini juga disebut korelasi peringkat Spearman, karena dapat digunakan dengan variabel ordinal.

  • Chi Kuadrat

    Uji chi kuadrat dua arah adalah metode statistik yang mengukur seberapa dekatnya nilai yang diharapkan dengan hasil yang sebenarnya. Metode ini mengasumsikan bahwa variabel bersifat acak dan diambil dari sampel variabel independen yang memadai. Statistik chi kuadrat yang dihasilkan menunjukkan seberapa jauh hasilnya dari hasil yang diharapkan (acak).

  • Skor Fisher

    Skor Fisher (juga disebut metode Fisher, atau skor probabilitas gabungan Fisher) kadang-kadang disebut skor informasi, karena mewakili jumlah informasi yang diberikan satu variabel tentang beberapa parameter yang tidak diketahui yang menjadi dasarnya.

    Skor dihitung dengan mengukur varians antara nilai yang diharapkan dari informasi dan nilai yang diamati. Ketika varians diminimalkan, informasi dimaksimalkan. Karena harapan skornya nol, informasi Fisher juga merupakan varians dari skor.

  • Hitung Berdasarkan

    Pemilihan fitur berbasis hitungan adalah cara sederhana namun relatif kuat untuk menemukan informasi tentang prediktor. Ide dasar yang mendasari featurization berbasis hitungan sederhana: dengan menghitung jumlah nilai individu dalam kolom, Anda bisa mendapatkan gambaran tentang distribusi dan berat nilai, dan dari sini, memahami kolom mana yang berisi informasi yang paling penting.

    Pemilihan fitur berbasis hitungan adalah metode pemilihan fitur yang tidak diawasi, yang berarti Anda tidak memerlukan kolom label. Metode ini juga mengurangi dimensi data tanpa kehilangan informasi.

    Untuk informasi selengkapnya tentang bagaimana fitur berbasis hitungan dibuat dan mengapa fitur tersebut berguna dalam pembelajaran mesin, lihat Pembelajaran dengan Hitungan.

Tip

Jika Anda memerlukan opsi berbeda untuk metode pemilihan fitur kustom, gunakan modul Execute R Script .

Cara mengonfigurasi Pilihan Fitur Berbasis Filter

Modul ini menyediakan dua metode untuk menentukan skor fitur:

Menghasilkan skor fitur menggunakan metrik statistik tradisional

  1. Tambahkan modul Pemilihan Fitur Berbasis Filter ke eksperimen Anda. Anda dapat menemukannya dalam kategori Pilihan Fitur di Studio (klasik).

  2. Sambungkan sebuah himpunan data input yang berisi setidaknya dua kolom yang merupakan fitur potensial.

    Untuk memastikan bahwa kolom harus dianalisis dan skor fitur dihasilkan, gunakan modul Edit Metadata untuk mengatur atribut IsFeature .

    Penting

    Pastikan bahwa kolom yang Anda berikan sebagai input adalah fitur potensial. Misalnya, sebuah kolom yang berisi satu nilai tidak memiliki nilai informasi.

    Jika Anda tahu ada kolom yang akan membuat fitur buruk, Anda dapat menghapusnya dari pemilihan kolom. Anda juga dapat menggunakan modul Edit Metadata untuk menandainya sebagai Kategoris.

  3. Untuk Metode penilaian fitur, pilih salah satu dari metode statistik yang telah ditetapkan berikut untuk digunakan dalam menghitung skor.

    Metode Persyaratan
    Korelasi Pearson Label bisa berupa teks atau numerik. Fitur harus berupa numerik.
    Informasi Bersama Label dan fitur dapat berupa teks atau numerik. Gunakan metode ini untuk melakukan komputasi tingkat kepentingan untuk dua kolom kategoris.
    Korelasi Kendall Label dapat berupa teks atau numerik tetapi fitur harus numerik.
    Korelasi Spearman Label dapat berupa teks atau numerik tetapi fitur harus numerik.
    Chi Kuadrat Label dan fitur dapat berupa teks atau numerik. Gunakan metode ini untuk melakukan komputasi tingkat kepentingan untuk dua kolom kategoris.
    Skor Fisher Label dapat berupa teks atau numerik tetapi fitur harus numerik.
    Penting Lihat: Untuk menggunakan Pilihan Fitur Count-Based

    Tip

    Jika Anda mengubah metrik yang dipilih, semua pilihan lainnya akan diatur ulang, jadi pastikan untuk mengatur opsi ini terlebih dahulu!)

  4. Pilih opsi Operasi pada kolom fitur saja untuk menghasilkan skor hanya untuk kolom yang sebelumnya telah ditandai sebagai fitur.

    Jika Anda membatalkan pilihan opsi ini, modul akan membuat skor untuk kolom apa pun yang memenuhi kriteria, hingga jumlah kolom yang ditentukan dalam Jumlah fitur yang diinginkan.

  5. Untuk kolom Target, klik Pemilih kolom peluncuran untuk memilih kolom label baik berdasarkan nama atau berdasarkan indeksnya (indeks berbasis satu).

    Sebuah kolom label diperlukan untuk semua metode yang melibatkan korelasi statistik. Modul menampilkan kesalahan waktu desain jika Anda memilih kolom tanpa label atau beberapa kolom label.

  6. Untuk Jumlah fitur yang diinginkan, ketik jumlah kolom fitur yang ingin Anda kembalikan sebagai hasilnya.

    • Jumlah minimum fitur yang dapat Anda tentukan adalah 1, tetapi kami sarankan Anda meningkatkan nilai ini.

    • Jika jumlah fitur yang diinginkan lebih besar dari jumlah kolom dalam himpunan data, maka semua fitur dikembalikan, bahkan yang memiliki skor nol.

    • Jika Anda menentukan kolom hasil yang lebih sedikit daripada kolom fitur, fitur diberi peringkat berdasarkan skor menurun, dan hanya fitur teratas yang dikembalikan.

  7. Jalankan eksperimen, atau pilih modul Pemilihan Fitur Berbasis Filter lalu klik Jalankan dipilih.

Hasil pemilihan fitur

Setelah pemrosesan berhasil:

  • Untuk melihat daftar lengkap kolom fitur yang dianalisis, dan skornya, klik kanan modul, pilih Fitur, dan klik Visualisasikan.

  • Untuk melihat himpunan data yang dihasilkan berdasarkan kriteria pemilihan fitur Anda, klik kanan modul, pilih Himpunan Data, dan klik Visualisasikan.

Jika himpunan data berisi kolom lebih sedikit dari yang Anda harapkan, periksa pengaturan modul, dan tipe data kolom yang disediakan sebagai input. Misalnya, jika Anda mengatur Jumlah fitur yang diinginkan ke 1, output himpunan datanya hanya berisi dua kolom: kolom label, dan kolom fitur dengan urutan paling tinggi.

Menggunakan pemilihan fitur berbasis hitungan

  1. Tambahkan modul Pemilihan Fitur Berbasis Filter ke eksperimen Anda. Anda dapat menemukannya dalam daftar modul di Studio (klasik), di grup Pilihan Fitur .

  2. Koneksi himpunan data input yang berisi setidaknya dua kolom yang merupakan fitur yang mungkin.

  3. Pilih Hitung Berdasarkan dari daftar metode statistik dalam daftar dropdown metode penilaian fitur.

  4. Untuk Jumlah minimum elemen non-nol, tunjukkan jumlah minimum kolom fitur yang akan disertakan dalam output.

    Secara default, modul mengeluarkan semua kolom yang memenuhi persyaratan. Modul tidak dapat mengeluarkan kolom apa pun yang mendapat skor nol.

  5. Jalankan eksperimen, atau pilih hanya modul, dan klik Jalankan Dipilih.

Hasil pemilihan fitur berbasis hitungan

  • Untuk melihat daftar kolom fitur dengan skornya, klik kanan modul, pilih Fitur, dan klik Visualisasikan .
  • Untuk melihat himpunan data yang berisi kolom yang dianalisis, klik kanan modul, pilih Himpunan Data, dan klik Visualisasikan.

Tidak seperti metode lain, metode pemilihan fitur Count Based tidak memberi peringkat variabel dengan skor tertinggi, tetapi mengembalikan semua variabel dengan skor non-nol, dalam urutan aslinya.

Fitur string selalu mendapatkan skor nol (0) dan dengan demikian bukan output.

Contoh

Anda dapat melihat contoh bagaimana pemilihan fitur digunakan di Galeri AI Azure:

  • Klasifikasi Teks; Pada langkah ketiga dari sampel ini, Pemilihan Fitur Berbasis Filter digunakan untuk mengidentifikasi 15 fitur terbaik. Hashing fitur digunakan untuk mengonversi dokumen teks menjadi vektor numerik. Korelasi Pearson kemudian digunakan pada fitur vektor.

  • Pemilihan fitur pembelajaran mesin dan rekayasa fitur: Artikel ini memberikan pengantar pemilihan fitur dan rekayasa fitur dalam pembelajaran mesin.

Untuk melihat contoh skor fitur, lihat Tabel skor yang dibandingkan.

Catatan teknis

Anda dapat menemukan modul ini di bawah Transformasi Data, dalam kategori Filter .

Detail implementasi

Jika Anda menggunakan Korelasi Pearson, Korelasi Kendall, atau Korelasi Spearman pada fitur numerik dan label kategoris, skor fitur dihitung sebagai berikut:

  1. Untuk setiap tingkat di kolom kategoris, lakukan komputasi rata-rata kondisional kolom numerik.

  2. Korelasikan kolom rata-rata kondisional dengan kolom numerik.

Persyaratan

  • Skor pemilihan fitur tidak dapat dibuat untuk kolom apa pun yang ditetapkan sebagai label atau sebagai kolom skor .

  • Jika Anda mencoba menggunakan metode penilaian dengan kolom tipe data yang tidak didukung oleh metode, modul akan menimbulkan kesalahan, atau skor nol akan ditetapkan ke kolom.

  • Jika kolom berisi nilai logis (benar /salah), mereka diproses sebagai True = 1 dan False = 0.

  • Kolom tidak dapat menjadi fitur jika telah ditetapkan sebagai Label atau Skor.

Cara penanganan nilai yang hilang

  • Anda tidak dapat menentukan sebagai kolom target (label) kolom apa pun yang memiliki semua nilai yang hilang.

  • Jika kolom berisi nilai yang hilang, mereka diabaikan saat menghitung skor untuk kolom.

  • Jika kolom yang ditetapkan sebagai kolom fitur memiliki semua nilai yang hilang, skor nol ditetapkan.

Tabel skor dibandingkan

Untuk memberi Anda gambaran tentang bagaimana skor dibandingkan saat menggunakan metrik yang berbeda, tabel berikut menyajikan beberapa skor pilihan fitur dari beberapa fitur dalam dataset harga mobil, mengingat variabel jalan raya-mpg yang bergantung.

Kolom fitur Skor Pearson Hitung skor Skor Kendall Informasi bersama
highway-mpg 1 205 1 1
city-mpg 0.971337 205 0.892472 0.640386
curb-weight 0.797465 171 0.673447 0.326247
horsepower 0.770908 203 0.728289 0.448222
harga 0.704692 201 0.651805 0.321788
length 0.704662205 205 0.53193 0.281317
engine-size 0.67747 205 0.581816 0.342399
lebar 0.677218 205 0.525585 0.285006
bore 0.594572 201 0.467345 0.263846
wheel-base 0.544082 205 0.407696 0.250641
compression-ratio 0.265201 205 0.337031 0.288459
sistem bahan bakar Na Na Na 0.308135
make Na Na Na 0.213872
roda penggerak Na Na Na 0.213171
tinggi Na Na Na 0.1924
kerugian yang dinormalisasi Na Na Na 0.181734
symboling Na Na Na 0.159521
num-of-cylinders Na Na Na 0.154731
tipe mesin Na Na Na 0.135641
aspirasi Na Na Na 0.068217
gaya tubuh Na Na Na 0.06369
jenis bahan bakar Na Na Na 0.049971
num-of-doors Na Na Na 0.017459
lokasi mesin Na Na Na 0.010166

  • Skor informasi bersama dapat dibuat untuk semua jenis kolom, termasuk string.

  • Skor lain yang termasuk dalam tabel ini, seperti korelasi Pearson atau pemilihan fitur berbasis hitungan, memerlukan nilai numerik. Fitur string mendapatkan skor 0 dan karenanya tidak termasuk dalam output. Untuk pengecualian, lihat bagian Catatan Teknis .

  • Metode berbasis hitungan tidak memperlakukan kolom label secara berbeda dari kolom fitur.

Input yang diharapkan

Nama Jenis Deskripsi
Himpunan Data Tabel Data Himpunan data input

Parameter modul

Nama Rentang Jenis Default Deskripsi
Metode penilaian fitur Daftar Metode penilaian Pilih metode yang akan digunakan untuk penilaian
Hanya beroperasi pada kolom fitur Apa pun Boolean TRUE Menunjukkan apakah hanya menggunakan kolom fitur dalam proses penilaian
Kolom target Semua Pilihan Kolom Tidak ada Tentukan kolom target
Jumlah fitur yang diinginkan >=1 Bilangan bulat 1 Tentukan jumlah fitur yang akan dihasilkan dalam hasil
Jumlah minimum elemen non-nol >=1 Bilangan bulat 1 Tentukan jumlah fitur yang akan dikeluarkan (untuk metode CountBased)

Output

Nama Jenis Deskripsi
Himpunan data yang difilter Tabel Data Himpunan data yang difilter
Fitur Tabel Data Nama kolom keluaran dan skor pemilihan fitur

Pengecualian

Pengecualian Deskripsi
Kesalahan 0001 Pengecualian terjadi jika satu atau beberapa kolom himpunan data tertentu tidak dapat ditemukan.
Kesalahan 0003 Pengecualian terjadi jika satu atau beberapa input null atau kosong.
Kesalahan 0004 Pengecualian terjadi jika parameter kurang dari atau sama dengan nilai tertentu.
Kesalahan 0017 Pengecualian terjadi jika satu atau beberapa kolom tertentu memiliki jenis yang tidak didukung oleh modul saat ini.

Untuk daftar kesalahan khusus untuk modul Studio (klasik), lihat Pembelajaran Mesin Kode kesalahan.

Untuk daftar pengecualian API, lihat Pembelajaran Mesin Kode Kesalahan REST API.

Lihat juga

Pemilihan Fitur
Analisis Diskriminan Linier Fisher
Daftar Modul A-Z

  • Last updated on