Quiz KNN dan Evaluasi Model

KNN sering disebut sebagai algoritma lazy learner karena tidak langsung membangun model selama proses pelatihan. Mengapa hal ini dapat menjadi tantangan saat menangani dataset yang sangat besar?

• Karena model KNN tidak memerlukan tahap validasi ulang setelah pelatihan.

• Karena KNN menyimpan seluruh data untuk setiap proses prediksi.

• Karena KNN secara otomatis akan menghapus data outlier tanpa memengaruhi proses prediksi.

• Karena KNN hanya bisa digunakan untuk data kategorik, bukan data numerik.

• Karena model KNN menyesuaikan bobot fitur secara dinamis setiap kali proses pelatihan.

Menurut konsep KNN, pemilihan nilai k dapat sangat memengaruhi hasil klasifikasi. Bagaimana nilai kkk memengaruhi bentuk decision boundary?

• Makin kecil k, decision boundary cenderung menjadi lebih halus dan bebas dari noise.

• Makin besar k, decision boundary hanya akan terbentuk di sekitar satu titik pusat data.

• Makin besar k, decision boundary cenderung menjadi lebih sederhana dan smooth.

• Nilai k tidak memengaruhi bentuk decision boundary karena jarak sudah ditentukan.

• Makin kecil k, makin sedikit data yang disimpan sehingga memudahkan proses klasifikasi.

Anda memiliki dataset pelanggan (fitur: demografi dan riwayat pembelian) untuk memprediksi "Berpotensi Membeli" atau "Tidak Membeli." Anda sedang memilih metrik jarak (misalnya Euclidean vs. Manhattan). Manakah pernyataan paling tepat terkait pengaruh pemilihan metrik jarak terhadap kinerja KNN?

• Memilih Euclidean distance akan selalu meningkatkan akurasi KNN tanpa pengecualian.

• Manhattan distance lebih stabil pada dataset berdimensi tinggi daripada Euclidean distance.

• Jika skala fitur sangat bervariasi, semua metrik jarak akan menghasilkan kinerja serupa.

• Perbedaan metrik jarak dapat memengaruhi hasil, terutama jika fitur memiliki skala atau distribusi yang berbeda.

• Euclidean distance hanya cocok untuk fitur kategorik, sedangkan Manhattan distance untuk fitur numerik.

Bandingkan dua pendekatan evaluasi model KNN: (1) menggunakan pembagian data 70% untuk pelatihan dan 30% untuk validasi, dan (2) menggunakan cross-validation dengan 5 folds. Manakah pernyataan yang paling tepat?

• Pendekatan (1) cenderung lebih akurat daripada (2) karena lebih banyak data untuk validasi.

• Pendekatan (1) mengurangi bias, sedangkan (2) lebih rentan overfitting.

• Pendekatan (2) cenderung menghasilkan estimasi kinerja yang lebih stabil karena memanfaatkan beberapa fold validasi.

• Pendekatan (1) dan (2) sama-sama tidak relevan untuk KNN, karena KNN merupakan lazy learner.

• Pendekatan (1) umumnya memerlukan lebih sedikit waktu komputasi dibandingkan (2), tetapi hasilnya lebih stabil.

Mengapa feature scaling (misalnya normalisasi atau standardisasi) penting dalam penerapan KNN?

• Untuk mengurangi jumlah neighbors yang dibutuhkan.

• Karena KNN tidak membutuhkan data kontinu, sehingga perlu diskritisasi.

• Agar fitur dengan rentang nilai besar tidak mendominasi perhitungan jarak.

• Karena KNN tidak bisa berjalan tanpa feature scaling.

• Untuk menggabungkan fitur kategorik dan numerik agar menjadi satu skala.

Sebuah dataset memiliki variabel Age (0-100) dan Income (dalam ribuan rupiah, rentang 1.000-10.000). Anda akan memakai KNN untuk memprediksi keanggotaan kelas "Berlangganan" vs. "Tidak Berlangganan." Manakah tindakan terbaik sebelum menghitung jarak pada data tersebut?

• Menghapus variabel Income karena rentangnya terlalu besar.

• Melakukan feature scaling pada semua fitur.

• Menggunakan k=1 supaya jarak lebih mudah dihitung.

• Tidak perlu melakukan apa-apa karena KNN menyesuaikan skala secara otomatis.

• Mengonversi semua data numerik menjadi data kategorik.

Dalam penerapan KNN, Anda mengamati bahwa ketika k=1, akurasi pada data pelatihan mencapai 100%, tetapi akurasi pada data uji justru sangat rendah. Ketika nilai kkk meningkat, akurasi pada data uji meningkat. Fenomena apa yang terjadi pada k=1?

• Underfitting

• Overfitting

• Regularisasi yang berlebihan

• Penggunaan metrik jarak yang keliru

• Model tidak terpengaruh sama sekali

Sebuah perusahaan asuransi ingin memprediksi apakah calon nasabah akan mengambil asuransi jiwa atau tidak, berdasarkan data riwayat kesehatan dan profil keuangan. Bagaimana cara terbaik menentukan jumlah tetangga (k) dan metrik jarak yang sesuai?

• Memilih k=1 dan Euclidean distance karena menghasilkan batas keputusan paling detail.

• Mencoba berbagai nilai k serta beberapa metrik (misal Euclidean, Manhattan) lalu membandingkan kinerja validasi.

• Menghindari Manhattan distance dan langsung menetapkan k=10.

• Menetapkan k sama dengan jumlah total fitur dan menggunakan Minkowski distance.

• Menggunakan k genap agar pembagian kelas seimbang dan tidak terjadi tie.

Sebuah restoran cepat saji ingin membuat rekomendasi menu baru berbasis pola pembelian: ayam, sapi, atau sayuran. Mereka ingin mengklasifikasikan pelanggan menjadi "Peminat Ayam" vs. "Peminat Menu Vegan." Jika proporsi pelanggan "Peminat Ayam" jauh lebih besar daripada "Peminat Menu Vegan," apa yang perlu diperhatikan dalam penerapan KNN?

• Meningkatkan ukuran k untuk mengatasi ketidakseimbangan data.

• Menghapus kelompok "Peminat Menu Vegan" supaya data menjadi seimbang.

• Menjamin bahwa jarak antarfitur dihitung menggunakan label yang dominan saja.

• Risiko bahwa kelas minoritas sulit terdeteksi karena tetangga terdekat didominasi kelas mayoritas.

• Menggabungkan semua kelas menjadi satu supaya tidak ada ketidakseimbangan.

Sebuah aplikasi kebugaran mengumpulkan data durasi latihan, jumlah langkah harian, denyut nadi, dan waktu tidur. Model KNN ingin digunakan untuk merekomendasikan pola latihan personal. Apa langkah persiapan data yang paling sesuai?

• Menghapus semua outlier agar data menjadi bersih, lalu langsung menggunakan k = 1.

• Mengonversi data numerik seperti denyut nadi menjadi data kategorik ("Tinggi"/"Rendah").

• Melakukan scaling pada fitur dengan rentang nilai besar, meninjau outlier, dan menentukan nilai kkk melalui validasi.

• Menggabungkan semua fitur menjadi satu skor kebugaran agar memudahkan perhitungan jarak.

• Tidak melakukan apapun, karena KNN adalah lazy learner yang secara otomatis menyesuaikan data.