DecTree Off A

Apa yang dimaksud dengan Overfitting dalam Decision Tree-based Classifier?

• Model yang gagal mengidentifikasi pola dalam data
• Model yang belajar terlalu banyak dari data pelatihan dan gagal di data baru
• Model yang terlalu sederhana
• Model yang mengabaikan data kategorikal

Answer explanation

Overfitting terjadi ketika model terlalu kompleks dan belajar dengan sangat detail dari data pelatihan, sehingga gagal menggeneralisasi pada data baru.

Apa kesalahan umum saat menggunakan Decision Tree dengan data yang sangat tidak seimbang?

• Model akan lebih cepat mempelajari data
• Pohon akan lebih kecil dan sederhana
• Model akan cenderung memprediksi kelas mayoritas
• Model akan menghasilkan akurasi yang lebih tinggi

Answer explanation

Decision Tree cenderung memprediksi kelas mayoritas jika data tidak seimbang, sehingga kelas minoritas tidak terwakili dengan baik.

Apa perbedaan antara Gini Impurity dan Entropy dalam Decision Tree?

• Keduanya menghasilkan hasil yang sama
• Gini Impurity mengukur seberapa sering kelas dominan muncul, sementara Entropy mengukur ketidakteraturan
• Entropy lebih efisien daripada Gini Impurity
• Tidak ada perbedaan antara keduanya

Answer explanation

Gini Impurity mengukur ketidakteraturan dengan cara yang sedikit lebih cepat dan efisien dibandingkan Entropy, yang mengukur ketidakteraturan dengan rumus lebih kompleks.

Apa yang salah jika kita tidak melakukan feature selection sebelum membangun Decision Tree?

• Model akan lebih cepat belajar
• Model akan menjadi lebih sederhana dan mudah dipahami
• Model mungkin menggunakan fitur yang tidak relevan, memperburuk hasil klasifikasi
• Tidak ada pengaruhnya

Answer explanation

Tanpa feature selection, Decision Tree mungkin akan menggunakan fitur yang tidak relevan atau berisik, yang dapat memperburuk akurasi model dan membuatnya lebih kompleks.

Apa itu CART dalam konteks Decision Tree?

• Algoritma untuk mengurangi jumlah node
• Algoritma untuk klasifikasi dan regresi berbasis pohon keputusan
• Teknik untuk mengukur Gini Impurity
• Teknik untuk mempercepat pelatihan pohon keputusan

Answer explanation

CART (Classification and Regression Trees) adalah algoritma yang digunakan untuk membangun Decision Tree baik untuk masalah klasifikasi maupun regresi.

Apa yang menjadi masalah utama saat menggunakan Decision Tree untuk dataset dengan banyak fitur kategorikal?

• Model menjadi terlalu sederhana
• Model kesulitan mengidentifikasi pola yang baik antara fitur numerik dan kategorikal
• Model terlalu efisien
• Fitur kategorikal tidak dapat digunakan dalam Decision Tree

Answer explanation

Decision Tree dapat kesulitan menangani banyak fitur kategorikal, terutama jika ada banyak level atau kategori, yang membuat pemisahan data menjadi lebih kompleks.

Apa yang dimaksud dengan Overfitting pada Decision Tree?

• Ketika pohon terlalu sederhana dan tidak mampu mempelajari pola dalam data
• Ketika pohon belajar terlalu banyak dari data pelatihan dan gagal generalisasi ke data baru
• Ketika model terlalu cepat dalam mengklasifikasikan data
• Ketika pohon tidak dapat menangani data yang besar

Answer explanation

Overfitting terjadi ketika model belajar terlalu banyak dari data pelatihan, termasuk noise dan fluktuasi kecil, yang membuat model tidak dapat menggeneralisasi dengan baik ke data baru.

Apa yang dimaksud dengan Node Split dalam Decision Tree?

• Pemisahan data berdasarkan nilai terendah
• Pemisahan data berdasarkan fitur yang paling relevan untuk klasifikasi
• Pemisahan data berdasarkan ukuran dataset
• Pemisahan berdasarkan nilai Support

Answer explanation

Node Split adalah proses membagi data pada setiap node pohon keputusan menggunakan fitur yang memberikan pemisahan terbaik (misalnya, berdasarkan Gini Impurity atau Information Gain).

Apa peran Out-of-Bag Error dalam Random Forest?

• Menghitung kesalahan pada data pelatihan yang tidak digunakan oleh setiap pohon dalam ensemble
• Mengukur akurasi model pada data uji
• Menentukan jumlah cabang pada setiap pohon
• Mengukur kesalahan pada data latih yang dihapus

Answer explanation

Out-of-Bag Error mengukur kesalahan pada data yang tidak digunakan oleh setiap pohon dalam Random Forest, memberikan perkiraan validitas model tanpa perlu data uji terpisah.

Apa yang harus dilakukan jika pohon keputusan terlalu dalam dan kompleks?

• Mengurangi jumlah data pelatihan
• Menggunakan Boosting untuk meningkatkan performa
• Mengatur parameter max depth atau melakukan pruning
• Menggunakan lebih banyak pohon dalam ensemble

Answer explanation

Jika pohon keputusan terlalu dalam, kita dapat mengurangi kedalaman dengan mengatur parameter max depth atau melakukan pruning untuk mencegah overfitting dan meningkatkan kemampuan generalisasi model.