Intro to Deep Learning

Manakah dari jawaban berikut yang paling tepat menggambarkan peran bias (b) dalam unit linier?

• Menskalakan nilai input

• Memungkinkan neuron untuk memodifikasi output secara independen dari nilai input

• Mengalikan input dengan faktor konstan

• Menentukan bentuk fungsi aktivasi

Answer explanation

Bias (b) memungkinkan neuron untuk menyesuaikan output secara independen dari nilai input. Bias ditambahkan langsung ke jumlah berbobot dari input, sehingga menggeser nilai output tanpa dipengaruhi oleh nilai input.

Di Keras, bagaimana cara untuk mendefinisikan model yang memprediksi satu output ('kalori') dari tiga fitur input ('gula', 'serat', dan 'protein')?

• 
• 
• 
• 

Answer explanation

Untuk mendefinisikan model yang memprediksi satu output dari tiga fitur input dalam Keras, dapat digunakan lapisan dense dengan units=1 (karena yang diinginkan adalah satu output) dan input_shape=[3] (untuk menunjukkan bahwa model akan menerima tiga fitur input).

Mengapa fungsi aktivasi diperlukan dalam neural network?

• Menyediakan bias untuk neuron

• Memungkinkan jaringan untuk memodelkan hubungan linier

• Nemperkenalkan non-linearitas, memungkinkan jaringan untuk mempelajari pola-pola kompleks

• Menentukan bentuk input dari data

Answer explanation

Fungsi aktivasi memperkenalkan non-linearitas, yang memungkinkan jaringan saraf untuk mempelajari pola-pola kompleks. Tanpa fungsi aktivasi, neural network hanya dapat memodelkan hubungan linier.

Manakah dari model Keras berikut yang benar untuk membuat network dengan dua lapisan tersembunyi ReLU dan satu lapisan output linier untuk kasus regresi?

• 
• 
• 
• 

Answer explanation

Model Keras yang benar menggunakan dua lapisan tersembunyi dengan fungsi aktivasi ReLU dan satu lapisan output linear untuk tugas regresi adalah opsi B. Lapisan akhir adalah lapisan linier tanpa fungsi aktivasi karena regresi memerlukan output numerik murni.

Apa fungsi dari fungsi loss dalam pelatihan neural network?

• Mengukur disparitas antara nilai target yang sebenarnya dan nilai prediksi model

• Mengoptimalkan bobot jaringan

• Mengatur kecepatan pembelajaran

• Menentukan ukuran batch selama pelatihan

Answer explanation

Fungsi loss mengukur seberapa besar perbedaan antara nilai target yang sebenarnya dan nilai yang diprediksi oleh model. Hal tersebut membantu neural network untuk mengetahui seberapa baik performanya dan bagaimana bobotnya perlu disesuaikan selama pelatihan.

Apa yang dimaksud dengan "epoch" dalam konteks pelatihan neural network?

• Jumlah iterasi yang diperlukan untuk melatih mode

• Jumlah data yang digunakan dalam setiap iterasi pelatihan

• Jumlah sampel pelatihan yang digunakan sebelum memperbarui bobot model

• Jumlah putaran lengkap dari data pelatihan yang dilalui selama pelatihan

Answer explanation

"Epoch" adalah jumlah putaran lengkap dari data pelatihan yang dilalui oleh model selama pelatihan. Selama setiap epoch, model melihat setiap contoh pelatihan sekali dan memperbarui bobotnya berdasarkan perhitungan loss untuk memperbaiki prediksinya

Apa yang dimaksud dengan overfitting dalam konteks pelatihan model deep learning?

• Ketika model tidak mampu mempelajari sinyal dari data pelatihan dengan cukup baik

• Ketika model mempelajari terlalu banyak noise dari data pelatihan, sehingga kinerja pada data validasi menurun

• Ketika model mampu mempelajari semua sinyal dari data pelatihan tanpa mempelajari noise

• Ketika model terlalu cepat menghentikan pelatihan sebelum mencapai epoch yang ditentukan

Answer explanation

Overfitting terjadi ketika model mempelajari terlalu banyak noise dari data pelatihan, yang menyebabkan penurunan kinerja pada data validasi karena noise tersebut tidak dapat digeneralisasi ke data baru

Apa tujuan dari early stopping dalam pelatihan model neural network?

• Menghentikan pelatihan saat validasi loss tidak menunjukkan penurunan yang signifikan dalam beberapa epoch

• Menghentikan pelatihan saat training loss mencapai nilai minimum

• Menghentikan pelatihan setelah jumlah epoch yang ditentukan tercapai

• Menghentikan pelatihan saat jumlah neuron dalam jaringan mencapai kapasitas maksimal

Answer explanation

Early stopping bertujuan untuk menghentikan pelatihan ketika validasi loss tidak menunjukkan penurunan yang signifikan dalam beberapa epoch berturut-turut. Hal ini membantu mencegah overfitting dengan menghindari pembelajaran noise yang berlebihan

Apa tujuan utama dari dropout layer dalam pelatihan model deep learning?

• Menurunkan loss pada data validasi dengan meningkatkan kompleksitas model

• Membuat pelatihan lebih cepat dengan mengurangi jumlah neuron yang dilatih

• Mengurangi overfitting dengan mematikan secara acak sebagian unit input selama pelatihan

• Meningkatkan jumlah sinyal yang dipelajari oleh model dengan menambahkan lebih banyak lapisan

Answer explanation

Dropout layer berfungsi untuk mengurangi overfitting dengan mematikan secara acak sebagian unit input selama pelatihan, sehingga mencegah model terlalu bergantung pada pola-pola spesifik yang mungkin hanya terdapat dalam data pelatihan

Apa manfaat utama dari penggunaan batch normalization dalam pelatihan model deep learning?

• Menambahkan lebih banyak lapisan ke model untuk meningkatkan kapasitas

• Mengurangi jumlah epoch yang dibutuhkan untuk menyelesaikan pelatihan dan menstabilkan pelatihan

• Mengganti fungsi aktivasi dalam model untuk meningkatkan kinerja prediksi

• Menurunkan dropout rate untuk mengurangi overfitting

Answer explanation

Batch normalization membantu menstabilkan dan mempercepat pelatihan model neural network dengan menormalkan aktivasi dari setiap batch data, mengurangi masalah ketidakstabilan selama pelatihan, dan seringkali mengurangi jumlah epoch yang diperlukan untuk menyelesaikan pelatihan