Regressions

Care e diferența dintre clasificare și regresie?

• Clasificarea prezice o clasă, regresia o valoare continuă
• Clasificarea folosește SVM, regresia doar rețele neuronale
• Nu există diferență — sunt sinonime
• Regresia funcționează doar pe text, clasificarea pe imagini

Din ce modul sklearn importăm modelele liniare folosite în laborator?

• sklearn.preprocessing
• sklearn.metrics
• sklearn.linear_model
• sklearn.svm

Modelul de regresie liniară prezice valoarea ca:

• Media valorilor din setul de antrenare
• Cea mai apropiată valoare din vecinii K-NN
• Produsul dintre caracteristici și bias
• Combinație liniară a caracteristicilor: ŷ = Σ wᵢxᵢ + b

Ce minimizează un model de regresie liniară simplă pe antrenare?

• Norma L2 a ponderilor
• MSE — media pătratelor erorilor
• Acuratețea pe setul de test
• Numărul de clasificări greșite

Care e diferența între MSE și MAE?

• MSE penalizează erorile mari mai puternic (pătrat) decât MAE (modul)
• MAE returnează un procent, MSE o valoare absolută
• MSE e doar pentru clasificare, MAE doar pentru regresie
• MSE și MAE produc întotdeauna același rezultat

Ce reprezintă bias-ul (b) într-un model de regresie liniară?

• Numărul de iterații până la convergență
• Valoarea prezisă când toate caracteristicile sunt 0
• Eroarea medie a modelului pe antrenare
• Suma absolută a ponderilor

De ce folosim cross-validation cu 3 fold-uri pe Car Price Prediction?

• Pentru că datele sunt prea puține pentru un singur split
• Pentru că sklearn nu permite altfel pentru regresie
• Pentru că nu avem un set separat de testare și vrem o estimare robustă
• Pentru a antrena modelul de 3 ori mai rapid

În K-fold cross-validation, fiecare exemplu apare în setul de test:

• Niciodată — doar în antrenare
• În funcție de mărimea fold-ului
• Exact o dată
• De K ori

Un model care are MSE foarte mic pe antrenare dar foarte mare pe test face:

• Overfitting
• Bias scăzut și varianță scăzută — model ideal
• Underfitting
• Cross-validation

Un model care are MSE mare ATÂT pe antrenare CÂT și pe test face:

• Memorare perfectă a datelor
• Overfitting
• Cross-validation imperfectă
• Underfitting