ea-10

A backpropagation algoritmus messze a [] tanító algoritmus

viszont a lehető [] is.

• legújabb - leggyorsabb

• legelterjedtebb - leglassabb

• legelterjedtebb - legegyszerűbb

• legújabb - legegyszerűbb

Próbálkoztak matematikailag [] módszerekkel is, ezek [] elterjedtek

• egyszerűbb - nagyon

• összetettebb - nagyon

• egyszerűbb - nem nagyon

• összetettebb - nem nagyon

Viszont a backpropagation különböző finomításai népszerűek:

• L-BFGS

• Adadelta

• Adam

• Newton módszer

Az újabb algoritmusok általában [] jobb eredményt, [] kezelhetőek

• adnak - és nehezebben

• nem adnak - de nehezebben

• adnak - és könnyebben

• nem adnak - de könnyebben

Nagyon mély hálók esetén a hálóstruktúrát is érdemes módosítani (pl. []) a hiba mélyebb rétegekbe való hatékony visszaterjesztéséhez

• Batch Normalization

• Wide Network

• Residual Network

• Highway Network