P23 | Resolución de ejercicios

ReLU es una función de ...

• ... costo.

• ... activación.

• ... pérdida.

La función ReLU ayuda a mitigar el problema del gradiente que se desvanece si, por la red neuronal, fluyen ...

• ... tanto positivos como negativos.

• ... sólo positivos.

• ... sólo negativos.

La función Leaky ReLU ayuda a mitigar el problema del gradiente que se desvanece si, por la red neuronal, fluyen ...

• ... tanto positivos como negativos.

• ... sólo positivos.

• ... sólo negativos.

El teorema de aproximación universal de Hornik establece que una red feedforward con una sola capa oculta es suficiente para aproximar, con precisión arbitraria, cualquier función con un número finito de discontinuidades, siempre y cuando las funciones de activación de las neuronas sean lineales.

• Verdadero

• Falso

Answer explanation

Siempre y cuando las funciones de activación de las neuronas sean NO lineales.

La función de pérdida asociada a todo perceptrón multicapa es siempre convexa.

• Verdadero

• Falso

Answer explanation

De hecho, suele ser NO convexa.

Con una cantidad suficiente de iteraciones, el algoritmo de descenso por gradiente garantiza encontrar el mínimo global en funciones no-convexas.

• Verdadero

• Falso

Answer explanation

NO lo garantiza.

Con una cantidad suficiente de iteraciones y un tamaño del paso adecuado, el algoritmo de descenso por gradiente garantiza encontrar el mínimo global en funciones convexas.

• Verdadero

• Falso

Si se cuenta con una gran cantidad de datos de entrenamiento, mediante el método del gradiente descendente, es posible encontrar el mínimo global de la función de pérdida asociado a todo perceptrón multicapa.

• Verdadero

• Falso

Answer explanation

NO es posible.

Cuando en gradiente descendente por mini lotes el tamaño del lote es igual a 1, ¿en qué variante del gradiente se convierte?

• Clásico

• Estocástico

Cuando en gradiente descendente por mini lotes el tamaño del lote es igual a n, siendo n la cantidad total de observaciones en el conjunto de entrenamiento, ¿en qué variante del gradiente se convierte?

• Clásico

• Estocástico