Лекция 5. Функции активации

Poll

Какой Ваш уровень мотивации на этой лекции по сравнению с предыдущей?

• Высокий, готов активно участвовать

• Низкий, нужно побороть усталость

• Средний, надеюсь на вдохновение

• Очень низкий, желательно отдохнуть

Multiple Choice

Почему гиперболический тангенс и логистическая функция не подходят для больших нейронных сетей?

• Они слишком сложны для вычисления

• Их производные имеют малые значения, что приводит к затуханию градиентов

• Они не дифференцируемы

• Они требуют больших вычислительных ресурсов

Multiple Choice

Какой вид имеет функция активации ReLu?

• f(x) = x

• f(x) = max(x, 0)

• f(x) = min(x, 0)

• f(x) = x²
  

Multiple Choice

Какая функция активации чаще всего используется в выходном слое для задач регрессии?

• ReLu

• Логистическая функция

• Линейная функция (linear)

• Гиперболический тангенс

Multiple Choice

Какая функция активации используется в выходном слое для задач классификации с непересекающимися классами?

• ReLu

• Линейная функция (linear)

• Softmax

• Гиперболический тангенс

Multiple Choice

Какое свойство функции softmax делает её подходящей для задач классификации?

• Она возвращает бинарные значения (0 или 1)

• Она преобразует выходы в вероятности, сумма которых равна 1

• Она увеличивает нелинейность модели

• Она ограничивает выходные значения диапазоном [0, 1]

Multiple Choice

Какой критерий качества используется в классическом варианте алгоритма back propagation?

• Средний модуль ошибок (MAE)

• Средний квадрат ошибок (MSE)

• Логарифмический гиперболический косинус (logcosh)

• Перекрестная энтропия (Cross-Entropy)

Multiple Select

Какой критерий качества используется для задач регрессии?

• Средний квадрат ошибок (MSE)

• Средний модуль ошибок (MAE)

• Средний абсолютный процент ошибок (MAPE)

• Перекрестная энтропия (Cross-Entropy)

Multiple Choice

Какой критерий качества используется для задач классификации двух классов?

• Хиндж (Hinge)

• Бинарная кросс-энтропия (Binary Crossentropy)

• Категориальная кросс-энтропия (Categorical Crossentropy)

• Средний квадрат ошибок (MSE)

Multiple Choice

Какой критерий качества используется для задач классификации более двух классов?

• Хиндж (Hinge)

• Бинарная кросс-энтропия (Binary Crossentropy)

• Категориальная кросс-энтропия (Categorical Crossentropy)

• Средний модуль ошибок (MAE)

Multiple Choice

Какой критерий качества используется для задач обработки текста?

• Логарифмический гиперболический косинус (logcosh)

• Средний квадрат ошибок (MSE)

• Перекрестная энтропия (Cross-Entropy)

• Хиндж (Hinge)

Poll

Насколько хорошо Вы смогли связать материал лекции с ранее изученными темами?

• Очень хорошо

• Хорошо

• Удовлетворительно

• Не смог(ла) связать