Лекция 3. Алгоритм back propagation

Poll

Как вы оцениваете свою мотивацию к изучению материала на сегодняшней лекции?

• Очень высокая

• Высокая

• Умеренная

• Низкая

Multiple Choice

Чем обучение с учителем отличается от обучения без учителя?

• В обучении с учителем нет входных данных

• В обучении с учителем известны целевые значения для данных

• Обучение без учителя требует больше ресурсов

• В обучении без учителя человек не участвует

Multiple Choice

На каком алгоритме базируется обратное распространение ошибки?

• Метод наименьших квадратов

• Градиентный спуск

• Случайный лес

• Метод опорных векторов

Multiple Choice

Что сохраняется во время прямого прохода для последующего обратного распространения?

• Исходные веса сети

• Выходные значения всех нейронов

• Целевые значения d

• Градиенты функции активации

Multiple Choice

Какой процесс запускается после вычисления ошибки e?

• Повторный прямой проход

• Обратный проход для корректировки весов

• Генерация новых данных

• Изменение структуры сети

Multiple Choice

Как вычисляется локальный градиент δ для выходного нейрона с логистической функцией активации?

• δ=e⋅f(v_out​)

• δ=e⋅y⋅(1−y)

• δ=e⋅(1−y²)

• δ=e⋅tanh(v_out​)

Multiple Choice

Как параметр λ связан с градиентным спуском?

• Он определяет направление градиента

• Он задаёт размер шага сходимости при обновлении весов

• Он заменяет вычисление градиента

• Он используется только в прямом проходе

Multiple Choice

Почему при вычислении локального градиента используется производная функции активации f′(x)?

• Чтобы увеличить скорость обучения

• Для учёта влияния входной суммы нейрона на ошибку

• Чтобы исключить нелинейность

• Для генерации новых весов

Multiple Choice

Почему при обновлении весов первого слоя используются входные данные x₁,x₂​?

• Они заменяют градиенты

• Это входные сигналы, связанные с корректируемыми весами

• Для уменьшения ошибки e

• Чтобы увеличить скорость обучения

Multiple Choice

Какова цель алгоритма градиентного спуска в обучении нейронной сети?

• Максимизировать точность на тестовых данных

• Минимизировать критерий качества работы НС

• Увеличить скорость обработки данных

• Случайно изменить веса для исследования пространства

Multiple Choice

Какую функцию активации использует нейронная сеть в данном примере?

• Сигмоида

• Гиперболический тангенс

• ReLU

• Линейная функция

Poll

Как бы Вы оценили свою концентрацию во время занятия?

• Полностью сосредоточен(а)

• Часто отвлекался(ась)

• Почти не слушал(а)

• Засыпал(а)