Лекция 14. Блоки GRU. BRNN. Автоэнкодеры. Трансформеры

Multiple Choice

Чем GRU отличается от LSTM?

• GRU имеет два выхода (h_t и c_t), а LSTM — один.

• GRU объединяет контекст и скрытое состояние в один выход,

• GRU не использует механизмы забывания

• GRU требует больше параметров, чем LSTM

Multiple Choice

Что является основным выходом GRU-ячейки на каждом временном шаге?

• Вектор входных данных x_t

• Вектор долгосрочной памяти c_t

• Вектор скрытого состояния h_t

• Вектор ворот z_t и r_t

Multiple Choice

Какой основной принцип работы двунаправленных RNN?

• Используют только прямое направление обработки последовательности

• Обрабатывают последовательность одновременно в прямом и обратном направлениях

• Работают только с последними элементами последовательности

• Игнорируют временные зависимости

Multiple Choice

Какой метод объединения результатов прямого и обратного проходов используется по умолчанию в Bidirectional слое?

• Умножение

• Конкатенация

• Среднее значение

• Выбор максимального

Multiple Choice

Какова основная структура автоэнкодера?

• Только кодирующая часть

• Только декодирующая часть

• Кодирующая и декодирующая части

• Множество параллельных слоёв

Multiple Choice

Какие данные использовались в качестве целевых (y) при обучении?

• Метки классов (0-9)

• Исходные изображения

• Результаты работы энкодера

• Промежуточные изображения, полученные при гомотопии

Multiple Choice

Какой механизм является ключевым в архитектуре трансформера?

• Сверточные операции

• Механизм внимания

• Рекуррентные связи

• Полносвязные слои

Multiple Choice

Как математически реализуется механизм внимания?

• Через сложение векторов

• Через вычисление скалярного произведения векторов

• Через перемножение матриц

• Через вычисление евклидова расстояния

Multiple Choice

Что такое "галлюцинации" в контексте трансформеров?

• Генерация ложной или вымышленной информации

• Проблемы с видеокартами

• Ошибки в матричных вычислениях

• Сбои в алгоритме обратного распространения

Multiple Choice

Какой тип данных НЕ может быть обработан трансформерами?

• Текст

• Изображения

• Звук

• Могут обрабатывать все перечисленные