WorksheetsВопросы по моделям трансформеров
Total questions: 28
Worksheet time: 17mins
Какой тип данных используется в качестве входных данных для обучения модели трансформера?
Тексты
Изображения
Какую задачу решает модель BERT?
Классификация текста
Генерация текста
Какой алгоритм используется для обучения трансформеров в BERT?
Метод наименьших квадратов
Градиентный спуск
Как называется слой, который позволяет модели трансформера обрабатывать последовательности?
ReLU
Attention layer
Что делает слой внимания (Attention) в модели трансформера?
Усиливает важные признаки в данных
Уменьшает размерность данных
Какой компонент используется в модели BERT для обработки контекста в предложениях?
Recurrent Neural Network (RNN)
Attention Mechanism
Что такое "fine-tuning" в контексте модели BERT?
Обучение модели с нуля
Корректировка гиперпараметров
Какой из методов используется для генерации текста в нейронных сетях?
Markov Chains
Gradient descent
Что означает термин "подсветка" в контексте работы моделей трансформеров?
Увеличение внимания к важным словам
Применение регуляризации
Какой из следующих методов используется для уменьшения переобучения в моделях нейронных сетей?
Dropout
SVM
Какой параметр отвечает за количество слоев в модели трансформера?
Размер окна внимания
Число attention heads
Как называется операция, используемая для уменьшения размерности входных данных в BERT?
Convolution
Pooling
В чем заключается принцип работы трансформера?
Использование рекуррентных слоев
Применение самосообщающегося внимания (self-attention)
В чем заключается принцип работы трансформера?
Использование рекуррентных слоев
Применение самосообщающегося внимания (self-attention)
Что такое "embedding" в контексте трансформеров?
Процесс уменьшения размерности
Преобразование слов в векторное представление
Какую задачу решает метод Attention в модели трансформера?
Разделение данных на категории
Уменьшение размерности данных
Что такое "hidden state" в нейронных сетях?
Внешняя память модели
Промежуточные представления данных
Какой слой используется для решения задач классификации в нейронных сетях?
Fully connected layer
Attention layer
Что такое "обучение без учителя" (unsupervised learning) в контексте нейронных сетей?
Обучение с размеченными данными
Обучение с использованием лейблов
Какой из следующих методов используется для создания векторных представлений текста в трансформерах?
Bag of Words
Tokenization
Какой из следующих методов применяется для борьбы с переобучением в моделях трансформеров?
Регуляризация L1 и L2
Softmax
Какой алгоритм используется для оптимизации параметров модели в процессе обучения трансформеров?
Adam
SGD
Что из ниже перечисленного является основной целью исследования данных на стадии EDA?
Установить алгоритм для классификации данных
Разработать модель машинного обучения
Какой из инструментов является наиболее подходящим для построения парных диаграмм рассеяния (scatter plots) в Python?
Seaborn, через функцию plot()
Pandas, через функцию plot.scatter()
Какой метод помогает выявить, какой из факторов влияет на распределение
ения парных диаграмм рассеяния (scatter plots) в Python?
Seaborn, через функцию plot()
Pandas, через функцию plot.scatter()
Какой метод помогает выявить, какой из факторов влияет на распределение данных при анализе категориальных переменных?
Использование диаграмм Гистограммы
Построение линейных графиков
Правильный ответ
Видеофайлы
Звуковые файлы
Тексты
Классификация изображений
