WorksheetsВопросы по моделям трансформеров
Total questions: 41
Worksheet time: 36mins
Какой тип данных используется в качестве входных данных для обучения модели трансформера?
Тексты
Изображения
Какую задачу решает модель BERT?
Классификация текста
Генерация текста
Какой алгоритм используется для обучения трансформеров в BERT?
Метод наименьших квадратов
Градиентный спуск
Как называется слой, который позволяет модели трансформера обрабатывать последовательности?
ReLU
Attention layer
Что делает слой внимания (Attention) в модели трансформера?
Усиливает важные признаки в данных
Уменьшает размерность данных
Какой компонент используется в модели BERT для обработки контекста в предложениях?
Recurrent Neural Network (RNN)
Attention Mechanism
Что такое "fine-tuning" в контексте модели BERT?
Обучение модели с нуля
Корректировка гиперпараметров
Какой из методов используется для генерации текста в нейронных сетях?
Markov Chains
Gradient descent
Что означает термин "подсветка" в контексте работы моделей трансформеров?
Увеличение внимания к важным словам
Применение регуляризации
Какой из следующих методов используется для уменьшения переобучения в моделях нейронных сетей?
Dropout
SVM
Какой параметр отвечает за количество слоев в модели трансформера?
Размер окна внимания
Число attention heads
Как называется операция, используемая для уменьшения размерности входных данных в BERT?
Convolution
Pooling
В чем заключается принцип работы трансформера?
Использование рекуррентных слоев
Применение самосообщающегося внимания (self-attention)
Что такое "embedding" в контексте трансформера?
В чем заключается принцип работы трансформера?
Использование рекуррентных слоев
Применение самосообщающегося внимания (self-attention)
Что такое "embedding" в контексте трансформеров?
Процесс уменьшения размерности
Преобразование слов в векторное представление
Какую задачу решает метод Attention в модели трансформера?
Разделение данных на категории
Уменьшение размерности данных
Что такое "hidden state" в нейронных сетях?
Внешняя память модели
Промежуточные представления данных
Какой слой используется для решения задач классификации в нейронных сетях?
Fully connected layer
Attention layer
Что такое "обучение без учителя" (unsupervised learning) в контексте нейронных сетей?
Обучение с размеченными данными
Обучение с использованием лейблов
Какой из следующих методов используется для создания векторных представлений текста в трансформерах?
Bag of Words
Tokenization
Какой из следующих методов применяется для борьбы с переобучением в моделях трансформеров?
Регуляризация L1 и L2
Softmax
Какой алгоритм используется для оптимизации параметров модели в процессе обучения трансформеров?
Adam
SGD
Что из ниже перечисленного является основной целью исследования данных на стадии EDA?
Установить алгоритм для классификации данных
Разработать модель машинного обучения
Какой из инструментов является наиболее подходящим для построения парных диаграмм рассеяния (scatter plots) в Python?
Seaborn, через функцию plot()
Pandas, через функцию plot.scatter()
Какой метод помогает выявить, какой из факторов влияет на распределение
Какие библиотеки используются для построения парных диаграмм рассеяния (scatter plots) в Python?
Seaborn, через функцию plot()
Pandas, через функцию plot.scatter()
Какой метод помогает выявить, какой из факторов влияет на распределение данных при анализе категориальных переменных?
Использование диаграмм Гистограммы
Построение линейных графиков
Какой метод используется для классификации изображений?
Классификация изображений
Прогнозирование временных рядов
Какой алгоритм используется для кластеризации?
K-средних
Алгоритм Эмпирического Байеса
Градиентный спуск
Какой слой используется в нейронных сетях для обработки изображений?
Fully connected layer
Max pooling layer
Attention layer
Какой метод используется для преобразования данных в текст?
Преобразует данные в текст
Применяет линейную регрессию
Какой механизм используется для усиления важных признаков в данных?
Attention Mechanism
Convolutional Neural Network (CNN)
Какой метод используется для дополнительного обучения для решения конкретной задачи?
Дополнительное обучение для решения конкретной задачи
Преобразование текстов
Какой архитектурой является Recurrent Neural Networks (RNN)?
Recurrent Neural Networks (RNN)
Transformer architecture
Какой метод используется для увеличения внимания к важным словам?
Увеличение внимания к важным словам
Преобразование текста в последовательности чисел
Какой метод используется для уменьшения объема данных?
Уменьшение объема данных
Процесс нормализации данных
Применение самосообщающегося внимания (self-attention)
Преобразование слов в векторное представление
Взвешивание различных частей входных данных
Построить и визуализировать важные тренды и закономерности
