Вопросы по модели BERT и трансформерам

Какой тип данных используется в качестве входных данных для обучения модели трансформера?

• Тексты

• Изображения

• Видеофайлы

• Звуковые файлы

Какую задачу решает модель BERT?

• Классификация текста

• Генерация текста

• Классификация изображений

• Прогнозирование временных рядов

Какой алгоритм используется для обучения трансформеров в BERT?

• Метод наименьших квадратов

• Градиентный спуск

• K-средних

• Алгоритм Эмпирического Байеса

Как называется слой, который позволяет модели трансформера обрабатывать последовательности?

• ReLU

• Attention layer

• Fully connected layer

• Max pooling layer

Что делает слой внимания (Attention) в модели трансформера?

• Усиливает важные признаки в данных

• Уменьшает размерность данных

• Преобразует данные в текст

• Применяет линейную регрессию

Какой компонент используется в модели BERT для обработки контекста в предложениях?

• Recurrent Neural Network (RNN)

• Attention Mechanism

• Convolutional Neural Network (CNN)

• K-means clustering

Что такое "fine-tuning" в контексте модели BERT?

• Обучение модели с нуля

• Корректировка гиперпараметров

• Дополнительное обучение для решения конкретной задачи

• Преобразование текстов

Какой из методов используется для генерации текста в нейронных сетях?

• Markov Chains

• Gradient descent

• Recurrent Neural Networks (RNN)

• Transformer architecture

я для генерации текста в нейронных сетях?

• Markov Chains

• Gradient descent

• Recurrent Neural Networks (RNN)

• Transformer architecture

Что означает термин "подсветка" в контексте работы моделей трансформеров?

• Увеличение внимания к важным словам

• Применение регуляризации

• Определение максимальной длины последовательности

• Преобразование текста в последовательности чисел