Font size
WorksheetsAISec
Total questions: 42
Worksheet time: 16mins
Какой основной элемент CNN отвечает за извлечение признаков из изображения?
Полносвязный слой
Сверточный слой
Рекуррентный слой
Слой нормализации
Какова основная цель пулинга (Pooling) в CNN?
Увеличение размерности признаков
Уменьшение пространственного размера и вычислительной сложности
Применение нелинейности
Изменение функции активации
Какая из этих метрик чаще всего используется для оценки производительности LLM (Больших Языковых Моделей) в задачах генерации текста?
F1-мера
Точность (Accuracy)
BLEU или ROUGE
AUC (Площадь под кривой)
Как называется метод регуляризации, при котором случайно отключаются (обнуляются) некоторые нейроны в процессе обучения?
Batch Normalization
L2-регуляризация
Pruning
Dropout
Какой тип атаки на LLM направлен на то, чтобы заставить модель игнорировать свои внутренние инструкции по безопасности (например, для генерации вредоносного контента)?
Атака переполнения буфера
Фишинг
DDoS-атака
Prompt Injection (Инъекция запроса)
Для чего в нейронных сетях используется Batch Normalization?
Стабилизация обучения и ускорение сходимости за счет нормализации входных данных слоя
Замена функции активации ReLU
Предотвращение градиентного взрыва путем обрезки градиентов
Увеличение вычислительной сложности
Какая ключевая способность Трансформера позволила заменить Рекуррентные Нейронные Сети в задачах анализа последовательностей?
Использование механизма внимания
Применение сверточных слоев
Использование только нелинейных функций активации
Использование только полносвязных слоев
Что такое позиционное кодирование (Positional Encoding) в архитектуре Трансформера?
Метод шифрования входных данных
Функция активации для кодера и декодера
Тип нормализации данных перед вниманием
Векторное представление, добавляемое к эмбеддингам для информирования модели о порядке токенов
Какова основная функция архитектуры «Encoder-Decoder» в оригинальном Трансформере?
Только генерация текста
Обнаружение объектов
Классификация изображений
Моделирование задач Sequence-to-Sequence (например, машинный перевод)
Какое отличие между атакой «извлечения модели» (Model Extraction) и атакой «инверсии модели» (Model Inversion)?
Извлечение — взлом сервера; Инверсия — обман пользователя
Обе атаки направлены на кражу весов модели
Извлечение — кража функционала/архитектуры; Инверсия — восстановление данных из обучающего набора
Обе атаки направлены на генерацию состязательных примеров
Как можно интерпретировать значение эпсилон в атаке FGSM?
Скорость обучения модели
Ограничение засорения исходных данных
Размер батча
Количество итераций атаки
Какова роль остаточных связей (Residual Connections) в архитектурах типа ResNet?
Полностью предотвращают переобучение
Увеличивают пространственное разрешение изображения
Решают проблему затухания градиента
Используются только как функция активации
Сглаживают функцию оптимизации при обучении нейронной сети
Что такое Дистилляция знаний?
Специальный тип аугментации данных
Нормализация данных
Обучение более простой модели на основе более сложной
Метод для обучения более крупной модели
Очистка данный более простой модели
Как называется метод аугментации данных, который используется для создания состязательных примеров и повышения устойчивости модели?
Rotation
Cutout
Перекрестная валидация
Состязательное обучение
Какое свойство функции потерь используется при создании состязательного примера методом FGSM?
Знак градиента
Её минимальное значение
Нулевое значение градиента
Гессиан
Какой метод используется для уменьшения переобучения в нейронных сетях, добавляя случайные шумы к входным данным?
Data Augmentation
Early Stopping
Regularization
Dropout
Какой из следующих методов используется для улучшения обобщающей способности модели, добавляя случайные изменения к весам во время обучения?
Batch Normalization
Dropout
Data Augmentation
Weight Decay
Какая функция активации в нейронных сетях наиболее часто используется для добавления нелинейности, не вызывая при этом проблем с исчезающим градиентом в положительной области?
Сигмоида (Sigmoid)
Гиперболический тангенс (Tanh)
Softmax
ReLU (Rectified Linear Unit)
Что такое Accuracy в контексте классификации ML?
Площадь под кривой ROC
Доля правильных положительных прогнозов среди всех положительных прогнозов
Доля истинных положительных результатов от всех фактических положительных результатов
Доля правильных прогнозов (как положительных, так и отрицательных) от общего числа примеров
Precision это ...
Площадь под кривой ROC
доля объектов, названных классификатором положительными и при этом действительно являющимися отрицательными
доля объектов, названных классификатором положительными и при этом действительно являющимися положительными
Доля правильных прогнозов (как положительных, так и отрицательных) от общего числа примеров
Какое фундаментальное отличие между атакой на целостность и атакой на доступность модели ИИ в контексте кибербезопасности?
Целостность — кража данных; Доступность — DoS-атаки
Обе атаки направлены на переобучение модели
Целостность — изменение поведения или точности модели (например, отравление данных); Доступность — вывод модели из строя (например, DoS)
Целостность — только FGSM; Доступность — только физическое воздействие.
в алгоритме Viola-Jones этот способ позволяет быстро рассчитывать значения признаков
интегральное изображение
агломерация
синтез градиентов
маскирование
Что такое Атака "Membership Inference" (Вывод о членстве) на модель ML?
Попытка использовать модель для фишинга
Попытка узнать архитектуру модели
Попытка заставить модель генерировать вредоносный код
Определение того, был ли конкретный экземпляр данных использован для обучения этой модели
Какова основная цель Dropout
Изменение размера входного изображения
Ускорение обучения
Регуляризация
Увеличение количества признаков
Что такое Input Manipulation Attack (Атака манипуляции вводом) (также известная как Evasion Attack или Состязательная атака) согласно OWASP ML Top 10?
Модель атакуется во время обучения
Атака, которая использует только чистый шум в качестве входных данных
Атака, которая крадет IP-адрес модели
Атакующий создает ввод с тонкими, незаметными изменениями, чтобы вызвать неверное предсказание модели
Как расшифровывается аббревиатура Garak, название инструмента для тестирования LLM от NVIDIA?
General Artificial Reasoning Assessment Kit
Global AI Robustness Assessment Kit
Gradient Analysis and Reporting Kernel
Generative AI Red-teaming & Assessment Kit
Что Garak генерирует для документирования попыток, которые успешно выявили уязвимость в LLM?
Файл garak.log
Отчет в формате HTML
Hit Log (Журнал попаданий)
Файл с весами модели
Кто это?
Натаниэль Рочестер
Клод Элвуд Шеннон
Алан Тьюринг
Марвин Ли Мински
Что в контексте тестирования LLM означает термин Hallucination (Галлюцинация), которую Garak пытается обнаружить?
Генерация токсичного контента
Использование механизма внимания
Утечка обучающих данных
Генерация правдоподобной, но фактически ложной или необоснованной информации
Какая любимая песня Трансформера
I Will Always Love You
Smooth Operator
I'm a Little Bit Country
All By Myself
Почему Dropout не подходит для инференса (вывода) в продакшене?
Потому что он слишком медленный
Потому что его веса квантованы
Потому что он всегда наполовину отключает себя и не может гарантировать стабильный, надежный прогноз
Потому что он не делает ранний выход
кто это?
Джеффри Хинтон
Йошуа Бенжио
Алекс Крижевски
Ян Лекун
Кто это?
Джон Маккарти
Ян ЛеКун
Марвин Мински
Кто это?
Артур Кларк
Лев Толстой
Айзек Азимов
Алексей Беляев
Сколько бит отводится для знака во FT32
1
2
4
32
Сколько бит отвoдится на мантиссу во FP32
16
32
23
8
12
Какая расстояние используется в дистилляции
Евклидово
Диффи-Хелмана
Мари-Кюри
Зели-Боба
Кульбака — Лейблера
Какой из следующих типов нейронных сетей наиболее подходит для обработки последовательных данных, таких как текст?
Генеративные состязательные сети (GAN)
Рекуррентные нейронные сети (RNN)
Сверточные нейронные сети (CNN)
Полносвязные нейронные сети (DNN)
Какой из следующих подходов используется для уменьшения размерности данных в нейронных сетях?
Data Augmentation
Principal Component Analysis (PCA)
Dropout
Batch Normalization
Метод используемый для понижения размерности
Сингулярное разложение
Метод главных компонент
Метод проб и ошибок
Метод взвешенных сумм
Фаззинг
BPE
лемматизация
кластеризация
прогнозирование
аппроксимация
токенизация
распределение Гаусса это
равномерное распределение
нормальное распрделение
гипергеометрическое распределение
схема Бернулли
