WorksheetsQuiz o XAI i Cyberbezpieczeństwie
Total questions: 15
Worksheet time: 8mins
Co oznacza skrót XAI?
eXtra Artificial Intelligence
eXtreme Antivirus Initiative
Explainable Artificial Intelligence
eXperimental Algorithm Integration
Jaki jest główny problem modeli AI określany jako "czarna skrzynka"?
Zbyt wolne działanie modeli.
Trudność w zrozumieniu, dlaczego model podjął daną decyzję.
Konieczność używania bardzo drogiego sprzętu.
Modele te nie potrafią uczyć się na nowych danych.
Która z tradycyjnych metod detekcji malware jest najbardziej nieskuteczna wobec zupełnie nowych zagrożeń (zero-day)?
Analiza heurystyczna
Sandboxing (analiza behawioralna)
Detekcja oparta na sygnaturach
Analiza statyczna
Jaki jest główny cel stosowania XAI w cyberbezpieczeństwie?
Zastąpienie analityków bezpieczeństwa przez AI.
Pisanie złośliwego oprogramowania.
Przyspieszenie działania komputerów.
Zwiększenie zaufania do decyzji AI i ich zrozumienie.
Metody XAI, które można zastosować do dowolnego modelu AI, nazywamy:
Model-Specific
Local Explanations
Model-Agnostic
Global Explanations
Która technika XAI opiera się na wartościach Shapleya z teorii gier?
LIME
Anchors
Grad-CAM
SHAP
Co próbują wyjaśnić metody typu "Local Explanations"?
Ogólne działanie całego modelu AI.
Przyczynę pojedynczej, konkretnej decyzji modelu.
Szybkość działania algorytmu.
Koszt wytrenowania modelu.
Jaką formę ma zazwyczaj wyjaśnienie generowane przez metodę Anchors?
Listę ważnych cech z wagami.
Mapę ciepła na obrazie kodu.
Zrozumiałą regułę typu "JEŚLI ... TO ...".
Wykres zależności między cechami.
Do czego może służyć identyfikacja najważniejszych cech (feature importance) przez XAI w analizie malware?
Do zmiany kolorystyki interfejsu programu antywirusowego.
Do wskazania analitykowi, które fragmenty kodu lub cechy pliku zbadać w pierwszej kolejności.
Do automatycznego usuwania wszystkich plików
Co to jest "False Positive" (FP) w kontekście detekcji malware?
Poprawne wykrycie złośliwego oprogramowania.
Niewykrycie złośliwego oprogramowania, które jest obecne.
Błędne oznaczenie bezpiecznego pliku jako złośliwy.
Poprawne oznaczenie bezpiecznego pliku jako bezpieczny.
Która metoda XAI jest znana z generowania "map ciepła" pokazujących ważne obszary na wejściu (np. obrazie kodu)?
LIME
SHAP
Grad-CAM
Anchors
Dlaczego XAI jest ważne dla analityków w SOC (Security Operations Center)?
Bo generuje więcej alertów do sprawdzenia.
Bo pozwala im grać w gry w pracy.
Bo pomaga im zrozumieć alerty AI i szybciej podejmować decyzje.
Bo automatycznie pisze za nich raporty.
Co jest jednym z głównych wyzwań związanych ze stosowaniem XAI?
Metody XAI są zbyt proste do zrozumienia.
Generowanie wyjaśnień może być kosztowne obliczeniowo.
Modele AI stają się zbyt łatwe do oszukania dzięki XAI.
XAI działa tylko na bardzo starych komputerach.
Jak nazywa się technika LIME?
Locally Interpretable Malware Explanations
Logarithmic Importance Measurement Engine
Local Interpretable Model-agnostic Explanations
Linear Input Model Estimation
Jaki jest ogólny wniosek dotyczący roli XAI w przyszłości AI w cyberbezpieczeństwie?
XAI to tylko chwilowa moda, która przeminie.
XAI jest przydatne tylko w zastosowaniach akademickich.
XAI spowolni rozwój sztucznej inteligencji.
XAI staje się koniecznością dla budowania wiarygodnych systemów AI.
