WorksheetsSécu IA
Total questions: 19
Worksheet time: 14mins
Quel énoncé décrit correctement la confidentialité des données ?
Les données doivent être exactes et fiables
Les données ne doivent être accessibles qu’aux personnes autorisées
Les systèmes doivent être disponibles en permanence
Les données peuvent être partagées librement si elles sont publiques
La modification non autorisée des données est interdite
Parmi les affirmations suivantes, lesquelles concernent l'intégrité des données ?
Les données doivent rester exactes et complètes
Les données doivent être accessibles uniquement aux personnes autorisées
Les systèmes doivent enregistrer toutes les modifications de données
Les données peuvent être modifiées librement par l’utilisateur final
Les erreurs accidentelles ou malveillantes doivent être détectables
Parmi les affirmations suivantes, lesquelles concernent la disponibilité des systèmes et données ?
Les systèmes doivent rester accessibles et fonctionnels quand nécessaire
Les données doivent être exactes et fiables
La modification non autorisée des données est interdite
La résilience des systèmes face aux pannes ou attaques est importante
Les interruptions planifiées ou non doivent être minimisées
Parmi les énoncés suivants, lesquels sont vrais concernant une attaque par évasion massive visant un pipeline de machine learning ?
L’objectif principal est de saturer les ressources de calcul du modèle
Les entrées envoyées sont conçues pour être difficiles à traiter par le modèle
L’attaque vise directement à modifier les poids du modèle
Le traitement d’entrées non vues à l’entraînement peut augmenter le temps de calcul
Ce type d’attaque est particulièrement efficace sur des systèmes TinyML à ressources limitées
Parmi les énoncés suivants, lesquels sont vrais concernant une attaque par charge de calcul visant un système de machine learning ?
L’objectif est de provoquer des calculs anormalement coûteux lors de l’inférence
Les entrées sont conçues pour déclencher des chemins de calcul « worst-case » du modèle
L’attaque nécessite obligatoirement un grand nombre d’entrées pour être efficace
Des entrées bruitées ou aux dimensions atypiques peuvent amplifier la charge de calcul
Ce type d’attaque peut fortement impacter la disponibilité des systèmes TinyML
Parmi les énoncés suivants, lesquels sont corrects concernant une attaque visant la mise à jour du firmware d’un dispositif de machine learning embarqué ?
L’objectif peut être d’empêcher le bon fonctionnement du modèle après une mise à jour
Intercepter ou modifier une mise à jour OTA peut rendre le firmware inutilisable
Envoyer un firmware incomplet peut affecter uniquement la précision du modèle
Un downgrade vers une version incompatible peut empêcher le démarrage du système
Les dispositifs TinyML sont particulièrement exposés en l’absence de mécanisme de secours
Parmi les énoncés suivants, lesquelles sont correctes concernant les solutions pour limiter l’impact d’une surcharge computationnelle en TinyML ?
Bounded inference consiste à limiter le nombre d’opérations, le temps d’inférence ou la profondeur de traitement
La version "low-cost inference fallback" consiste à augmenter la complexité du modèle pour traiter les inputs suspects
Le bounded inference a un coût faible pour les systèmes TinyML
La version "low-cost inference fallback" peut impliquer le stockage de plusieurs modèles et un coût modéré
Ces solutions sont inefficaces pour gérer des inputs suspects
Parmi les énoncés suivants, lesquels sont corrects concernant l’utilisation du hashing et de la signature pour protéger les poids d’un modèle TinyML ?
Le hashing + signature des poids a un coût élevé et rend le modèle inutilisable sur TinyML
On peut vérifier périodiquement le Hash ou la signature numérique des poids pour détecter une corruption
Cette solution empêche totalement les attaques par corruption des poids
Les algorithmes courants pour la signature numérique incluent Ed25519 et ECDSA
Parmi les énoncés suivants, lesquels sont corrects concernant les solutions pour sécuriser les mises à jour OTA en TinyML ?
La mise à jour OTA signée permet de vérifier que le firmware et le modèle proviennent d’une source authentique
La double-bank firmware a un coût faible en mémoire et est facile à implémenter sur TinyML
Un protocole OTA sécurisé comme TLS léger ou DTLS-1.2 a un coût modéré sur TinyML
La vérification de l’intégrité après téléchargement peut se faire via SHA-256 léger et a un coût faible
Ces solutions empêchent toutes totalement les attaques sur OTA
Parmi les énoncés suivants, lesquels sont corrects concernant les attaques par empoisonnement des données sur TinyML ?
Il s’agit d’altérer le modèle pendant l’entraînement en manipulant les données utilisées pour apprendre
Les attaques de type clean-label poisoning sont impossibles sur TinyML
L’injection de labels incorrects est une technique appelée label flipping
Un petit pourcentage de données contaminées suffit à dégrader fortement le modèle
Ces attaques n’ont aucun effet sur la précision ou le biais du modèle
Parmi les énoncés suivants, lesquels sont corrects concernant les backdoors dans les modèles TinyML ?
Le modèle est facile à détecter car il devient immédiatement instable
Ces attaques sont peu dangereuses pour TinyML
Le modèle change de comportement uniquement lorsqu’un trigger spécifique apparaît
Les triggers peuvent être des motifs visuels, perturbations audio ou combinaisons de capteurs
Une simple donnée modifiée peut activer le backdoor discrètement
Parmi les énoncés suivants, lesquels sont corrects concernant les attaques adversariales sur les modèles TinyML ?
Ces attaques ne concernent que les modèles en cloud, pas TinyML
L’objectif est de générer des entrées modifiées pour tromper le modèle pendant l’inférence
Les modifications restent souvent invisibles pour l’humain
Les modèles quantifiés sont très sensibles aux petites perturbations
L’attaquant peut contrôler ou influencer certains résultats
Parmi les énoncés suivants, lesquels sont corrects concernant la manipulation des modèles après déploiement ?
L’attaquant peut accéder directement au fichier du modèle et le corrompre
Exploiter une mise à jour OTA mal protégée est une méthode possible
Une seule modification de fichier peut totalement altérer le comportement
Ces attaques n’ont aucun effet sur les prédictions ou la cohérence des classes
Elles peuvent ajouter un comportement malveillant, comme un backdoor post-déploiement
Parmi les mécanismes suivants, lesquels peuvent contribuer à renforcer la résistance d’un modèle TinyML face à l’introduction d’un comportement caché activable dans des conditions spécifiques ?
Vérifier systématiquement les signatures cryptographiques des poids à chaque inférence
Analyser hors-ligne les activations internes du modèle afin d’identifier des comportements anormalement cohérents associés à certaines entrées rares
Réentraîner le modèle avec une grande diversité de motifs et de perturbations afin de réduire la dépendance à une condition unique d’activation
Ajouter un mécanisme de chiffrement des sorties du modèle pour masquer les prédictions
Utiliser des jeux de données provenant de plusieurs sources indépendantes lors de l’entraînement pour limiter l’influence d’un artefact localisé
Parmi les situations suivantes, lesquelles correspondent à des risques réalistes liés à l’analyse directe du binaire d’un modèle embarqué ?
L’absence d’accès physique au dispositif rend cette attaque impossible
Le chiffrement des communications réseau empêche ce type d’attaque
Un attaquant peut reconstruire partiellement l’architecture ou les paramètres du modèle à partir de la mémoire flash
L’extraction du modèle peut permettre une reproduction fonctionnelle proche de l’original
Les modèles quantifiés ou compressés restent exploitables par analyse statique
Parmi les affirmations suivantes, lesquelles décrivent correctement une attaque par extraction de modèle via requêtes ?
L’attaquant n’a besoin que d’un accès à l’interface d’inférence
Le modèle est copié en lisant directement la mémoire interne du dispositif
Un grand nombre de requêtes bien choisies permet d’approximer le comportement du modèle
Le coût de cette attaque dépend fortement de la précision et de la granularité des sorties
Cette attaque ne concerne que les modèles entraînés dans le cloud
Parmi les énoncés suivants, lesquels sont caractéristiques d’une attaque par inférence d’appartenance ?
Elle permet de reconstruire directement les données d’entraînement
L’attaque repose souvent sur des différences de confiance ou de score de sortie
L’objectif est de déterminer si un échantillon a été utilisé lors de l’entraînement
Cette attaque nécessite un accès au code source du modèle
Les modèles sur-appris sont généralement plus vulnérables
Parmi les propositions suivantes, lesquelles correspondent à une attaque par inférence de propriétés sur les données d’entraînement ?
Cette attaque nécessite de modifier les poids du modèle
L’attaque est facilitée lorsque les données d’entraînement sont homogènes
L’attaquant cherche à déduire des caractéristiques globales du jeu de données
L’attaque vise une donnée individuelle précise
Certaines propriétés peuvent être révélées sans connaître les données exactes
Parmi les énoncés suivants, lesquels sont corrects concernant les attaques par fuite de gradients (gradient leakage) ou reconstruction de données ?
Elles exploitent des informations intermédiaires issues du processus d’apprentissage
Elles sont impossibles dès lors que le modèle est quantifié
Elles reposent uniquement sur l’observation des prédictions finales
Elles peuvent permettre de reconstruire partiellement des données sensibles
Elles concernent principalement les scénarios où l’apprentissage est distribué ou embarqué
