Présentation de la formation
Formation avancée pour sécuriser des applications LLM : identification des menaces, protection contre prompt injection et fuite de données, renforcement des pipelines RAG, sécurisation des outils/agents et atténuation des risques de chaîne d’approvisionnement.
Présente les méthodes de threat modeling spécifiques aux applications LLM : acteurs, vecteurs (prompts, contextes externes, outils) et scénarios d’exploitation pour prioriser les contrôles.
Explique les techniques de prévention et de détection des prompt injections et des sorties non désirées, incluant sanitation, sandboxing et traitements post‑sortie.
Détaille la sécurisation des architectures RAG et des flux d’ingestion : chiffrement, gestion des métadonnées, validation de sources et stratégies contre RAG poisoning.
Expose les risques liés aux agents et outils autonomes ; propose des garde‑fous, quotas d’agence et contrôles des capacités exécutives pour limiter l’autonomie dangereuse.
Formation · Advanced
Cours inclus dans cette formation
Threat Modeling for LLM Apps
Formation axée sur la modélisation des menaces pour applications LLM : cartographie de la surface d’attaque, identification des risques (OWASP LLM Top 10) et documentation du modèle de menace. Met l’accent sur flux de données, frontières de confiance et permissions d’outils.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Prompt Injection and Output Handling
Ce module traite des attaques par prompt injection et de la gestion des sorties : injections directes/indirectes, fuites de system prompts, gestion d’un output non fiable et isolation des prompts via couches de politique. Approche centrée sur concepts et bonnes pratiques.
4 leçons · 20 activités · 0 exercices · 3 vidéos
RAG, Data and Supply Chain Security
Module dédié à la sécurité des données et de la supply chain pour RAG et LLMs : empoisonnement de RAG, faiblesses d’embedings/vectors, divulgation de données sensibles et risques liés aux dépendances, modèles et jeux de données en chaîne d’approvisionnement.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Agent and Tool Security
Sécurisez les agents LLM en appliquant le principe du moindre privilège, en gérant les listes d'outils, les approbations et les environnements sandbox, en prévenant l'abus de consommation et en concevant des tests de régression sécurité et rapports adaptés aux systèmes LLM.
4 leçons · 24 activités · 13 exercices · 3 vidéos
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.