Présentation du cours
Ce module traite des attaques par prompt injection et de la gestion des sorties : injections directes/indirectes, fuites de system prompts, gestion d’un output non fiable et isolation des prompts via couches de politique. Approche centrée sur concepts et bonnes pratiques.
Étudier les injections de prompts directes et indirectes : vecteurs d’attaque, exemples et moyens de détection.
Analyser les risques liés à la fuite du system prompt et ses conséquences sur le comportement du modèle.
Gérer des sorties non sécurisées et implémenter l’isolation de prompts et des couches de politiques pour limiter l’exécution ou la divulgation non désirée.
Compétences et thèmes abordés
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.