Présentation du cours
Gestion des incidents et opérations pour systèmes LLM : ce module couvre la surveillance des coûts tokens et latences, les plans de repli en cas de panne de fournisseur, le triage des incidents de sécurité et la conduite de postmortems pour améliorer la fiabilité des systèmes IA en production.
Analyse des pics de coûts de tokens et des incidents de latence, méthodes de détection et réduction des impacts.
Conception de stratégies de routage et repli quand un fournisseur est indisponible, incluant critères de bascule.
Processus de triage pour incidents liés à la sécurité des modèles (hallucinations, contenus dangereux) et priorisation.
Méthodologie de postmortem et boucles d’amélioration continue pour réduire récurrence et améliorer observabilité.
Compétences et thèmes abordés
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.