Présentation de la formation
Déployez charges de travail IA fiables : conteneurs, Kubernetes pour GPU, serverless, vLLM, autoscaling, pratiques de fiabilité et leviers pour gérer coûts et performance en production.
Parcours avancé centré sur l’infrastructure nécessaire aux services IA en production, de la conteneurisation à l’orchestration GPU.
Le module Kubernetes aborde la gestion des workloads GPU, les contraintes d’ordonnancement et l’intégration avec stockage et réseau.
L’enseignement sur le déploiement de modèles présente des approches de serving comme vLLM et les configurations serveurless adaptées aux inférences.
Enfin, le programme traite des pratiques de fiabilité, des stratégies de rollout et des techniques d’optimisation pour maîtriser coûts et disponibilité.
Formation · Advanced
Cours inclus dans cette formation
Infrastructure Foundations
Exploration des fondamentaux d’infrastructure pour mettre en production des modèles IA : choix CPU vs GPU, conteneurisation, traitements asynchrones et gestion des secrets. Approche orientée décisions d’architecture et impacts opérationnels.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Kubernetes and GPU Workloads
Approfondissement Kubernetes pour charges GPU : primitives Kubernetes adaptées aux services IA, ordonnancement GPU, opérateur NVIDIA et supervision des pannes GPU. Contenu pragmatique pour exploiter des clusters GPU en production.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Model Serving with vLLM
Présentation du serving avec vLLM : architectures de serving, compatibilité OpenAI-style, optimisation par batching et cache KV, et stratégies d’autoscaling et routage pour la production.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Reliability and Release
Focus sur fiabilité et mises en production : contrôles de santé et tests de charge, stratégies blue/green et canary, dégradations maîtrisées et revue de readiness avant mise en service.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.