Présentation de la formation
Spécialisation avancée sur modèles open‑source : sélection et adaptation de modèles, préparation de données, méthodes PEFT/LoRA/QLoRA/TR L, fine‑tuning et évaluation pour déploiement.
Cartographie de l’écosystème open‑source : familles de modèles, caractéristiques (taille, mémoire, latence) et choix selon cas d’usage.
Couvre la constitution et la gestion de jeux de données : nettoyage, étiquetage, splits, métriques d’évaluation et pipelines d’expérimentation.
Décrit les techniques de fine‑tuning et adaptation : PEFT, LoRA/QLoRA, stratégies de réglage et outils pour entraîner avec efficacité les modèles open‑source.
Traite de l’emballage et du déploiement : conversions, optimisations d’inférence, monitoring post‑déploiement et évaluation continue des modèles en production.
Formation · Advanced
Cours inclus dans cette formation
Open-Source Model Ecosystem
Exploration de l’écosystème de modèles open-source : familles de modèles, licences, cas d’usage, Hub et model cards, pipelines Transformers et choix entre API, modèle local ou fine-tuning pour déployer des LLMs.
4 leçons · 24 activités · 15 exercices · 2 vidéos
Datasets and Evaluation
Conception et évaluation de datasets pour le fine-tuning : formatage pour instruction tuning, stratégies de split train/validation/test, évaluation baseline et contrôles contre biais, fuite de données et qualité des données.
4 leçons · 20 activités · 0 exercices · 3 vidéos
Fine-Tuning Techniques
Comparaison des approches de fine-tuning pour modèles open‑source, expliquant différences entre fine‑tuning complet et PEFT, puis LoRA/QLoRA et usage du TRL SFTTrainer. Aborde aussi réglages d’hyperparamètres et principaux modes de défaillance à surveiller.
4 leçons · 24 activités · 13 exercices · 3 vidéos
Packaging and Deployment
Emballage et mise en production de modèles fine‑tuned : sauvegarde et fusion d’adapters, rédaction de fiches modèle et documentation de datasets, modes de servation et gestion coûts/gouvernance sur le cycle de vie.
4 leçons · 24 activités · 16 exercices · 2 vidéos
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.