Fine-Tuning Techniques

Présentation du cours

Comparaison des approches de fine-tuning pour modèles open‑source, expliquant différences entre fine‑tuning complet et PEFT, puis LoRA/QLoRA et usage du TRL SFTTrainer. Aborde aussi réglages d’hyperparamètres et principaux modes de défaillance à surveiller.

Présentation claire des différences entre fine‑tuning complet et méthodes PEFT, avec implications pratiques pour modèles open‑source.

Approfondissement de LoRA et QLoRA : principes, implémentation et scénarios d’usage pour optimiser paramètres.

Exposé du workflow TRL SFTTrainer appliqué à la formation supervisée et points d’attention opérationnels.

Analyse des hyperparamètres clés, de leurs effets sur l’entraînement et des modes de défaillance fréquents à diagnostiquer.