Présentation du cours
Économie des tokens et modèles : gestion de la longueur de prompt, fenêtres de contexte, mise en cache, batching, routage de modèle et expérimentations qualité/coût pour optimiser dépenses et résultats.
Analyse l’impact de la taille de prompt et des fenêtres de contexte sur la consommation de tokens et les coûts associés.
Présente des techniques opérationnelles (cache, batch, résumés) et des stratégies de routage et fallback entre modèles.
Décrit comment concevoir et mesurer expériences pour équilibrer coût et qualité des réponses.
Compétences et thèmes abordés
Accéder à la plateforme
Accédez au catalogue pour consulter le détail des cours, les conditions d’accès et votre progression personnelle. Se connecter.
