Thème : coût
-
Lequel de vos mots est lequel
Pointer un agent sur votre code aggrave l'ambiguïté au lieu de la lever. Ce qui l'ancre, c'est un lexique court et purement métier, et un ordre de phases.
Le contexte que vous écrivez -
Plus la fenêtre est grande, plus la pourriture est silencieuse
Une fenêtre de contexte plus grande relève le plafond, elle n'immunise pas contre la pourriture du contexte. Le combat reste le moins de tokens, et les meilleurs.
Le contexte que vous écrivez -
Ce qu'est vraiment une fenêtre de contexte (et ce qu'elle coûte)
Une fenêtre de contexte est l'ensemble fini de tokens qu'un modèle relit à chaque étape. Ce qui la remplit, ce qu'elle coûte, pourquoi capacité n'est pas fiabilité.