Quand le budget de calcul est une baie dans le sous-sol d'un ministère plutôt qu'un cloud élastique, le choix du modèle cesse d'être affaire de goût. Nous avons appris à composer de petits spécialistes — puis découvert que le motif gagne même là où le calcul est illimité.
La décomposition bat l'échelle
Relire un contrat n'est pas un problème unique ; c'est de l'extraction, de la classification, de la comparaison et de la rédaction. Chaque étape a une taille de modèle qui sature sa difficulté. Routez chaque étape vers le plus petit modèle qui la sature : le pipeline devient plus rapide, moins cher et plus facile à déboguer qu'un grand modèle sommé de tout faire.
La qualité loge dans l'orchestration
Les gains viennent des coutures : validation entre les étapes, reprises avec consignes affinées quand la confiance baisse, escalade vers un modèle plus grand seulement quand un spécialiste signale un doute. La qualité est une propriété du pipeline, pas d'un modèle isolé.
Mesurez le travail, pas les benchmarks
Les benchmarks récompensent des modèles ; l'exploitation récompense des systèmes. Nous suivons le coût par tâche aboutie, le taux de reprise et le délai d'acceptation — des chiffres que le client ressent. Sur ces chiffres, un ensemble bien orchestré de petits spécialistes est la configuration la plus solide que nous livrons, en ligne comme hors ligne.