Contrôle de l'effort de raisonnement dans les LLM

Cet article explore comment les grands modèles de langage (LLM) sont entraînés pour avoir des modes de raisonnement à effort variable, allant du faible au fort. Il explique que les "modèles de raisonnement" dans le contexte de l'IA génèrent des traces de raisonnement intermédiaires, permettant une résolution de problèmes étape par étape, contrairement aux LLM conventionnels qui donnent une réponse directe.

L'auteur détaille les deux principales approches pour améliorer les performances de raisonnement : la mise à l'échelle de l'entraînement (via des techniques comme le RLVR – Reinforcement Learning with Verifiable Rewards) et la mise à l'échelle de l'inférence (en allouant plus de calcul au moment de l'utilisation). Il met en lumière comment des modèles comme GPT-5.6 et Inkling intègrent des paramètres d'effort de raisonnement, permettant aux utilisateurs de choisir entre différentes longueurs de réponse et niveaux de précision, souvent corrélés au coût et à la latence. Ces mécanismes sont implémentés via des ajustements dans l'entraînement (SFT, RL) et des prompts système.

Enfin, l'article examine diverses implémentations de ces contrôles d'effort dans des LLM open-source de pointe (DeepSeek V4, Nemotron 3 Ultra, Kimi K2.5, GLM-5, Qwen3, Inkling), montrant une diversité d'approches allant des spécialistes dédiés aux modes continus, en passant par des budgets de tokens dynamiques. La conclusion souligne que l'effort de raisonnement restera probablement un input explicite pour le modèle à court terme, bien qu'une sélection automatique soit l'objectif à long terme.