Optimisation des agents LLM : Efficacité des tokens par livraison calibrée

Carte mentaleMind map

L'article d'IBM Research présente ALTK-Evolve, une approche pour améliorer la fiabilité et l'efficacité des agents LLM dans l'exécution de tâches complexes. Le problème principal des agents LLM n'est pas un manque de connaissances, mais une incapacité à utiliser leurs API de manière fiable, une compétence qui peut être apprise à partir de leurs propres trajectoires passées.

ALTK-Evolve, comme ACE (Agentic Context Engineering), utilise la mémoire agentique pour transformer les expériences passées en "leçons" réutilisables, sans nécessiter de mises à jour de poids ou d'étiquetage humain. La différence clé réside dans la manière dont ces leçons sont consolidées et surtout, livrées au modèle lors de l'inférence. Alors qu'ACE injecte un "playbook" complet et statique à chaque étape, ALTK-Evolve adopte une approche calibrée, ne fournissant qu'un sous-ensemble pertinent de directives, adaptées au modèle et à la tâche.

Cette livraison sélective permet à ALTK-Evolve d'atteindre une précision égale ou supérieure à celle d'ACE, tout en réduisant considérablement les coûts d'inférence (jusqu'à un septième des tokens utilisés pour les modèles plus faibles). L'efficacité est particulièrement marquée sur les tâches difficiles, où la sélection pertinente des leçons l'emporte sur l'envoi d'un contexte trop volumineux qui peut submerger le modèle.