Une nouvelle ère : le *context engineering*
Avec l’évolution de l’intelligence artificielle, un nouveau concept émerge : le context engineering. Alors que le prompt engineering était auparavant au cœur des préoccupations, cette nouvelle approche met l’accent sur l’importance du contexte pour optimiser les réponses des modèles d’IA. Des chercheurs du Generative Artificial Intelligence Research Lab de l’Université de Shanghai Jiao Tong affirment que le contexte joue un rôle crucial en assurant des réponses plus précises et prévisibles.
Structurer le contexte : une méthode efficace
La première étape pour améliorer l’interaction avec un modèle IA consiste à baliser le contexte. Cela implique d’utiliser des tags explicites comme :
- [GOAL] : définit l’objectif
- [DATA] : fournit les données à traiter
- [CONSTRAINTS] : énonce les contraintes à respecter
- [OUTPUT FORMAT] : spécifie le format de la réponse
Cette technique s’inspire de formats comme XML ou YAML et permet de réduire la charge cognitive de l’IA, facilitant ainsi la cohérence des réponses. Des agents tels que CodeRabbit appliquent déjà cette méthode en balisant chaque étape de leur tâche.
Un résumé du contexte : la clé de la compréhension
Une technique sous-exploitée dans l’interaction avec les modèles d’IA est de leur demander de résumer leur compréhension. Cela permet non seulement de condenser le contexte global, mais également de préserver les informations clés. Des outils comme Claude Code et Gemini CLI intègrent cette fonctionnalité, assurant ainsi un raisonnement continu et fiable d’une session à l’autre.
Faut-il conserver les erreurs ?
Oui, les chercheurs recommandent de conserver les erreurs et leurs corrections dans le contexte. Cela favorise l’apprentissage du modèle, l’aidant à ne pas reproduire les mêmes fautes. Des systèmes tels que Manus et CodeRabbit gardent une trace des erreurs, accompagnée d’explications, renforçant ainsi la cohérence et la capacité d’auto-correction du modèle sur le long terme.
Optimiser les outils pour une meilleure performance
Dans une configuration d’IA, il est essentiel de savoir qu’un nombre excessif d’outils peut nuire à la performance. Au-delà de 30 outils, on observe une baisse de précision, et cette tendance s’aggrave avec plus de 100 outils. La solution réside donc dans le choix d’outils limités mais en fournissant des descriptions détaillées, telles que :
- Rôle de l’outil
- Conditions d’utilisation
- Exemples d’entrée et de sortie
Cette documentation clarifie le contexte et améliore la prise de décision du modèle.
Diversifier les exemples pour une précision accrue
Enfin, la qualité des réponses des modèles d’IA repose également sur la variété des exemples fournis lors des interactions. Pour éviter que le modèle ne se contente de reproduire des schémas, il est crucial de varier les formulations, les ordres, et les styles. Cette diversité permet à l’IA d’apprendre le sens plutôt que de se limiter à imiter la forme.
En somme, un bon mélange d’exemples est indispensable pour garantir des réponses nuancées et adaptées aux différentes situations.
Pour approfondir le sujet, découvrez cette vidéo sur le context engineering et celle sur l’importance des erreurs.
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.
