L'observabilité réellement de bout en bout pour les applications d'IA : présentation de la prise en charge de Model Context Protocol (MCP)

La rapide adoption de l'IA, des systèmes d'IA agentique en particulier, a introduit une nouvelle couche de complexité pour la gestion des performances des applications. Si le monitoring des grands modèles de langage (LLM) a gagné en traction, un manque de visibilité critique est apparu autour du Model Context Protocol (MCP), un standard de base pour les interactions de l'IA agentique. Depuis sa sortie, MCP est rapidement devenu l'étalon or pour l'IA agentique, ce qui permet aux agents intelligents d'interagir dynamiquement avec divers outils et services. MCP simplifie les intégrations d'IA, mais présente aussi des difficultés. 

Nous annonçons aujourd'hui, la prise en charge novatrice de MCP au sein de notre solution de monitoring de l'IA complète, avec son intégration transparente au meilleur monitoring des performances des applications du secteur, notre APM.

Le défi de l'observabilité avec l'IA agentique et MCP

Les applications d'IA agentique, dans lesquelles les agents d'IA interagissent dynamiquement avec divers outils et services, dépendent souvent des serveurs MCP pour faciliter ces interactions. Toutefois, ces serveurs MCP opèrent depuis longtemps comme des « boîtes noires » obscurcissant les informations sur les performances et le comportement de la couche d'IA. Ce manque de visibilité présente des défis importants pour les développeurs d'agents et les prestataires de services MCP :

• Pour les développeurs d'agents : connaître les outils sélectionnés par un agent d'IA pour un prompt donné, ainsi que la séquence des invocations d'outils et la durée de chaque étape sont autant de processus laborieux et souvent manuels. Le repérage précis des goulots d’étranglement ou des sources d'erreur au sein de la prise de décision de l'IA et du flot d'exécution s'est avéré particulièrement difficile.
• Pour les prestataires de services MCP : l'obtention d'informations détaillées et d'insights sur la façon dont leurs services MCP étaient utilisés, l'identification des goulots d’étranglement de performances au sein de leur infrastructure, ou la compréhension de l'efficacité des outils présentaient des obstacles majeurs. Cela nécessitait souvent une instrumentation personnalisée complexe qui venait ajouter d'importants frais généraux.

Cela avait pour conséquence une vue fragmentée des performances des applications d'IA, qui exigeait souvent de passer d'un écran à l'autre entre des outils de monitoring disparates et qui drainait énormément le temps des équipes développeurs et opérations.

Pour combler le fossé : l'intégration MCP de New Relic

Notre nouvelle prise en charge de MCP relève directement ces défis en fournissant des insights approfondis sur tout le cycle de vie d'une demande MCP. L'intégration apporte aux développeurs et prestataires de services :

1. Une visibilité instantanée sur le tracing MCP :
   • Instrumentez automatiquement et observez tout le cycle de vie de l'invocation d'une demande MCP.
   • Visualisez les outils spécifiques invoqués par un agent d'IA, leurs séquences d'appel et les temps d'exécution grâce aux diagrammes en cascade clairs.
   • Comprenez les processus de prise de décision de l'agent d'IA lors de ses interactions avec différents services.
2. L'activation proactive de l'optimisation MCP :
   • Analysez les schémas de sélection des outils par les agents pour des prompts spécifiques afin d'évaluer les choix d'outils et l'efficacité.
   • Faites le suivi des indicateurs de performances clés (KPI) tels que les schémas d'utilisation des outils, la latence et les taux d’erreur associés aux interactions MCP.
   • Identifiez et optimisez les outils sous‑performants ou les stratégies d'agents inefficaces au sein du service MCP.
3. Le contexte intelligent du monitoring de l'IA :
   • Nous corrélons essentiellement les données de performances MCP directement avec l'écosystème d'applications plus large. Cela signifie une corrélation transparente entre les interactions de l'IA et les performances des services de backend, les bases de données, les microservices et les files d'attente des messages.
   • Cette vue exhaustive élimine les silos de données et apporte réellement l'observabilité de bout en bout, ce qui permet aux équipes de rapidement repérer la cause profonde des problèmes, qu'elle se trouve au sein de la couche d'IA, du service MCP ou d'un composant classique du backend.