New Relic, la société à la plateforme d’observabilité tout-en-un pour tous les ingénieurs, a annoncé la disponibilité pour tous de New Relic AI Monitoring avec toute une série de nouvelles fonctionnalités puissantes afin de répondre aux besoins en constante évolution des organisations qui développent des applications d'IA. Les nouvelles fonctionnalités comprennent des informations approfondies sur le tracing de la réponse de l'IA avec le feedback des utilisateurs en temps réel et la comparaison des modèles pour stimuler l'amélioration continue des performances des applications d'IA, de la qualité et du coût —  tout en assurant la sécurité des données et la confidentialité. Avec plus de 60 intégrations, New Relic AI Monitoring est l'une des solutions les plus complètes qui aide les organisations à trouver plus rapidement les causes profondes des problèmes des applications d'IA, qui les encourage dans l'adoption de l'IA et qui les soutient tout au long de leur parcours avec l'IA.

« D'après les conversations que j'ai eues avec les CIO, CTO et dirigeants de notre clientèle, il est clair que chaque entreprise réfléchit à la manière de faire évoluer leur activité avec l'IA. L'adoption de l'IA peut s'avérer coûteuse et présenter des complexités au niveau du stack. Les leaders en informatique et en technologie se tournent vers New Relic car l'observabilité est cruciale pour naviguer en toute confiance l'avenir passionnant de l'IA, optimiser les performances et la qualité et contrôler les coûts et ainsi garantir une expérience client exceptionnelle. -Arnie Lopez, Directeur du service client, New Relic

Les organisations sont désireuses d'adopter l'IA pour offrir de meilleures expériences numériques à leurs clients. Selon Gartner, plus de 80 % des entreprises d'ici 2026 auront utilisé des API d'IA générative ou déployé des applications activées pour l'IA générative. Lorsque la demande pour l'IA est forte et en pleine croissance, les organisations ont du mal à intégrer l'IA à leurs stacks technologiques en raison de la complexité qu'elle présente. New Relic AI Monitoring prend directement en charge ce défi et facilite la gestion des complexités du stack d'IA pour les organisations en leur fournissant une vue unifiée et uniformisée de tout leur écosystème d'IA ainsi que du reste de leurs données de performances.

Les fonctionnalités clés comprennent :

• Auto‑instrumentation : les agents New Relic proposent un paramétrage simple des frameworks populaires comme OpenAI, AWS Bedrock, et LangChain sur Python, Node.js, Ruby, Go et .NET.
• Visibilité sur tout le stack d'IA : une vue holistique sur toute l'application, l'infrastructure et la couche d'IA, comprenant les métriques d'IA telles que le nombre de requêtes, le temps de réponse et l'utilisation des jetons.
• Vue des réponses de l'IA avec le feedback des utilisateurs finaux : identifiez rapidement les tendances et les valeurs hors normes dans les réponses de l'IA, analysez le ressenti et voyez le feedback des utilisateurs, dans une seule et même vue consolidée.
• Suivi en profondeur des informations détaillées sur chaque réponse : tracez le cycle de vie des réponses de l'IA avec des outils comme LangChain pour résoudre les problèmes de performances et de qualité comme les biais, la toxicité et les hallucinations.
• Amélioration de la sécurité des données : maintenez la sécurité de votre organisation et vos politiques de conformité en excluant du monitoring les données personnelles de vos demandes et des réponses de l'IA.
• Comparaison des modèles : comparez les performances et le coût des modèles fondamentaux exécutés en production dans une seule vue pour choisir le modèle qui correspond le mieux à vos besoins.
• Intégrations quickstart : l'une des solutions les plus complètes du monitoring de l'écosystème d'IA avec 60 intégrations pour les composants tels que les GPU NVIDIA et les bases de données vectorielles comme Pinecone, Weaviate, etc.

New Relic AI Monitoring est disponible pour tous dans le cadre de sa plateforme d’observabilité tout-en-un et offerte avec son modèle de tarification à l'utilisation. Lancez-vous en contactant le représentant de votre compte New Relic ou en vous inscrivant pour obtenir un compte gratuit.

Pour en savoir plus, consultez :

• Notre page web New Relic AI Monitoring
• Notre blog sur New Relic AI Monitoring