New Relic améliore AI Monitoring, le premier APM pour l'IA
Les fonctionnalités de New Relic AI Monitoring comprennent : prise en charge des langages d'application, contrôles de sécurité et confidentialité, et intégration du feedback en temps réel pour aider les organisations à utiliser l'IA en toute confiance.
New Relic, la société à la plateforme d’observabilité tout-en-un pour tous les ingénieurs, a annoncé la disponibilité pour tous de New Relic AI Monitoring avec toute une série de nouvelles fonctionnalités puissantes afin de répondre aux besoins en constante évolution des organisations qui développent des applications d'IA. Les nouvelles fonctionnalités comprennent des informations approfondies sur le tracing de la réponse de l'IA avec le feedback des utilisateurs en temps réel et la comparaison des modèles pour stimuler l'amélioration continue des performances des applications d'IA, de la qualité et du coût — tout en assurant la sécurité des données et la confidentialité. Avec plus de 60 intégrations, New Relic AI Monitoring est l'une des solutions les plus complètes qui aide les organisations à trouver plus rapidement les causes profondes des problèmes des applications d'IA, qui les encourage dans l'adoption de l'IA et qui les soutient tout au long de leur parcours avec l'IA.
« D'après les conversations que j'ai eues avec les CIO, CTO et dirigeants de notre clientèle, il est clair que chaque entreprise réfléchit à la manière de faire évoluer leur activité avec l'IA. L'adoption de l'IA peut s'avérer coûteuse et présenter des complexités au niveau du stack. Les leaders en informatique et en technologie se tournent vers New Relic car l'observabilité est cruciale pour naviguer en toute confiance l'avenir passionnant de l'IA, optimiser les performances et la qualité et contrôler les coûts et ainsi garantir une expérience client exceptionnelle. -Arnie Lopez, Directeur du service client, New Relic
Les organisations sont désireuses d'adopter l'IA pour offrir de meilleures expériences numériques à leurs clients. Selon Gartner, plus de 80 % des entreprises d'ici 2026 auront utilisé des API d'IA générative ou déployé des applications activées pour l'IA générative. Lorsque la demande pour l'IA est forte et en pleine croissance, les organisations ont du mal à intégrer l'IA à leurs stacks technologiques en raison de la complexité qu'elle présente. New Relic AI Monitoring prend directement en charge ce défi et facilite la gestion des complexités du stack d'IA pour les organisations en leur fournissant une vue unifiée et uniformisée de tout leur écosystème d'IA ainsi que du reste de leurs données de performances.
Les fonctionnalités clés comprennent :
- Auto‑instrumentation : les agents New Relic proposent un paramétrage simple des frameworks populaires comme OpenAI, AWS Bedrock, et LangChain sur Python, Node.js, Ruby, Go et .NET.
- Visibilité sur tout le stack d'IA : une vue holistique sur toute l'application, l'infrastructure et la couche d'IA, comprenant les métriques d'IA telles que le nombre de requêtes, le temps de réponse et l'utilisation des jetons.
- Vue des réponses de l'IA avec le feedback des utilisateurs finaux : identifiez rapidement les tendances et les valeurs hors normes dans les réponses de l'IA, analysez le ressenti et voyez le feedback des utilisateurs, dans une seule et même vue consolidée.
- Suivi en profondeur des informations détaillées sur chaque réponse : tracez le cycle de vie des réponses de l'IA avec des outils comme LangChain pour résoudre les problèmes de performances et de qualité comme les biais, la toxicité et les hallucinations.
- Amélioration de la sécurité des données : maintenez la sécurité de votre organisation et vos politiques de conformité en excluant du monitoring les données personnelles de vos demandes et des réponses de l'IA.
- Comparaison des modèles : comparez les performances et le coût des modèles fondamentaux exécutés en production dans une seule vue pour choisir le modèle qui correspond le mieux à vos besoins.
- Intégrations quickstart : l'une des solutions les plus complètes du monitoring de l'écosystème d'IA avec 60 intégrations pour les composants tels que les GPU NVIDIA et les bases de données vectorielles comme Pinecone, Weaviate, etc.
New Relic AI Monitoring est disponible pour tous dans le cadre de sa plateforme d’observabilité tout-en-un et offerte avec son modèle de tarification à l'utilisation. Lancez-vous en contactant le représentant de votre compte New Relic ou en vous inscrivant pour obtenir un compte gratuit.
Pour en savoir plus, consultez :
À propos de New Relic
En tant que leader de l'observabilité, New Relic permet aux ingénieurs d'avoir une approche data-driven de la planification, du développement, du déploiement et de l'exécution d'excellents logiciels. New Relic propose la seule plateforme uniformisée qui permet aux ingénieurs d'obtenir toutes les données télémétriques (métriques, événements, logs et traces) avec les puissants outils d'analyse full‑stack pour aider les ingénieurs à donner le meilleur d'eux‑mêmes en s'appuyant sur des données et non sur des opinions. Le modèle de tarification intuitif et prévisible de New Relic est le premier du secteur à être basé sur la consommation, ce qui permet aux ingénieurs d'obtenir plus de leur investissement en les aidant à améliorer la planification des différents cycles, les taux d'échecs des modifications, la fréquence de publication des nouvelles versions et les temps moyens de résolution des problèmes. Tous ces avantages aident les meilleures marques au monde, dont Adidas Runtastic, Australia Post, Banco Inter, Chegg, GoTo Group, La Croix‑Rouge américaine, Ryanair, Sainsbury’s, Signify Health, TopGolf et World Fuel Services (WFS) à améliorer les temps de disponibilité et la fiabilité, à stimuler l'efficacité opérationnelle et à assurer une expérience client exceptionnelle, ce qui encourage l'innovation et la croissance. www.newrelic.com.