New Relic lance la première capacité d'observabilité OpenAI GPT
Pour optimiser les performances et réduire les coûts, les ingénieurs développant des applications basées sur GPT peuvent désormais s’appuyer sur deux lignes de code pour monitorer leurs résultats.
New Relic (NYSE : NEWR), la plateforme d’observabilité tout-en-un pour tous les ingénieurs, annonce la première capacité MLOps en son genre qui permet aux équipes d'ingénieurs de monitorer les applications basées sur OpenAI GPT ou ses APIs. Avec seulement deux lignes de code, ces équipes peuvent réaliser le monitoring des requêtes de complétion OpenAI tout en faisant le suivi des performances et des métriques de coût en temps réel dans une seule et même vue, grâce à New Relic. Cette nouveauté permet à New Relic d'ingérer les données brutes d'OpenAI pour accélérer l'innovation et les objectifs commerciaux des entreprises en les aidant à exploiter toute la puissance des technologies émergentes de l'OpenIA comme ChatGPT tout en prenant en compte et en pondérant les coûts associés. Cette intégration élargit le catalogue de données prises en charge par et étend l'accès de New Relic à un plus grand nombre de développeurs. En outre, en s'inscrivant pour obtenir un compte New Relic gratuit, les ingénieurs peuvent rapidement déployer le quickstart OpenAI de New Relic Instant Observability et accéder gratuitement à cette capacité qui ne nécessite qu'une configuration minimale.
« Nous sommes vraiment dans une période palpitante pour les entreprises qui adoptent GPT et construisent les applications modernes développées sur l'apprentissage machine et l'IA. L'observabilité change la donne et aide les entreprises à extraire de la valeur de GPT. Nous donnons à chaque ingénieur utilisant GPT et ses APIs les moyens d'effectuer le monitoring des coûts et des performances avec une configuration simple et sans frais supplémentaires. Tout cela reste dans l'alignement de notre mission visant à placer toute la puissance de l'observabilité entre les mains de tous les ingénieurs »
-Manav Khurana, Directeur de la croissance (CGO) et Directeur général de l'observabilité
Les entreprises dans le monde entier adoptent GPT pour stimuler les tickets d'assistance et les logs de chats en direct, développer le contenu et les images et accélérer les recherches sémantiques. Le monitoring de New Relic pour OpenAI est rapide, simple d'utilisation et libère en temps réel toutes les métriques qui peuvent aider les ingénieurs à optimiser l'utilisation, réduire les coûts et obtenir de meilleurs résultats. La nouvelle capacité propose aux ingénieurs :
- Un démarrage gratuit : l'accès à New Relic Instant Observability et à notre solution unique en son genre de monitoring GPT prête à l'emploi est offert sans frais supplémentaires aux utilisateurs Full Platform de New Relic.
- Une installation simple : avec seulement deux lignes de code, les utilisateurs peuvent importer le module de monitoring de la bibliothèque nr_openai_monitor et automatiquement générer un dashboard qui affiche différentes métriques de performances GPT essentielles.
- Le monitoring des coûts : les coûts d’utilisation du modèle Davinci d'OpenAI peuvent s'accumuler rapidement et rendre les opérations à l'échelle difficiles. New Relic permet aux équipes d'ingénieurs de suivre en temps réel les coûts de leur utilisation de GPT.
- L'optimisation des performances : New Relic apporte aux équipes d'ingénieurs les informations sur le temps de réponse moyen et d'autres métriques de performances clés relatives aux requêtes GPT, ce qui permet aux ingénieurs d'optimiser leur utilisation des données et d'assurer les meilleurs temps de réponse possible.
- Analyse des invités et des réponses : New Relic fournit des informations précieuses sur l'utilisation, le débit et l'efficacité de GPT afin d'aider les équipes d'ingénieurs à obtenir de meilleurs résultats de leurs modèles ML.
L'intégration d'OpenAI GPT avec New Relic est incluse sans coût supplémentaire pour les utilisateurs de la plateforme de New Relic. Elle prend en charge toutes les versions actuelles d'OpenAI GPT, y compris la version récente GPT-4. Pour de plus amples informations sur la façon de configurer New Relic MLOps ou d'intégrer les applications GPT dans votre infrastructure d'observabilité,consulter la documentation ici ou lire le blog post.
Pour vous inscrire à un compte gratuit pour toujours, consultez la page https://newrelic.com/signup.
À propos de New Relic
En tant que leader de l'observabilité, New Relic permet aux ingénieurs d'avoir une approche data-driven de la planification, du développement, du déploiement et de l'exécution d'excellents logiciels. New Relic propose la seule plateforme uniformisée qui permet aux ingénieurs d'obtenir toutes les données télémétriques (métriques, événements, logs et traces) avec les puissants outils d'analyse full‑stack pour aider les ingénieurs à donner le meilleur d'eux‑mêmes en s'appuyant sur des données et non sur des opinions. Le modèle de tarification intuitif et prévisible de New Relic est le premier du secteur à être basé sur la consommation, ce qui permet aux ingénieurs d'obtenir plus de leur investissement en les aidant à améliorer la planification des différents cycles, les taux d'échecs des modifications, la fréquence de publication des nouvelles versions et les temps moyens de résolution des problèmes. Tous ces avantages aident les meilleures marques au monde, dont Adidas Runtastic, Australia Post, Banco Inter, Chegg, GoTo Group, La Croix‑Rouge américaine, Ryanair, Sainsbury’s, Signify Health, TopGolf et World Fuel Services (WFS) à améliorer les temps de disponibilité et la fiabilité, à stimuler l'efficacité opérationnelle et à assurer une expérience client exceptionnelle, ce qui encourage l'innovation et la croissance. www.newrelic.com.