New Relic、オブザーバビリティプラットフォーム「New Relic」とNVIDIA NIMの統合により、企業のAI導入とROIの向上を加速
New Relicが、NVIDIA NIM推論マイクロサービスとの統合により、NVIDIA GPUに最適化された高性能モデルの開発をサポート
New Relic AI Monitoringが、NVIDIA NIMで構築されたアプリのAIスタック全体から詳細なインサイトを提供
New Relicのプラットフォームは60以上のAIインテグレーションからのデータを一元化し、包括的なオブザーバビリティを提供
※本リリースは、2024年6月21日（米国現地時間）に米国カリフォルニア州サンフランシスコで発表されたプレスリリースの抄訳版です。
デジタルビジネスにオブザーバビリティ（可観測性）プラットフォームを提供するNew Relic株式会社（本社：東京都港区、代表取締役社長：小西 真一朗、以下「New Relic」）は、生成AIアプリの開発、デプロイ、監視の複雑性とコストを削減するため、オブザーバビリティプラットフォーム「New Relic」とNVIDIA NIM推論マイクロサービスを統合することを発表しました。これにより、New Relic AI Monitoringを使用して、簡単な設定でデータセキュリティを確保しながら、NVIDIA NIMで構築されたアプリケーションのAIスタック全体を包括的に可視化することが可能になりました。これは、生成AIアプリケーションの配信を加速するNVIDIA NIMのセルフホスト型モデルの堅牢なセキュリティ機能と操作性を補完するものです。NVIDIA NIMと統合されたNew Relicは、組織の迅速なAI導入と投資収益化をサポートします。
費用対効果に優れた高性能モデルの導入に不可欠なオブザーバビリティ
企業は、デジタル体験や生産性の向上、さらには収益拡大のために生成AIの導入を加速させています。ガートナー社は、2026年までに企業の80％以上が生成AIを使用する、または生成AIアプリを導入すると予測しています。迅速な導入や短期間での投資収益化は、企業にとって市場優位性を確保するために不可欠であり、そのカギを握るのがオブザーバビリティです。オブザーバビリティは、サービス、インフラ、AIレイヤーにわたるAIアプリケーションスタックの全体的なリアルタイムビューを提供し、効率的で信頼性と費用対効果の高い運用を可能にします。
New Relic CEO Ashan Willy（アシャン・ウィリー）のコメント
「今日の超競争市場において、AI投資の収益化を何年も待つ余裕のある企業はありません。この課題を解決するのが、AIスタック全体の可視性を提供するオブザーバビリティです。当社はAIオブザーバビリティのパイオニアとして、自社プラットフォームを拡張し、NVIDIA NIMで構築されたAIアプリとの連携を実現させました。NVIDIAのAI技術と当社のオブザーバビリティおよびAPMに対する専門性を活用することで、企業はAI競争で優位に立つことができるでしょう」
NVIDIA AIソフトウェア担当ディレクター Amanda Saunders氏のコメント
「生成AIの導入競争が加熱する中、NVIDIA NIMは、企業が迅速に本番環境にアプリケーションを導入するのに役立つでしょう。New RelicがNVIDIA NIMと統合されたことで、ITチームや開発チームは、運用に関するインサイトをすばやく観測してこれに対応し、AIアプリケーションを最適化することができるようになるでしょう」
New RelicがNVIDIA NIMで構築されたAIアプリケーションの投資収益化を加速
AIアプリケーションの導入により、技術スタックが複雑化し、セキュリティ上の懸念が高まり、さらにはコストが膨大になる可能性もあります。New Relic AI Monitoringは、データプライバシーを確保しながら、AIスタック全体のビューを、スループット、レイテンシ、コストに関する主要メトリクスとともに提供します。さらに、サービスやモデル間のリクエストフローを追跡し、AIアプリの内部動作の理解を可能にします。New Relicの緻密な監視機能がNVIDIA NIMに適用されたことで、DatabricksのDBRX、 GoogleのGemma、MetaのLlama 3、MicrosoftのPhi-3、Mistral LargeおよびMixtral 8x22B、SnowflakeのArcticなど、幅広いAIモデルがサポートされるようになりました。これにより組織は、NVIDIA NIMで構築されたAIアプリを安心して導入し、市場投入までの時間を削減し、ROIを向上させることが可能になります。
AI Monitoringの主な機能とユースケース：
- AIスタック全体の可視化：NVIDIA GPUベースのインフラ、AIレイヤー、レスポンス品質、トークンカウント、APMゴールデンシグナルなど、アプリの全体的なビューで問題を迅速に検出
- すべてのレスポンスを詳細に追跡：バイアス、有害性、ハルシネーションのようなパフォーマンスと品質に関する問題をAIレスポンスのライフサイクルを追跡することにより解決
- モデルインベントリ：NVIDIA NIM推論マイクロサービス全体にわたる主要メトリクスを一元的に追跡することで、モデル由来のパフォーマンス、エラー、コストに関する問題を容易に特定
- モデル比較：本番環境で稼働するNVIDIA NIM推論マイクロサービスのパフォーマンスを単一のビューで比較し、インフラやユーザーのニーズに応じたモデル選択を最適化
- GPUの詳細なインサイト：GPU使用率、温度、パフォーマンス状況のような重要な高速コンピューティングメトリクスを分析し、コンテキストを理解した上で、問題を迅速に解決
- 強化されたデータセキュリティ：NVIDIAのセルフホスト型セキュリティの利点に加え、New RelicではAIのリクエストとレスポンスから機密データ（PII）の監視を除外することが可能
New Relic、NVIDIAとの連携で60以上のAIインテグレーションエコシステムを強化
今回の統合は、New RelicがNVIDIAのAIOpsパートナーエコシステムに新たに加わったことに続くものです。New Rellicは、NVIDIA AIの高速コンピューティングを活用し、オブザーバビリティとAIを融合させることで、IT業務を合理化し、機械学習と生成AIのアシスタントであるNew Relic AIによるイノベーションを加速させます。New Relicは、NVIDIA GPUやNVIDIA Triton Inference Serverソフトウェアなど、60以上のAIインテグレーションを通じて、最も幅広いオブザーバビリティソリューションを提供しています。
New Relic AI Monitoringは、オールインワンのオブザーバビリティプラットフォームであるNew Relicの一部として、シンプルで透明性の高い価格体系で利用できます。利用開始にあたっては、New Relic営業担当者にご連絡いただくか、無料アカウントにご登録ください。
詳細は以下をご覧ください。
New Relicについて
アプリケーションパフォーマンス監視（APM）が発案されて以来、New Relicは最先端のプラットフォームとしてオブザーバビリティの最前線に立っており、デジタル体験の中断を解消します。adidas Runtastic、米国赤十字社、Domino’s、GoTo Group、Ryanair、Topgolf、William Hillといった世界中の企業がNew Relicを利用して、より優れたデジタル体験を創造し、収益を最適化し、イノベーションをリードしています。 www.newrelic.com.