New Relic, die All-in-One-Observability-Plattform für die gesamte Engineering-Community, hat die allgemeine Verfügbarkeit von New Relic AI Monitoring mit einer Reihe leistungsstarker neuer Funktionen bekannt gegeben, die aktuelle und zukünftige Anforderungen von Unternehmen bei der Entwicklung von KI-Anwendungen erfüllen sollen. Zu den neuen Funktionen gehören umfassende Einblicke in das KI-Response Tracing mit Live-Benutzerfeedback und Modellvergleichen, um die kontinuierliche Verbesserung der Leistung, Qualität und Kosten von KI-Anwendungen voranzutreiben – bei gleichzeitiger Gewährleistung von Datensicherheit und Datenschutz. Mit mehr als 60 Integrationen ist New Relic AI Monitoring eine der branchenweit umfassendsten Lösungen und sorgt für eine schnellere Fehlerdiagnose bei KI-Anwendungen, erleichtert den weitreichenden Einsatz von KI und steht Unternehmen beim Thema KI jederzeit zur Seite.

„In meinen Gesprächen mit unseren Kund:innen, ob CIOs, CTOs oder andere Führungskräfte, habe ich festgestellt, dass jedes Unternehmen darüber nachdenkt, wie es sein Geschäft mit KI skalieren kann“, erklärt Arnie Lopez, Chief Customer Officer bei New Relic. „Der Einsatz von KI kann kostspielig sein und die Komplexität im Stack erhöhen. Führungskräfte in der IT- und Tech-Branche wenden sich an New Relic, denn Observability ist unerlässlich, um souverän durch die spannende Zukunft der KI zu navigieren, Leistung und Qualität zu optimieren und Kosten im Griff zu behalten, um letztendlich überragende Kundenerlebnisse zu liefern.“

Unternehmen möchten ihren Kunden mithilfe von KI ein besseres digitales Erlebnis bieten. Untersuchungen von Gartner zufolge werden bis 2026 mehr als 80 % aller Unternehmen GenAI-APIs verwendet oder Anwendungen mit generativer KI bereitgestellt haben. Obwohl es eine starke und wachsende Nachfrage nach KI gibt, tun sich Unternehmen aufgrund der damit verbundenen Komplexität schwer, KI in ihre Tech-Stacks zu integrieren. New Relic AI Monitoring setzt direkt daran an und macht es Unternehmen leichter, die Komplexität ihres KI-Stacks zu bewältigen, indem es eine einheitliche Sicht auf ihre gesamte KI-Umgebung zusammen mit den übrigen Leistungsdaten bietet.

Die wichtigsten Features:

• Automatische Instrumentierung: New Relic Agents ermöglichen die einfache Einrichtung gängiger Frameworks wie OpenAI, AWS Bedrock und LangChain für die Programmiersprachen Python, Node.js, Ruby, Go und .NET.
• Transparenz für den gesamten KI-Stack: Umfassender Überblick über die Anwendung, die Infrastruktur und die KI-Ebene, mit KI-Metriken wie Anzahl der Anfragen, Antwortzeit und Tokennutzung.
• KI-Antwortansicht mit Endbenutzer-Feedback: In einer zentralen, konsolidierten Übersicht lassen sich Ausreißer und Trends in KI-Antworten schneller erkennen sowie Sentiment und Feedback analysieren.
• Umfassende Trace-Einblicke für jede Antwort: Durch Tracing des gesamten Lebenszyklus von KI-Antworten, die mit Tools wie LangChain erstellt wurden, lassen sich Performance-Probleme und Qualitätsbedenken hinsichtlich Bias, Toxizität und Halluzinationen ausräumen.
• Verbesserte Datensicherheit: Sie können personenbezogene Daten aus dem Monitoring Ihrer KI-Anfragen und -Antworten ausschließen, um alle Anforderungen an Compliance, Sicherheit und Datenschutz einzuhalten.
• Modellvergleich: In einer zentralen Ansicht lassen sich Performance und Kosten momentan laufender Grundlagenmodelle vergleichen, um das Modell auszuwählen, das Ihre Anforderungen am besten erfüllt.
• Quickstart-Integrationen: Eine der umfassendsten Lösungen für das Monitoring der KI-Umgebung mit 60 Integrationen für kritische Komponenten wie NVIDIA-GPUs und Vektordatenbanken wie Pinecone, Weaviate und mehr.

New Relic AI Monitoring ist als Teil der New Relic All-in-One-Plattform für Observability und mit einem nutzungsbasierten Preismodell allgemein verfügbar. Wenden Sie sich zum Einstieg am besten an Ihren New Relic Account-Manager oder richten Sie ein kostenloses Konto ein.

Weitere Informationen finden Sie hier:

• Webseite zu New Relic AI Monitoring
• Blog zu New Relic AI Monitoring