Jenseits der Blackbox: AI Agent Monitoring der nächsten Generation

Das Potenzial der KI hat sich gewandelt. Während uns vor nicht allzu langer Zeit noch einfache KI-Chat-Interfaces beeindruckten, nutzen wir jetzt hochkomplexe Agentic-AI-Systeme. Dabei entstehen Architekturen, in denen autonome Agents nicht nur Text verarbeiten, sondern selbstständig Entscheidungen treffen, Tools aufrufen und mit anderen Agents zusammenarbeiten, um komplexe geschäftliche Workflows auszuführen.

Für die Engineers jedoch, die den Betrieb dieser Systeme sicherstellen müssen, hat dieser Wandel ein massives Transparenzdefizit entstehen lassen. Herkömmliche APM-Tools sind für vorhersehbare, lineare Service-Aufrufe konzipiert. Agentic-Umgebungen hingegen sind dynamisch, probabilistisch und nicht-linear. Wenn ein Agentic-Workflow fehlschlägt, liegt das selten an nur einem einfachen Fehlerzustand. Es ist wahrscheinlicher, dass beispielsweise ein Planning Agent einen Task nicht abgibt, ein Coding Agent den Output eines Tools falsch interpretiert oder eine ineffiziente Kommunikationsschleife zwischen Agents Ihr API-Budget verschlingt, ohne ein nützliches Ergebnis zu liefern.

Heute, auf der New Relic Advance im Februar 2026, eliminieren wir dieses Transparenzdefizit. Wir freuen uns, die Erweiterung unseres bestehenden AI-Monitoring-Angebots um AI Agent Monitoring bekannt zu geben. Sie erhalten damit eine Toolsetsammlung (jetzt in der Preview verfügbar), die speziell dafür entwickelt wurde, die komplexe Orchestrierung von Multi-Agent-Systemen zu visualisieren, zu debuggen und zu optimieren.

Mangelnde Visibility: Warum herkömmliches Monitoring bei Agents versagt

In einem Agentic-Ökosystem ist der Workload nicht mehr nur eine Ansammlung von Servern, sondern ein dynamischer Entscheidungsgraph. Nehmen wir einen typischen Software-Assistenten: Ein Planning Agent interpretiert die Anfrage einer Benutzerin, delegiert einen Task an einen Research Agent, der ein externes Suchtool aufruft, und gibt die Daten dann an einen PR Agent zurück. Wenn das Endresultat nicht zufriedenstellend ist, wo ist dann der Fehler aufgetreten? War es die Prompt-Logik im ersten Agent? Ein Fehler im Drittanbietertool? Oder eine Latenzspitze beim Handover zwischen Agents?

Mit bestehenden Tools ist es extrem schwierig, diese Interaktionen sichtbar zu machen. Engineering-Teams stehen derzeit vor drei kritischen Problemen:

1. Unklare Interaktionen: Traces zeigen oft LLM-Aufrufe, lassen aber nicht erkennen, welcher Agent genau den Aufruf getätigt und welches Tool er genutzt hat.
2. Fragmentierter Kontext: Es gibt keine Service Map für Agents. Teams sehen die Verbindung zwischen Agent A und Agent B nicht, was zu blinden Flecken in der Abhängigkeitszuordnung führt.
3. Langsame Grundursachenanalyse (RCA): SREs und AI-Engineers verbringen Stunden damit, Logs manuell zu durchforsten, um Abläufe zu rekonstruieren. Das führt zu einer verlängerten MTTR und zu Umsatzeinbußen.

New Relic AI Agent Monitoring schafft Abhilfe, indem es KI-Observability im entsprechenden APM-Kontext organisiert und einen Überblick über den gesamten Stack bietet, von der Infrastrukturebene bis zur Entscheidungslogik des Agents. Ihre AI Agents sind also vollständig in das umfassende End-to-End-Observability-System von New Relic integriert. Durch die Einbettung von KI-Telemetrie direkt in die APM-Umgebung können Sie beispielsweise eine einzelne Benutzeranfrage von Anfang bis Ende nachverfolgen: vom Frontend-Browser über die zugrunde liegende Cloud-Infrastruktur und die Datenbankaufrufe bis hin zu den komplexen Argumentschleifen Ihrer AI Agents.

Diese verbesserte Visibility ist eine native Erweiterung unserer zentralen APM-Plattform und lässt sich als Out-of-the-box-Lösung also sofort mit unseren bestehenden APM Agents nutzen. Das ermöglicht die Korrelation von AI-Performance und System Health, um Ihre Engineering-Investitionen und Ihre Geschäftsergebnisse ohne Mehrkosten zu schützen.

Neu im Februar 2026: Die strategische Schaltzentrale für KI

Unser neuestes Release bietet drei bahnbrechende Toolsets, die AI Monitoring vom einfachen Logging in eine strategische Schaltzentrale verwandeln.

Agents Service Map zur Visualisierung des Ökosystems

Zum ersten Mal sehen Sie Ihre gesamte Multi-Agent-Zusammenarbeit in einer Ansicht. Die Agents Service Map bietet eine Echtzeitvisualisierung aller Interaktionen. Wann immer Agent A Agent B aufruft, wird eine Verbindungslinie gezeichnet.

Dies eliminiert sofort blinde Flecken hinsichtlich Abhängigkeiten. Sie sehen, wie sich ein Ausfall in einem kleineren Utility Agent auf alles andere auswirkt, bis hin zu Ihrem primären, auf Benutzer:innen ausgerichteten Agent. Durch den Einblick in die vernetzte Struktur Ihres Systems können Sie die Orchestrierung optimieren, redundante Aufrufe reduzieren und den gesamten Informationsfluss verbessern.

Granulare Einblicke in das Verhalten

Bei Observability geht es um mehr, als nur zu wissen, ob ein Service läuft oder nicht. In der Welt der KI steht Verhalten für Performance. Durch Klicken auf einen beliebigen Agent in der Service Map erhalten Engineers Zugriff auf ein dediziertes Agent-Performance-Dashboard.

• Anfragevolumen: Laufen Ihre Agents in Schleifen oder führen sie übermäßig viele Abrufe durch?
• Durchschnittliche Latenz: Wo gibt es Reibungspunkte in der Argumentkette?
• Fehlerquoten: Schlägt ein bestimmter Tool-Aufruf für einen bestimmten Agent wiederholt fehl?

Anhand dieser Daten können KI-Produktmanager:innen den ROI ihrer Agents quantifizieren, und SREs sind in der Lage sicherzustellen, dass die zugrunde liegende Infrastruktur bei wachsender Agent-Nutzung angemessen skaliert.

Agent-Drilldown

Wenn eine Anomalie auftritt, zählt jede Sekunde. Unser neues Agent-Drilldown-Toolset ermöglicht es Ihnen, von der allgemeinen Service Map direkt in den spezifischen Trace des betreffenden Agents oder Tools zu wechseln.

Schluss mit der Suche nach GUIDs. Sie sehen die genaue Reihenfolge der Aufrufe, die Inputs/Outputs des Agents und die zu dem jeweiligen Fehler gehörigen Metadaten. So haben Teams die nötige Klarheit, um zwischen einem technischen Timeout und einem Logikfehler zu unterscheiden – das verkürzt die MTTR und dient der Gewinnsicherung.

Einheitliche Orchestrierung

Während sich einige unserer Wettbewerber auf das Monitoring einzelner LLM-Modelle und die Evaluierung einzelner Agent-Schritte konzentrieren, bietet New Relic eine ganzheitliche Visibility in die Orchestrierung. Wir betrachten das Agentic-System als ein zusammenhängendes Ganzes. Da unser Monitoring auf der Entity-Plattform aufbaut, sind Ihre AI Agents nicht bloß „Objekte“ in einem Log, sondern VIPs in Ihrem Observability-Stack.

• Keine manuelle Instrumentierung: Dank unseres umfassenden und stetig wachsenden Supports für diverse Protokolle (z. B. LangGraph, AutoGen, Strands) erhalten Sie direkt aus der Box eine detaillierte Einsicht in die Kommunikation zwischen Agents.
• Erweiterte Protokollunterstützung: Durch Unterstützung der ConverseAPI (AWS Bedrock) und anderer neuer Protokolle bauen wir unsere Marktführerschaft weiter aus. So stellen wir sicher, dass Ihr Monitoring-Stack stets mit der Entwicklung der KI-Landschaft mithält.
• Distributed Tracing mit Kontext: Wir haben AI Agent Spans in unsere Wasserfallansichten integriert, damit Sie KI-Aufrufe direkt neben Ihren Datenbankabfragen und Legacy-API-Aufrufen sehen können.

Engineering und Business im Einklang

Eine der größten Herausforderungen bei der KI ist die Tatsache, dass jeder Stakeholder unterschiedliche Daten benötigt. New Relic AI Agent Monitoring dient als Single Source of Truth für das gesamte Unternehmen:

• Für AI/ML-Engineers: Ein Debugger. Sie können Agent-Entscheidungen nachverfolgen, die Toolnutzung überwachen und das Verhalten anhand von Live-Performancedaten optimieren.
• Für SREs und DevOps: Ein Sicherheitsnetz. Sie können infrastrukturbedingte Downtime verhindern, die finanziellen Kosten von KI-Workloads im Rahmen halten und Ressourcen präzise skalieren.
• Für Produktmanager:innen: Ein ROI-Motor. Sie können die Erfolgsquote automatisierter Tasks messen und sicherstellen, dass Ihre KI den Endbenutzer:innen tatsächlichen Geschäftswert liefert.
• Für Sicherheit und Compliance: Ein Audit-Trail. Sie können den Zugriff von Agents auf vertrauliche Daten überwachen und sicherstellen, dass die Agents innerhalb ethischer und regulatorischer Vorgaben (wie der DSGVO) agieren.

Observability fördert Innovation

Unzuverlässige KI-Systeme verursachen nicht nur technische Probleme, sondern untergraben auch das Vertrauen der Kundschaft und führen zu Umsatzeinbußen. Ohne die Möglichkeit zum Monitoring komplexer, dynamischer und probabilistischer KI-Architekturen können Unternehmen erhebliche Schwierigkeiten haben, Bias zu erkennen, Einschränkungen zu verstehen und Bottlenecks zu identifizieren.

New Relic AI Agent Monitoring macht aus der Agentic-AI-„Blackbox“ einen transparenten, steuerbaren Wachstumsfaktor und ergänzt unser bestehendes AI-Monitoring-Angebot um ein neues Toolset. Das Troubleshooting wird beschleunigt, Kontextwechsel entfallen und Sie erhalten eine umfassende Full-Stack-Visibility: So können Sie Agentic-Workflows ruhigen Gewissens in die Produktion überführen.

Beenden Sie das Rätselraten; managen Sie Ihre KI stattdessen mit Präzision.

Möchten Sie Ihre Agents auch in Aktion erleben?

• AI Agent Monitoring ist Teil von New Relic AI Monitoring. Fragen Sie eine Demo an oder starten Sie Ihre kostenlose Testversion noch heute.
• Melden Sie sich hier an, um eine Preview der heute vorgestellten Features zu erhalten.