AI Unwrapped: Impact Report 2025

Code zu liefern ist nur die halbe Miete. Ohne solide Observability (also die umfassenden Logs, Metriken und Traces, die genau und in Echtzeit zeigen, wie sich Systeme verhalten) werden selbst die brillantesten Anwendungen beim Skalieren zu undurchsichtigen, unzuverlässigen Blackboxes. Und dieselbe Lektion sehen wir angesichts der Entwicklung der künstlichen Intelligenz vom vagen Versprechen zur Grundlagentechnologie. KI verbreitet sich in einem immer rasanteren Tempo, und damit verändern sich auch ihre Nutzungsmuster in Unternehmen. Zum ersten Mal nun veröffentlicht New Relic aggregierte Nutzungsdaten, die genau zeigen, wie Verhaltensänderungen aufseiten der Entwickler:innen die KI-Landschaft formen. Es wird deutlich, warum KI-Monitoring kein Nice-to-have mehr ist, sondern eine absolute Notwendigkeit.

Die Daten von New Relic zeigen, dass bei der Nutzung von Prompts ChatGPT dominiert, und Kundschaft wie auch Entwickler:innen greifen schnell die neuesten Versionen wie GPT-4o auf, selbst wenn kostengünstigere Alternativen existieren. Gleichzeitig erstellen Entwickler:innen zunehmend benutzerdefinierte Modelle für die Verwendung mit GPT. Das lässt vermuten, dass sich in Zukunft möglicherweise mehr Teams für Nischen-Tools entscheiden und KI auf ihre spezifischen Bedürfnisse zuschneiden werden.

All diese Trends weisen auf einen grundlegenden Fakt hin: Der Einsatz von KI wandelt sich – weg vom Experimentiertool, hin zum Einsatz im alltäglichen Betrieb.Für die Anforderungen einer solchen dynamischen Umgebung reichen einfache, aufgabenspezifische Monitoring-Tools nicht mehr aus, und die zunehmende Verbreitung der KI-Monitoring-Lösung von New Relic belegt dies. Dieser Trend wird sich fortsetzen, und wir sehen, dass KI-Monitoring heute eine treibende Kraft für technische Agilität und betriebliche Belastbarkeit in Entwicklungs- und Infrastrukturteams sowie CTOs ist.

Entwickler:innen sind für den starken Anstieg beim Experimentieren mit KI-Modellen und ihrer Spezialisierung verantwortlich. New Relic sah im letzten Quartal einen 92-prozentigen Anstieg bei der Anzahl spezifischer in KI-Apps verwendeter Large Language Models.

Genauer gesagt nutzen Entwickler:innen vorwiegend die größten LLMs, allen voran OpenAI ChatGPT, mit Llama von Meta an zweiter Stelle – mehr als 86 % aller von New Relic Kund:innen verarbeiteten LLM-Token entfielen darauf. Das lässt vermuten, dass für Entwickler:innen Benutzerfreundlichkeit, Zuverlässigkeit und Top-Leistung bei minimalem Setup oder Tuning Priorität haben. Wir können also momentan davon ausgehen, dass Unternehmen einsatzfertige Modelle für rasche Deployments nutzen möchten, anstatt Zeit in den Aufbau oder die Justierung von Alternativen zu investieren.

Aber selbst mit der Dominanz von ChatGPT-Modellen ist Observability nicht optional – Teams müssen noch immer die Nutzung nachverfolgen, die Performance bewerten und Anomalien erkennen, um Kosteneffizienz, optimale Leistung und Zuverlässigkeit zu gewährleisten.

Für viele Unternehmen ist es sinnvoll, sich auf generalistische Modelle zu verlassen, da die KI-Implementierung bei ihnen noch in den Kinderschuhen steckt. Die Daten zeigen jedoch, dass Entwickler:innen bereits eine Vielzahl von zum Teil domänen- und aufgabenspezifischen Modellen testen, wenn auch in geringerem Maß. Mit zunehmender Komplexität von Teams und Unternehmen wird der Bedarf an ausgefeiltem KI-Monitoring für die Performance-Maximierung, das Kostenmanagement, die Governance-Compliance und zum Zurechtfinden in Umgebungen mit mehreren Modellen in den kommenden Jahren voraussichtlich erheblich zunehmen.

Mit dem zunehmenden Innovationstempo bei der KI wandelt sich das Entwicklerverhalten: Sie wechseln oft zwischen Modellversionen. In letzter Zeit dominiert dabei ChatGPT-4o, gefolgt von ChatGPT-4o mini. ChatGPT-4o mini ist preisgünstiger als ChatGPT-4o, was vermuten lässt, dass den Entwickler:innen eine hohe Leistungsfähigkeit und reichhaltige Features (z. B. bessere multimodale Funktionen, niedrigere Latenz) zumindest momentan wichtiger ist als potenzielle Einsparungen.Es wird sich zeigen, ob der Kostenfaktor irgendwann wichtiger wird.

Der Wechsel zwischen ChatGPT-Versionen geschieht ab und zu sogar fast über Nacht. Seit der Ankündigung von ChatGPT-4.1 Mini im April beispielsweise haben viele New Relic Benutzer:innen sofort von ChatGPT-3.5 Turbo dorthin gewechselt. Unternehmen scheinen also die neuesten Innovationen von OpenAI genau zu beobachten, um jederzeit wettbewerbsfähig zu bleiben.

Unternehmen benötigen KI-Monitoring, das mit dem sich ständig weiterentwickelnden KI-Stack Schritt halten kann, vor allem da OpenAI für jedes Modell immer wieder inkrementelle Versionen und Updates veröffentlicht. Entwicklungsteams müssen neue Modelle auch zukünftig auf größere Visibility hin bewerten – ohne die Kontrolle über Kosten, Zuverlässigkeit und Compliance zu verlieren.

Unternehmen nutzen New Relic AI Monitoring seit der Einführung im letzten Jahr, um sicherzustellen, dass KI-Modelle zuverlässig, genau, gesetzeskonform und kosteneffizient sind. In den letzten 12 Monaten beobachtete New Relic ein stetiges Nutzungswachstum von 30 % von Quartal zu Quartal.

Laut dem New Relic Observability Forecast 2024 ist die rasche Verbreitung von KI der Haupttreiber für die Einführung von KI-Monitoring-Lösungen in Unternehmen. Die Nutzung von KI wandelt sich gerade vom Experiment hin zum alltäglichen Betrieb, was neue Herausforderungen beim Monitoring mit sich bringt. Diese Entwicklung erfordert umfassende KI-Observability-Toolsets, die sich nicht auf Large Language Models beschränken, sondern die gesamte Palette KI-gestützter Technologien umfassen und sich nahtlos in die bestehende Betriebsinfrastruktur integrieren lassen.

Einige Unternehmen verwenden allerdings KI-Modelle ohne eine zuverlässige KI-Monitoring-Lösung, wodurch Aspekte wie Zuverlässigkeit, Antwortgenauigkeit, Sicherheit und Kostenkontrolle erheblich gefährdet sind. KI ohne passendes Monitoring ist wie Software-Deployment ohne Logs – Performance-Probleme bleiben unerkannt, Fehler sind wahrscheinlich und die Einhaltung der KI-Governance ist nicht gewährleistet. Das kann das KI-Innovationstempo verlangsamen und zudem das Vertrauen in eine Skalierung der KI untergraben. Es muss also eine einheitliche KI-Monitoring-Lösung her, die sich einfach einrichten und nach und nach konfigurieren lässt und die intuitiv in der Nutzung ist – für alle, ob DevOps oder Führungsriege.

Kund:innen nutzen New Relic, um ihre KI-Anwendungen im Blick zu behalten. In diesen Anwendungen ist Python weiterhin führend, gefolgt von Node.js – sowohl in Bezug auf die Anzahl der Anfragen als auch auf die Verbreitung. Die Nutzung von Python ist in diesem Kontext seit dem letzten Quartal um fast 45 % gestiegen.

Mit der zunehmenden Einbettung von KI in den Unternehmensbetrieb wird sich das Angebot an Programmiersprachen für KI-Anwendungen erweitern müssen. Diese Diversifizierung ergibt sich aus der Tatsache, dass Unternehmen nicht umhinkommen, KI in Legacy-Systeme (die oft Sprachen wie Java oder C# nutzen) zu integrieren, und bestimmte Performance- und Skalierungsanforderungen (die die Einführung von C++, Go oder Rust vorantreiben) erfüllen sowie KI in diversen Umgebungen von der Cloud bis hin zu Edge-Geräten bereitstellen müssen.

Tatsächlich konnte New Relic kürzlich einen deutlichen Anstieg bei der Java-Nutzung beobachten: 34 % seit dem letzten Quartal. Dieser Trend kann durchaus ein erstes Anzeichen dafür sein, dass mehr produktionsreife Java-basierte LLM-Anwendungen von großen Unternehmen auf dem Weg sind.

Die Dominanz von Python lässt sich darauf zurückführen, dass es die größte Dynamik, Unterstützung und Tools hat. Allerdings gehen wir davon aus, dass sich auch das Tooling anderer Sprachen weiter entwickeln wird, was im Laufe der Zeit zu einer größeren Verbreitung führen sollte. Deshalb unterstützt New Relic die größte Anzahl von Sprachen und bietet umfassende Observability für mit Python erstellte KI-Anwendungen, einschließlich derjenigen, die LLMs verwenden.

Dieser Bericht basiert auf aggregierten und anonymisierten Nutzungsdaten von 85.000 aktiven New Relic Kund:innen, die zwischen dem 30. April 2024 und dem 30. April 2025 erhoben wurden.

Die New Relic Plattform für intelligente Observability hilft Unternehmen, Unterbrechungen im digitalen Nutzungserlebnis zu verhindern. New Relic ist die einzige KI-gestützte Plattform, auf der Telemetriedaten vereinheitlicht und zusammengeführt werden, um Klarheit über den gesamten digitalen Bestand zu schaffen. Wir gehen über die proaktive Problemlösung hinaus, hin zu einem prädiktiven Ansatz, indem wir die passenden Daten zur richtigen Zeit verarbeiten – für maximale Wertschöpfung und optimale Kostenkontrolle. Unternehmen auf der ganzen Welt, darunter Adidas Runtastic, Domino's, GoTo Group, Ryanair, Topgolf und William Hill, vertrauen daher auf New Relic zur Förderung von Innovationen, Verbesserung der Zuverlässigkeit und zur Schaffung herausragender Nutzungserlebnisse, die letztendlich für mehr Wachstum sorgen.