Presentamos AI Observability for OpenTelemetry

A medida que los equipos de ingeniería adoptan OpenTelemetry (OTel) como estándar para las arquitecturas de IA generativa, la falta de conexión entre las estructuras de datos genera brechas de visibilidad para los responsables de las empresas. Esta fragmentación puede dar lugar a aplicaciones sin gestionar y a un consumo no monitoreado de tokens de LLM que agota los presupuestos de la nube sin que se advierta, al tiempo que deja los flujos de trazas de OTel desconectados y completamente aislados de los principales pipelines de seguridad. Sin un seguimiento unificado, los servicios de IA de código abierto en producción quedan expuestos a problemas potenciales, como ataques de inyección de prompts no detectados, filtraciones de información PII y amenazas relacionadas con la toxicidad, lo que genera graves riesgos financieros y de incumplimiento.

New Relic AI Observability for OTel elimina esta fricción mediante una potente arquitectura "Normalize on Read" (Normalización en la lectura) que unifica la telemetría de código abierto y los datos de los agentes APM nativos en una única vista integrada. En lugar de exigir una costosa duplicación de datos o que los desarrolladores reescriban el código, la plataforma adapta dinámicamente los distintos esquemas en tiempo real para recuperar de inmediato una observabilidad completa. Al detectar automáticamente las huellas de IA y establecer una conexión sin estado con los pipelines de seguridad de la empresa, los responsables de plataforma pueden recuperar el control absoluto sobre la gobernanza financiera y la gestión operativa de sus iniciativas de IA.

Gobernanza financiera y evaluación comparativa de modelos con distintos tipos de instrumentación

Escalar la IA generativa en entornos empresariales suele provocar aumentos pronunciados en la facturación de los servicios en la nube cuando los equipos de ingeniería no tienen visibilidad del gasto total en tokens en los distintos microservicios fragmentados. AI Observability for OTel elimina estos puntos ciegos financieros al proporcionar inventarios de modelos unificados que abarcan toda la cuenta y combinan la telemetría de código abierto con la de los agentes APM nativos en dashboards integrados de alto nivel. Los responsables de plataforma obtienen una visibilidad inmediata y completa del gasto total en IA, con métricas como el consumo total de tokens, la latencia de las solicitudes y las tasas de errores, lo que les permite gestionar los presupuestos de los servicios en la nube de forma proactiva.

Para evitar gastos excesivos por el consumo de tokens, los responsables de programas de IA y los arquitectos de plataforma deben optimizar continuamente la selección de modelos a partir de datos objetivos sobre el ROI. La interfaz de comparación de modelos de la plataforma cuenta con un motor flexible de resolución de consultas por columna que permite realizar evaluaciones comparativas entre diferentes tipos de instrumentación. Los ingenieros pueden realizar evaluaciones comparativas directas de rendimiento y costos entre un servicio heredado instrumentado con un agente APM propietario y un microservicio modernizado que utiliza OpenTelemetry de código abierto. Al presentar datos claros sobre costos, latencia y calidad en una única pantalla, las organizaciones pueden identificar y desplegar con confianza la configuración de LLM más rentable, optimizando así sus inversiones en IA generativa sin comprometer la experiencia de los usuarios finales.

Agilidad de la arquitectura: "Normalize on Read" para reducir el costo total de propiedad (TCO)

Las plataformas de observabilidad tradicionales gestionan OpenTelemetry mediante la normalización de los datos durante la escritura: interceptan los spans de OTel en el gateway de ingesta y los modifican o duplican para convertirlos en formatos de eventos propietarios compatibles con los dashboards heredados. Este enfoque tradicional incrementa los costos de almacenamiento, aumenta la carga adicional de procesamiento y eleva los costos de la infraestructura en la nube. New Relic elimina esta proliferación innecesaria de datos mediante una estrategia estricta de "Normalize on Read". La telemetría de OTel se almacena de forma nativa en tablas Span estándar, sin necesidad de convertir los datos durante la ingesta ni duplicarlos en segundo plano. Durante la ejecución, el motor de consultas de la UI detecta dinámicamente la fuente de telemetría y adapta sus plantillas NRQL en tiempo real para consultar directamente la tabla Span, lo que proporciona el mismo nivel de visibilidad sin duplicar los datos.

Además de agilizar las consultas en el frontend, la plataforma aprovecha el diseño estructural de las convenciones semánticas de GenAI de OpenTelemetry para mejorar la eficiencia de los pipelines del backend. Los agentes de los proveedores tradicionales suelen emitir los prompts de entrada y las respuestas generadas por el modelo como eventos de telemetría independientes, lo que requiere un seguimiento con estado y capas externas de almacenamiento en caché para volver a vincularlos. En cambio, un solo span de OTel contiene los prompts del usuario (gen_ai.input.messages) y las respuestas del LLM (gen_ai.output.messages) en una única carga de datos independiente. Un componente OtlpEvaluationHandler dedicado intercepta estos spans de traza y los procesa sin mantener información de estado, lo que elimina por completo la dependencia del almacenamiento en caché de Redis y del reensamblaje de sesiones. La combinación de la normalización de datos sin escrituras adicionales y el procesamiento sin estado reduce significativamente el costo total de propiedad de tu stack de observabilidad. Los equipos de ingeniería de las empresas mantienen una fidelidad total a los estándares de código abierto y, al mismo tiempo, evitan los costos asociados a la duplicación de datos, la proliferación de infraestructura y la carga adicional de procesamiento en segundo plano.

Eliminar la "Shadow AI" en los microservicios

En arquitecturas complejas de microservicios nativos de la nube, los equipos de desarrollo suelen adoptar bibliotecas de LLM de código abierto para desarrollar capacidades autónomas sin informar a los responsables de plataforma o de seguridad. Esta adopción descentralizada da lugar a la "Shadow AI" (IA en la sombra) en toda la empresa, con microservicios que funcionan en producción sin estar rastreados ni mapeados, y sin supervisión operativa, asignación centralizada de presupuestos ni gobernanza de seguridad. Depender de los desarrolladores para registrar manualmente los servicios de IA o mantener catálogos de servicios estáticos genera inevitablemente puntos ciegos en el inventario, lo que impide que los equipos de plataforma sepan dónde está desplegada la IA generativa en toda su infraestructura.

Para eliminar esta fricción operativa, New Relic integra el mapeo de huellas sin intervención manual directamente en el flujo central de rastreo distribuido. Mediante una extensión especializada de TraceProcessor integrada en el pipeline de ingesta, la plataforma inspecciona en tiempo real los flujos de trazas entrantes de OpenTelemetry y examina su contenido en busca de atributos semánticos de gen_ai. En cuanto se detecta una interacción con un LLM de código abierto, el pipeline extrae el GUID de la entidad y publica automáticamente la etiqueta aiEnabledApp:true en la plataforma global de entidades, sin necesidad de intervención humana ni de etiquetar manualmente el código.

Este mecanismo de detección en segundo plano transforma la telemetría pasiva en una gobernanza proactiva. En cuanto un ingeniero incorpora al código una biblioteca de IA instrumentada con OTel, el microservicio se registra automáticamente en el catálogo de la UI central de monitoreo de IA. Los equipos de plataforma y los SRE disponen de un inventario actualizado y preparado para auditorías de todos los despliegues de IA de código abierto, lo que permite aplicar filtros de inmediato en la UI, segmentar los costos a nivel general y configurar alertas automatizadas basadas en líneas de base para detectar y frenar el gasto descontrolado en tokens y las anomalías operativas antes de que afecten a los usuarios finales.

Extender la protección en tiempo real a los stacks de código abierto

Utilizar aplicaciones de IA de código abierto en producción sin evaluarlas de forma continua expone a tu organización a graves vulnerabilidades de seguridad y posibles responsabilidades regulatorias. Cuando los flujos de trazas de OTel están desconectados de los pipelines de seguridad, los ataques maliciosos de inyección de prompts, las filtraciones accidentales de información PII y las respuestas tóxicas eluden los controles de seguridad sin ser detectados. Esta brecha obliga a los responsables de riesgos y cumplimiento a retrasar los despliegues de IA de código abierto o a exponerse a graves daños a la reputación de la marca y al incumplimiento normativo.

New Relic AI Observability for OTel completa este ciclo de seguridad al dirigir los datos de trazas de código abierto directamente al flujo principal de evaluación. Esta integración directa con el pipeline incorpora controles de seguridad de nivel empresarial a tus stacks de IA de código abierto, lo que permite mitigar de inmediato los riesgos comerciales. Al implementar el enmascaramiento automatizado de información PII, la protección contra la inyección de prompts en tiempo real y la detección de toxicidad en el tráfico en tiempo real, los responsables de seguridad pueden autorizar con confianza el uso de aplicaciones de IA generativa en producción. La organización mantiene una protección continua frente a las filtraciones de datos y los daños a su reputación, sin necesidad de utilizar middleware de seguridad complejo ni ralentizar los despliegues.

Valor estratégico en toda la empresa

AI Observability for OpenTelemetry alinea los flujos de trabajo entre los equipos de desarrollo, operaciones de la plataforma y seguridad, lo que permite a las empresas escalar la IA generativa rápidamente sin comprometer la gobernanza ni la seguridad. Al eliminar los obstáculos derivados de las diferencias en las estructuras de datos y extender la paridad de funcionalidades nativas a los stacks de código abierto, la plataforma aporta beneficios comerciales específicos a tres perfiles clave:

Acelera tu estrategia de IA de código abierto hoy mismo

Desplegar AI Observability for OpenTelemetry no requiere reescribir código personalizado ni genera dependencia de SDK específicos de un proveedor. Como la plataforma incorpora de forma nativa datos que siguen las convenciones semánticas estándar de GenAI de OpenTelemetry, tus equipos de ingeniería pueden seguir utilizando las bibliotecas de código abierto y los flujos de trabajo de instrumentación de su preferencia. Solo tienes que dirigir tus flujos de trazas de OTel existentes a New Relic para que el procesador en segundo plano mapee automáticamente tu huella de IA, complete los inventarios de modelos y proporcione métricas financieras y de rendimiento unificadas en toda tu empresa.

No permitas que la falta de conexión entre los esquemas, los costos ocultos asociados al consumo de tokens o los riesgos de incumplimiento no monitoreados frenen tus iniciativas de GenAI de código abierto. Explora la página central de entidades de IA para mapear de inmediato tu huella de OTel y configurar controles de evaluación automatizados que protejan los flujos de trazas en tiempo real. También puedes solicitar una demostración en vivo hoy mismo para descubrir cómo New Relic unifica la telemetría de IA de código abierto en una única vista.

Regístrate para obtener una cuenta gratuita o solicita una demostración para explorar estas capacidades, y acompáñanos en New Relic Now 2026 para obtener más información.