La dualidad de la observabilidad impulsada por IA

A medida que el ritmo de la innovación en IA continúa acelerando, el enfoque más reciente se centra en la orquestación y los flujos de trabajo de los agentes. El paso a la IA agéntica es una evolución natural de los casos de uso de LLM de hace un año, y la IA agéntica abre nuevas e interesantes formas de aumentar la productividad en diversos dominios, desde la respuesta a incidentes hasta la investigación y el desarrollo de software. Pero estas nuevas capacidades conllevan un aumento sustancial en el grado de complejidad. Resulta cada vez más difícil monitorizar, depurar y gobernar los sistemas agénticos, en comparación con los sistemas relativamente lineales de los LLM. Esto crea una doble oportunidad que transforma por completo nuestra forma de pensar sobre la observabilidad.

Se están produciendo simultáneamente dos revoluciones que se complementan entre sí:

1. Observabilidad para la IA agéntica: proporcionar la visibilidad necesaria para facilitar la adopción de la IA haciendo que los sistemas de IA de caja negra sean transparentes y depurables.
2. IA para la observabilidad: emplear información inteligente y acciones automatizadas en flujos de trabajo complejos para transformar el monitoreo reactivo tradicional en operaciones proactivas y predictivas.

Observabilidad para la IA: aportar transparencia a las cajas negras

Consideremos una aplicación moderna basada en IA donde cada interacción entre agentes implica varios de los siguientes elementos:

• Llamada de herramienta con API externas
• Transmisión de contexto entre agentes
• Ramas de procesamiento en paralelo
• Manejo de errores y lógica de reintento
• Decisiones de optimización del rendimiento

El monitoreo del rendimiento de aplicaciones (APM) tradicional no es capaz de proporcionar transparencia en esta compleja red de interacciones. Es posible que puedas ver la duración de las solicitudes HTTP, pero que te pierdas por completo el proceso de toma de decisiones de la IA. 

Para aprovechar todo el potencial de la IA, se necesita una visibilidad profunda de estas interacciones a nivel de agente. Al mismo tiempo, su rendimiento dentro de la entidad APM también es necesario para identificar y resolver rápidamente problemas específicos de sus componentes de IA. Para avanzar en la adopción de IA y no quedar atrás frente a tus competidores, necesitas reducir —y finalmente eliminar— las incógnitas sobre cómo están funcionando estos sistemas y por qué.

Con Monitoreo de IA agéntica, ampliamos las capacidades de monitoreo de IA existentes de New Relic para proporcionar la misma visibilidad automática y detallada, pero extendiéndola a cada llamada de agente y herramienta dentro de sus colaboraciones multiagente. Obtendrás información valiosa y detallada sobre la utilización de las herramientas, el rendimiento y los errores con una vista que muestra qué agentes y herramientas se llamaron, y en qué orden, así como datos clave de rendimiento. No se requiere instrumentación manual. Esto incluirá el rastreo distribuido con spans de agentes de IA, lo que te permitirá realizar un seguimiento de cada interacción entre los agentes de IA y las herramientas a las que llaman. También resaltará los cambios sobre cómo se comunican sus componentes de IA, y todo esto estará disponible en una sola vista.

Además, estamos lanzando el filtrado de respuestas de IA, con el que puedes filtrar al instante las llamadas relacionadas con IA en tu vista del catálogo, a fin de identificar, atender y resolver problemas más rápido. Quedaron atrás los días en que había que revisar manualmente miles de logs para encontrar un prompt o respuesta problemática. Y, por supuesto, seguimos mejorando continuamente nuestro monitoreo de LLM para incluir nuevas API y protocolos, incluyendo ahora compatibilidad con ConverseAPI (la API de AWS Bedrock para crear aplicaciones de IA con LLM).

Imagina el escenario en el que estás trabajando intensamente para adoptar la IA con rapidez y construir sistemas multiagente potentes pero complejos. ¿El problema? Estás prácticamente a ciegas. Cuando estas aplicaciones de IA fallan, hay poca o ninguna visibilidad sobre lo que salió mal, lo que pone en riesgo tus importantes inversiones en IA. Tomemos como ejemplo a Devin, un líder de ingeniería en una empresa de comercio electrónico. Su equipo está desarrollando un nuevo motor de recomendaciones con IA que es bastante complejo; en esencia es un conjunto de agentes de IA. Cada agente tiene un trabajo específico:

• Un agente encuentra productos relevantes
• Otro agente analiza las reseñas de los clientes
• Un tercer agente personaliza la recomendación final en función de las preferencias del usuario

Cuando el motor de recomendaciones proporciona a un usuario una recomendación lenta o incorrecta, la resolución de problemas se convierte para Devin y su equipo en un frustrante juego de adivinanzas. No pueden ver las complejas interacciones entre sus agentes de IA, lo que implica un análisis de la causa raíz más lento y un mayor tiempo de inactividad. El negocio corre el riesgo de perder ingresos, y el equipo de Devin tiene dificultades para innovar porque está saturado realizando tareas de depuración.

A diferencia de las herramientas en silos o APM genérico, New Relic AI Monitoring elimina las conjeturas y ofrece visibilidad completa de tus aplicaciones de IA agéntica. El monitoreo de IA de New Relic correlaciona automáticamente el rendimiento de la IA con todo tu stack. Mapea y monitorea cada agente y cada llamada a herramientas en tu sistema, para que puedas identificar al instante los cuellos de botella, detectar errores y entender exactamente cómo se están utilizando tus herramientas. De esto se trata la observabilidad diseñada para IA.

Nuestro nuevo Mapa de servicio de Agentes ofrece una visión completa de todas las interacciones entre tus agentes de IA. La Vista de trazas de IA te permite ver cada paso, incluyendo qué agentes fueron llamados, la latencia y los errores. Puedes analizar en detalle las trazas de agentes y herramientas específicas para encontrar la causa raíz de los problemas en segundos. Con el monitoreo de Autogen, puedes ver las comunicaciones entre agentes en la vista Waterfall que ya conoces. Y el inventario de IA te ofrece un único lugar para ver todos los agentes y servicios de IA que gestionas, que simplifica la gobernanza y permite a los ingenieros concentrarse rápidamente en las herramientas de las que son responsables.

Esto cambia las reglas del juego. En lugar de pasar días depurando problemas, puedes identificar y resolverlos en minutos, y volver a crear excelentes características. Al acelerar la resolución de problemas para los servicios de IA agéntica, New Relic puede ayudar a prevenir la pérdida de ingresos y a reducir los costos operativos. Esto reduce el riesgo asociado a tus inversiones en IA y permitiendo que tu empresa tome mejores decisiones basadas en resultados de IA confiables.

IA para la observabilidad: inteligencia en cada capa

Las mismas técnicas de IA que impulsan estos flujos de trabajo agénticos pueden aplicarse a la propia observabilidad, lo que permite crear sistemas inteligentes que analizan tu infraestructura como lo harían tus ingenieros, pero a la velocidad y escala de una máquina. El servidor MCP de New Relic es la solución para llevar nuestras capacidades de IA a cualquier agente de IA compatible con MCP. Deberías tener la libertad de elegir tus herramientas, no quedar atado a ellas. Por eso, a diferencia de otras soluciones vinculadas a un único agente de IA, nuestro servidor MCP está diseñado para ser completamente agnóstico a cualquier cliente de IA específico. Es un conjunto de herramientas extensible creado para funcionar con agentes compatibles con MCP, desde GitHub Copilot hasta ChatGPT o Claude: la elección es tuya.

Esto significa que puedes llevar todos tus datos de observabilidad directamente a tu herramienta de GenAI preferida y tomar acción desde tu propio flujo de trabajo. Esto te permite:

• Obtener alertas e incidentes mediante lenguaje natural
• Generar informes de inteligencia sin salir del IDE o del asistente de IA
• Analizar despliegues usando consultas conversacionales a través de múltiples herramientas

En New Relic, nuestra prioridad es acompañar a nuestros clientes en el entorno donde realmente trabajan, sin obligarlos a cambiar de contexto, de pestaña o de ventana. Estamos diseñando el servidor MCP de New Relic para habilitar una interacción fluida y estandarizada entre New Relic y el creciente ecosistema de herramientas de IA que admiten MCP. Los asistentes de IA como GitHub Copilot se han vuelto parte natural del trabajo de los desarrolladores, pero suelen operar en silos. Esto significa que los ingenieros deben cambiar de contexto hacia su herramienta de observabilidad para solucionar problemas, lo que les exige tiempo y esfuerzo adicionales. New Relic es la única plataforma que lleva la observabilidad directamente al flujo conversacional con el que los desarrolladores ya están familiarizados.

Imaginemos el caso de Amy, responsable de ingeniería en una importante empresa de redes sociales. Su equipo utiliza asistentes de IA para escribir y desplegar código más rápido. Pero cuando surge un problema en producción, sus ingenieros se ven obligados a cambiar de contexto constantemente. Tienen que salir de su asistente de IA, ingresar a herramientas de observabilidad separadas, ejecutar consultas para encontrar los datos correctos y luego volver a su código. Este flujo de trabajo fragmentado y lleno de silos de datos es lento e ineficiente, lo que disminuye la productividad y retrasa la respuesta a incidentes. En una plataforma de redes sociales donde la experiencia del usuario lo es todo, esta demora puede afectar el nivel de interacción de los usuarios y los ingresos por publicidad.

El equipo de Amy exploró otras herramientas, pero descubrió que el enfoque de Datadog para el monitoreo de MCP requería "paquetes de habilidades" manuales solo para conectarse a su IA, lo que generaba complicaciones. Dynatrace resultó demasiado restrictiva, ya que intentaba imponerles el uso de una IA propietaria en lugar de los asistentes que sus desarrolladores ya utilizan. Ninguna de las dos alternativas ofrecía el flujo de trabajo fluido y conversacional que necesitaban.

El servidor MCP de New Relic AI elimina estas complicaciones al llevar la observabilidad directamente a los asistentes de IA que tu equipo ya utiliza. Integra New Relic AI en cualquier agente compatible con MCP, de modo que los ingenieros pueden consultar datos y obtener información dentro de su flujo de trabajo natural. Imagina a tus ingenieros preguntándole a su asistente de IA: "¿Cuál es la tasa de errores de nuestra plataforma desde el último despliegue?", y obtener una respuesta instantánea, impulsada por New Relic, sin salir de su entorno de desarrollo. De esto se trata la observabilidad a la velocidad de una conversación.

Al integrar la información valiosa de New Relic directamente en los agentes de IA, los ingenieros pueden diagnosticar y resolver problemas en un flujo de trabajo único y unificado, lo que genera ganancias de productividad inmediatas. Los ingenieros pueden usar el lenguaje natural para consultar instantáneamente los datos de telemetría, analizar los impactos del despliegue y generar reportes de alertas, lo que reduce significativamente el tiempo medio de resolución (MTTR). Esto hace que los datos de observabilidad sean accesibles para todos los miembros del equipo, independientemente de su nivel de habilidad con los lenguajes de consulta. Si pueden formular una pregunta, entonces pueden obtener información valiosa de New Relic, lo que les permitirá tomar decisiones más inteligentes y rápidas en todos los ámbitos.

Al acelerar la respuesta a incidentes e integrar la observabilidad directamente en el ciclo de vida de desarrollo de software (SDLC), New Relic mejora la productividad de los desarrolladores y protege la experiencia del usuario. Esta integración fluida optimiza los flujos de trabajo clave de Gestión de servicios de TI (ITSM) y Gestión de operaciones de TI (ITOM), reduce los costos operativos y permite que tu equipo innove más rápidamente.

La transformación estratégica

La observabilidad para la IA elimina las barreras para la adopción de IA al hacer que los sistemas complejos sean comprensibles y fiables. La IA para la observabilidad transforma tus operaciones: de reactivas a predictivas, de manuales a automatizadas. Juntas, crean un ciclo de retroalimentación inteligente: los sistemas de IA se vuelven más observables y fiables, mientras que las plataformas de observabilidad se vuelven más inteligentes y proactivas. Así es como New Relic refuerza la confianza que permite a nuestros clientes innovar a la velocidad que marca el software en un mundo impulsado por la IA.