El impacto transformador de la IA generativa (GenAI) en la industria de la observabilidad

En los últimos 40 años, he visto tres tecnologías verdaderamente disruptivas: la World Wide Web a principios de los años 90, la presentación del iPhone por Steve Jobs en 2007 y ChatGPT a finales de 2022, que es actualmente la aplicación de más rápido crecimiento en la historia.

Estas tres tecnologías comparten una misma característica: son fractales de innovación ilimitada. En otras palabras, cuanto más de cerca mires y cuanto más pienses en cómo se pueden aplicar a diferentes industrias, negocios y casos de uso, mayor será el número de ideas que se generan, y las ideas parecen continuar para siempre. La innovación ilimitada genera enormes oportunidades de creación de valor, al igual que se han obtenido billones de dólares de valor para los accionistas en las décadas desde la introducción de la web y el iPhone.

El ritmo de la innovación sigue aumentando, impulsado por la misma innovación, lo que crea un círculo virtuoso de aceleración. Considerando que la world wide web tardó siete años para llegar a 100 millones de usuarios, el iPhone App Store más de dos años y ChatGPT solo dos meses.

Cuando la web y el iPhone entraron en escena, los negocios se vieron forzados a adoptar nuevas formas de interactuar con los clientes y tuvieron que invertir en sitios web y aplicaciones móviles, además de reinventar sus procesos comerciales. Esto creó oportunidades para compañías como New Relic que ayudan a todo el mundo a crear mejores aplicaciones. Y, al igual que ocurrió con la web y el iPhone, el potencial de las tecnologías de IA está llevando a las empresas a redoblar esfuerzos y actuar con rapidez para desarrollar sus estrategias en IA. New Relic está en una posición ideal para brindarles apoyo.

¿Qué es la observabilidad de la IA?

La observabilidad de la IA es la capacidad de monitorear, medir y comprender en tiempo real el comportamiento y el rendimiento de los sistemas de inteligencia artificial (IA). Es un concepto que ha cobrado relevancia a medida que los sistemas de IA se vuelven más complejos y se integran en múltiples aplicaciones y sectores. 
La capacidad de la IA para analizar y dar sentido a enormes volúmenes de datos tiene un impacto profundo en el monitoreo. La IA aplicada al monitoreo permite detectar con mayor precisión anomalías y comportamientos que pueden indicar amenazas. También puede generar predicciones a partir de datos históricos y automatizar tareas rutinarias, lo que permite a los equipos dedicar más tiempo a resolver problemas complejos. 

El monitoreo forma parte de la observabilidad. En consecuencia, el objetivo de aplicar IA a la observabilidad es ofrecer visibilidad sobre el funcionamiento interno de los modelos de IA, ayudando a desarrolladores, científicos de datos y operadores a identificar y resolver problemas, optimizar el rendimiento y garantizar la confiabilidad y la robustez de los sistemas de IA.

¿Por qué es importante la observabilidad de la IA?

La observabilidad de la IA es fundamental por varias razones, especialmente ahora que los sistemas de IA son parte integral de múltiples aplicaciones y sectores. Estas son algunas de las principales razones por las que la observabilidad de la IA resulta esencial:

Monitoreo del rendimiento y optimización

La observabilidad de la IA permite monitorear de forma continua métricas clave de rendimiento, como la precisión, la latencia y el uso de recursos. Comprender cómo funcionan los modelos de IA en escenarios reales ayuda a las organizaciones a mejorar la eficiencia y ofrecer mejores experiencias a los usuarios.

Detección de anomalías y resolución de problemas

El monitoreo en tiempo real y los logs permiten detectar rápidamente problemas o anomalías en los sistemas de IA. Gracias a los logs detallados y a las métricas, los desarrolladores y operadores pueden resolver problemas, identificar las causas raíz e implementar soluciones a tiempo. 

Mayor robustez y confiabilidad

La observabilidad de la IA contribuye a la robustez y confiabilidad de los sistemas de IA al ofrecer información valiosa sobre su comportamiento ante diversas condiciones. Esto resulta especialmente importante en entornos dinámicos, donde las distribuciones de datos pueden cambiar con el tiempo. Comprender cómo responden los modelos a las variaciones en los datos de entrada ayuda a garantizar que los sistemas de IA mantengan un rendimiento preciso y confiable.

Conformidad y gobernanza

Las características de observabilidad, como la trazabilidad y la explicabilidad, ayudan a las organizaciones a cumplir con los requisitos regulatorios y de conformidad. Poder rastrear el flujo de datos a través del sistema de IA y ofrecer explicaciones sobre las decisiones del modelo es fundamental para garantizar la transparencia y la responsabilidad, especialmente en sectores con marcos regulatorios estrictos.

Respuesta rápida a los cambios

A medida que los sistemas de IA evolucionan y se adaptan a nuevos datos, observar su comportamiento se vuelve esencial para acompañar esos cambios. La observabilidad de la IA permite a las organizaciones responder rápidamente ante variaciones en los patrones de datos, desvíos del modelo o cambios en el entorno. Esta agilidad es clave para mantener la eficacia de las aplicaciones de IA a lo largo del tiempo.

Desafíos de la observabilidad de la IA

La observabilidad de la IA presenta múltiples desafíos, entre ellos la complejidad de los datos, la distribución desigual de los datos, los sesgos y la desviación de los modelos (o su obsolescencia), entre otros.

• Complejidad de los datos: se necesita una enorme cantidad de datos para generar modelos de IA. A su vez, los sistemas de IA generan grandes volúmenes de datos de distintos tipos que deben ser analizados e interpretados para monitorear el rendimiento de la IA y anticipar posibles problemas.
• Distribución desigual de los datos: ocurre cuando los datos utilizados para la inferencia ya no reflejan los datos con los que se entrenó el modelo. .Esta discrepancia puede deberse a múltiples razones, como dependencias en los datos (por ejemplo, cambios en el comportamiento de los usuarios o tendencias estacionales) o problemas de integridad de los datos, como datos corruptos, faltantes o inconsistentes. 
• Sesgos: los sesgos en los datos de entrenamiento pueden generar resultados imprecisos. Estos sesgos pueden afectar negativamente la equidad y la precisión en las decisiones de IA derivadas de la inferencia. 
• Falta de estandarización: debido al carácter incipiente y a la rápida evolución de la IA y la observabilidad de la IA, los estándares universalmente aceptados para el seguimiento de métricas de IA tardan en establecerse. Esto dificulta la comparación entre distintos modelos y el seguimiento eficaz del progreso.
• Necesidad de integración: los equipos de ingeniería y otros departamentos suelen utilizar herramientas de IA según sus propias iniciativas o preferencias. Por eso, asegurar la compatibilidad y un flujo de datos bidireccional adecuado entre estas herramientas es fundamental para lograr un entorno cohesivo e integral, sin interrupciones operativas ni pérdida de tiempo al cambiar constantemente de herramienta. 

Estas características distinguen a los sistemas de IA, cuyo funcionamiento difiere del flujo típico de las prácticas DevOps tradicionales. Puede que las herramientas de observabilidad convencionales no estén preparadas para monitorear ni anticipar el rendimiento y la confiabilidad de estos sistemas. 

Observabilidad de la IA vs. observabilidad convencional: ¿en qué se diferencian?

La observabilidad de la IA es la capacidad de monitorear, medir y comprender en tiempo real el comportamiento y el rendimiento de los sistemas de inteligencia artificial (IA). La IA observable requiere un enfoque diferente para el monitoreo y el análisis. Las herramientas DevOps actuales han evolucionado con el tiempo mediante enfoques estandarizados para lograr una observabilidad de extremo a extremo. Las pipelines de IA necesitan el mismo nivel de observabilidad. Sin embargo, los datos de IA son bastante diferentes de los datos utilizados en la observabilidad convencional, por lo que se requieren nuevas herramientas para el monitoreo de IA. 

Los sistemas de IA generan su propio conjunto de datos observables, que van más allá de las métricas de infraestructura. Este tipo de datos permite obtener información crucial sobre diversos aspectos, como la precisión del modelo, la latencia de las predicciones y la salud de las pipelines de datos. La observabilidad de la IA debe trazar las acciones a lo largo de toda la pipeline para medir la distribución desigual de los datos, los sesgos y la obsolescencia del modelo, con el fin de anticipar posibles problemas y determinar cuándo conviene reentrenar los modelos. 

GenAI y la industria de observabilidad

GenAI hace referencia a los modelos compuestos de inteligencia artificial capaces de generar nuevos datos a partir de patrones existentes. Estos modelos pueden crear cualquier cosa desde imágenes realistas hasta texto coherente, lo que abre todo un mundo de oportunidades en una variedad de industrias. También pueden sintetizar y comprender datos de varias ordenes de magnitud a un ritmo y a una escala más eficiente que las soluciones existentes.

Con el rápido avance de la GenAI, resulta cada vez más crucial que la industria de la observabilidad se adapte y evolucione para enfrentarse a los nuevos desafíos y las nuevas oportunidades. A continuación, dos formas clave en que la IA generativa redefinirá la industria de la observabilidad.

1. La GenAI cambiará la forma en que generamos información práctica.

Como creadores del primer asistente de observabilidad con GenAI en el mercado, entendemos la necesidad de una tecnología de IA compuesta que impulse la GenAI y que sea capaz de analizar grandes volúmenes de datos de forma rápida y eficiente, lo que permite a las empresas tomar decisiones más fundamentadas. Esto permite a las empresas anticiparse a posibles cuellos de botella y mejorar sus sistemas de software para obtener un mejor rendimiento.

La IA generativa también puede ayudar a automatizar las tareas repetitivas y optimizar los flujos de trabajo, lo que permite simplificar los procesos de observabilidad y ahorrar tiempo y recursos valiosos.

La GenAI puede simplificar radicalmente el acceso a un análisis en profundidad, eliminando la necesidad de contar con conocimientos expertos en interfaces de consulta sofisticadas y democratizando así el poder de la observabilidad para todos los desarrolladores de aplicaciones, ingenieros SRE, gerentes de producto, ingenieros de calidad, y hasta líderes de negocio y ejecutivos de alto nivel.

En colaboración con la GenAI, New Relic ofrece potentes integraciones agénticas que conforman un verdadero sistema de inteligencia, llevando información valiosa de observabilidad y automatización directamente a las herramientas e interfaces preferidas por los usuarios. Por ejemplo, la integración agéntica de New Relic con ServiceNow va más allá de una simple consulta por API: proporciona información profunda y crucial para el negocio, además de recomendaciones inteligentes dentro de los entornos y flujos de trabajo que los clientes de ServiceNow ya utilizan. Las empresas que adoptan conjuntamente New Relic y ServiceNow pueden automatizar flujos de trabajo empresariales, maximizar la disponibilidad operativa y tomar decisiones más acertadas, basadas en información valiosa y en tiempo real.

New Relic AI, nuestro asistente de GenAI integrado en la plataforma, trabaja junto con ServiceNow para identificar, priorizar y hacer frente tanto al impacto como la causa raíz de los problemas en todo tu entorno digital. New Relic incorpora datos de producción en tiempo real —como errores, logs, trazas, vulnerabilidades de seguridad y alertas— directamente en las experiencias y flujos de trabajo de ServiceNow. Toda la información y los análisis se presentan directamente dentro de las interfaces de ServiceNow en lenguaje natural, lo que elimina la necesidad de cambiar de herramienta, facilita el acceso para cualquier usuario y acelera la resolución de incidencias. New Relic y ServiceNow ofrecen a los usuarios informes de inteligencia de alertas que incluyen análisis del impacto y teorías sobre causas probables, basadas en un análisis profundo de la salud de una aplicación. Los usuarios también pueden consultar servicios específicos, hosts y componentes del sistema para obtener información valiosa sobre el rendimiento basada en datos actuales, y compararla con tendencias históricas y buenas prácticas.

La integración agéntica de New Relic con ServiceNow permite a las empresas actuales transformar datos críticos para el negocio en información valiosa. La IA agéntica de primer nivel incorpora la observabilidad inteligente en Now Assist, lo que da lugar a:

• Decisiones más inteligentes: ofrece información integrada y práctica a partir de todos los datos de TI y del negocio
• Mayor eficiencia: automatiza tareas y procesos complejos
• Colaboración inteligente: consolida y prioriza equipos, herramientas e interfaces 

Al integrar estas capacidades de IA en nuestra plataforma de observabilidad inteligente, ayudamos a las empresas a optimizar sus sistemas de software y a reducir el tiempo dedicado al diagnóstico y la resolución de problemas.

2. Las empresas tendrán que desarrollar sus propias estrategias de IA para seguir siendo competitivas.

Así como Internet y los teléfonos inteligentes han dado forma a las estrategias comerciales modernas, la IA generativa pronto se convertirá en un componente integral del plan de crecimiento de todas las compañías, y las organizaciones tendrán que adaptarse e innovar para seguir siendo competitivas en esta nueva era de la tecnología impulsada por IA, o correr el riesgo de quedar rezagadas.

A medida que las empresas se apresuran a implementar capacidades de IA generativas, también tienen que invertir en productos de observabilidad para poder mantener y monitorear estas nuevas capacidades. La ingeniería rápida, los grandes modelos de lenguaje competidores, el ajuste preciso y los bucles de retroalimentación son todos componentes esenciales para proporcionar una experiencia excepcional a los usuarios. Cada uno de estos avances también impulsará la demanda de soluciones de observabilidad avanzadas que respondan a los desafíos únicos que plantean las tecnologías impulsadas por IA.

Cómo New Relic transforma la observabilidad de la IA

A diferencia de las aplicaciones tradicionales, la observabilidad de la IA exige visibilidad en un stack tecnológico mucho más amplio:

• Infraestructura: monitoreo de recursos de cómputo especializados (CPU, GPU, TPU) en entornos potencialmente distribuidos.
• Datos: seguimiento de la salud y del rendimiento de diversos sistemas de almacenamiento, incluidas bases de datos vectoriales para modelos de IA.
• Modelo: observación del rendimiento del modelo, su desviación, sesgos y nivel de explicabilidad.
• Orquestación: monitoreo del despliegue y escalado de flujos de trabajo de IA y del ciclo de vida del modelo.
• Aplicación: análisis del rendimiento tradicional junto con las interacciones específicas de la IA y su impacto.

Lo más importante es que la observabilidad de la IA no se limita a las métricas estándar, sino que incluye indicadores críticos de precisión, seguridad y confiabilidad, específicos de las aplicaciones impulsadas por IA. Enfrentar estos desafíos es clave para el futuro de la IA.

El monitoreo de IA de New Relic ofrece una visibilidad completa y de extremo a extremo en todo tu stack de aplicaciones de IA, para optimizar el rendimiento, la calidad y los costos. Entre las capacidades clave se incluyen:

• Configuración rápida y sencilla con instrumentación automática
• Depuración ágil gracias a la visibilidad completa del stack de IA 
• Trazabilidad de extremo a extremo para comprender todo el ciclo de vida de las interacciones de IA
• Comparación del rendimiento y los costos de distintos modelos para elegir el más adecuado
• Más de 50 integraciones en todo el ecosistema de IA

Esta solución ofrece a los ingenieros SRE y a los ingenieros de datos de IA visibilidad e información valiosa de todo el stack de IA, para que puedan desarrollar y operar aplicaciones de IA seguras, confiables y responsables con total confianza.

Acoger la innovación y prepararse para el cambio en la era de la IA 

En este momento todas las industrias están siendo transformadas por el poder de la IA generativa. Los gobiernos se están dando cuenta, el capital de riesgo está financiando la innovación de IA y una interfaz de lenguaje natural totalmente nueva está redefiniendo nuestra relación con las máquinas. Aparecerán startups que van a reinventar lo que se puede hacer con la IA generativa y su evolución, y van a alterar a los líderes del mercado que se enfrentarán a decisiones difíciles sobre la sustentabilidad de sus modelos comerciales actuales. 

A medida que adoptamos esta nueva ola de innovación, es imprescindible que las empresas de observabilidad se mantengan al frente de este giro tecnológico y ayuden a impulsar el crecimiento y el cambio mientras esta transformación digital acelera todas las industrias. Los que dominen su implementación se convertirán en los nuevos líderes del mercado, y los que se resistan se quedarán a la zaga. Eso llevará a una gran reorganización en los próximos años, y los enfoques impulsados por IA determinarán la nueva clasificación.

El poder transformador de la IA generativa es innegable, y su potencial para redefinir la observabilidad, especialmente cuando se combina con otras tecnologías líderes del sector, es inmenso. Las empresas de observabilidad ingieren grandes cantidades de datos y proporcionan analítica, reportes y alertas para ayudar a sus clientes a identificar patrones, anomalías y predicciones a partir de esos datos. Los modelos de IA están diseñados para hacer eso mejor que los seres humanos, y los motores detrás de esos modelos y los modelos en sí se están volviendo exponencialmente más rápidos y más potentes. Es inevitable: la inteligencia artificial desempeñara una función vital en la observabilidad, y los clientes van a exigir una funcionalidad que solo se puede conseguir con las soluciones de observabilidad impulsadas por IA. Mediante la integración de capacidades de IA en nuestras ofertas y el desarrollo de soluciones de observabilidad hechas a la medida, esperamos llevar la observabilidad a una nueva fase y ampliar su alcance y su importancia en el ciclo de vida del desarrollo de software.

La IA generativa ya está transformando los negocios, la cultura, la creatividad y las comunicaciones. Está llegando a todos los aspectos de nuestras vidas. A medida que lo hace, también está transformando la industria de la observabilidad. Si adoptamos esta tecnología y su enorme potencial, podemos fomentar un mundo más conectado, más eficiente y más innovador para todos.