La revolución de la IA responsable: cómo la certificación ISO/IEC 42001 de New Relic cambia las reglas del juego

Una oferta empresarial con la ética de la IA en mente

En línea con nuestros principios de IA, nos complace anunciar que New Relic ha obtenido la certificación ISO/IEC 42001:2023 (ISO 42001) en su rol como desarrollador y proveedor de IA. Este logro refleja nuestro compromiso con el desarrollo, el despliegue y la provisión de características de IA de manera responsable y ética. La certificación fue realizada por Schellman Compliance, LLC, el primer organismo de certificación acreditado por ANAB, con sede en Estados Unidos.

Acerca de la ISO 42001

La ISO 42001 es la primera norma mundial de sistema de gestión de inteligencia artificial (IA) y ofrece una guía valiosa para el campo de la tecnología de IA, que evoluciona rápidamente. Aborda los desafíos específicos que plantea la IA, como las consideraciones éticas, la transparencia y el aprendizaje continuo. Para las organizaciones, establece una forma estructurada de gestionar los riesgos y las oportunidades asociados con la IA, garantizando un equilibrio entre la innovación y la gobernanza.

Desarrollado por la Organización Internacional de Normalización (ISO), ISO 42001 es una norma reconocida a nivel mundial para el establecimiento y la certificación de un sistema de gestión de inteligencia artificial (AIMS).  La norma especifica los requisitos para establecer, implementar, operar, monitorear, revisar, mantener y mejorar un AIMS documentado, con el objetivo de aplicar controles adecuados y proporcionales que protejan los activos de información y brinden confianza a las partes interesadas. El cumplimiento con la norma ISO 42001 significa que una organización ha implementado un sistema para gestionar los riesgos y las oportunidades asociados con la IA y garantiza el desarrollo y el uso responsables de los sistemas de IA.

Para obtener la certificación, una empresa debe demostrar que cuenta con un enfoque sistemático y continuo para gestionar el ciclo de vida del sistema de IA. New Relic ahora es reconocida como plenamente alineada con la norma global AIMS y, además, ha establecido un programa formal para mantener la certificación.

Obtención de la certificación ISO 42001

Al completar con éxito el riguroso proceso de certificación ISO 42001, New Relic ha diferenciado su oferta empresarial de IA como servicio (AI SaaS) en el mercado.

"En el ámbito de la observabilidad, las organizaciones dependen de una IA precisa y responsable para mantener en funcionamiento los sistemas críticos", afirmó Danny Manimbo, líder de Prácticas de IA e ISO e Schellman. "Al obtener la certificación ISO 42001, la primera norma internacional del mundo para sistemas de gestión de IA responsable, New Relic ha demostrado que la gobernanza responsable está integrada en la analítica que impulsa su plataforma de observabilidad. Este logro brinda a los clientes una garantía significativa de que la innovación basada en datos puede avanzar sin comprometer la rendición de cuentas".

"Fue muy positivo colaborar con New Relic en su certificación ISO 42001", afirmó Brett Hayes, gerente sénior en Schellman. "Su equipo fue notablemente proactivo y estuvo bien preparado, anticipando posibles obstáculos y desafíos con suficiente antelación, y colaborando en la definición de soluciones. La comunicación de New Relic fue constante y transparente, lo que garantizó la alineación en cada etapa del proceso. Por encima de todo, su alto nivel de involucramiento y compromiso con el éxito del proyecto se hizo evidente en cada interacción, lo que se tradujo en la obtención exitosa de la certificación ISO 42001".

Los detalles de nuestra certificación AIMS están disponibles públicamente en el catálogo de certificados ISO de Schellman.

Nuestro compromiso con una gobernanza de IA responsable y ética

La certificación ISO 42001 de New Relic refleja nuestra dedicación a:

• Privacidad, seguridad y protección: proteger los datos de los clientes es fundamental. Nuestros sistemas de IA están diseñados teniendo en cuenta medidas sólidas de privacidad y seguridad en cada etapa, garantizando la protección de datos y ofreciendo la tecnología más avanzada.  Implementamos medidas para ayudar a reducir los riesgos para las personas o los bienes.
• Equidad y no discriminación: nos comprometemos a desarrollar sistemas de IA que no generen efectos desiguales o adversos a las personas, grupos y sociedades. Nuestros sistemas de IA están diseñados para minimizar los sesgos y producir recomendaciones y resultados imparciales.
• Transparencia y explicabilidad: buscamos ofrecer claridad en el funcionamiento de nuestros sistemas de IA. Siempre que sea posible, proporcionaremos explicaciones sobre la información y las decisiones impulsadas por la IA, de modo que nuestros clientes puedan comprender y confiar en las recomendaciones de nuestra plataforma.
• Calidad y fiabilidad de los datos: supervisamos la precisión y la integridad de los datos utilizados por los sistemas de IA y monitoreamos que estos funcionen según lo esperado.
• Consideraciones ambientales: reconocemos que el uso creciente de la IA puede tener un impacto en el consumo y la producción de energía, la disponibilidad de agua y la biodiversidad. Mantenemos un firme compromiso con la reducción de las emisiones de gases de efecto invernadero. El Informe de impacto 2025 de New Relic brinda información adicional sobre este compromiso.
• Responsabilidad y gobernanza: asumimos la responsabilidad de nuestros sistemas de IA. Hemos establecido procesos internos claros y estructuras de gobernanza para garantizar el monitoreo, la evaluación y la mejora continua de nuestras tecnologías de IA.
• Diseño centrado en las personas: nuestros sistemas de IA están diseñados para ampliar las capacidades humanas, no para reemplazarlas. Priorizamos el empoderamiento de los usuarios, el aumento de la productividad y la generación de información valiosa, y aseguramos que la supervisión y el control humanos sigan siendo elementos centrales de las características potenciadas por IA.
• Impacto positivo: creemos que la IA debe ser una herramienta al servicio del bien. Nuestro objetivo es desarrollar soluciones de IA que generen beneficios tangibles para nuestros clientes, ayudándolos a alcanzar sus objetivos de negocio de una manera más efectiva.
• Alineación con la Ley de IA de la UE: nuestro programa integral de cumplimiento y gobernanza de IA incluye políticas internas, procedimientos, la implementación de procesos, recursos educativos y estructuras de gobernanza que se ajustan tanto a la norma ISO 42001 como a la Ley de IA de la UE, según corresponda. Además, New Relic se ha unido a más de 100 empresas como signataria del Pacto de IA de la UE y actualmente es la única empresa de observabilidad incluida en la lista de signatarios.