뉴렐릭 그라운드 트루스 (Ground Truth)

AI에 필요한 것은 더 많은 텔레메트리가 아니라 운영 콘텍스트입니다.

지난 10여 년 동안 옵저버빌리티는 최신 소프트웨어를 운영하는 방식을 혁신해 왔습니다. 메트릭, 이벤트, 로그 및 트레이스는 갈수록 복잡해지는 시스템에 대한 전례 없는 가시성을 제공하여, 팀이 문제를 더 빠르게 감지하고 인시던트를 더 효과적으로 조사하며 디지털 경험을 안정적으로 유지할 수 있게 해 주었습니다.

오늘날 AI는 그에 못지않게 소프트웨어 운영을 변화시키고 있습니다.

엔지니어링 팀들은 AI 어시스턴트를 사용해 인시던트를 조사하고, 시스템 동작을 설명하며, 문제 해결 단계를 권장하고, 코드를 생성하며, 운영 작업을 자동화하고 있습니다. 기능들이 자리를 잡아가면서, AI는 생산성 툴에서 소프트웨어 운영의 적극적인 관여자로 그 역할이 바뀌었습니다.

하지만 근본적인 과제는 여전히 남아 있습니다.

AI는 방대한 양의 텔레메트리에 액세스할 수 있지만, 그 데이터가 실제로 무엇을 의미하는지 이해하는 데 어려움을 겪는 경우가 많습니다. 개별적인 메트릭, 로그, 트레이스 및 이벤트는 유용한 신호를 제공하지만, 전체적인 운영 상황을 완벽하게 보여주지 못합니다. 대신 AI가 서비스, 인프라, 배포, 소유권, 인시던트 및 비즈니스 영향 간의 관계를 종합해 엔지니어가 신뢰할 수 있는 추천을 제공해야 합니다.

그 과정은 비용과 시간이 많이 소요되며 종종 일관성이 없습니다.

많은 AI 시스템은 질문을 받을 때마다 여러 툴을 반복적으로 쿼리하고, 단절된 정보를 연결하며, 동일한 운영 콘텍스트를 재구성하려고 시도합니다. 그 결과, 토큰 소비가 증가하고, 레이턴시가 길어지며, 엔지니어링 노력이 중복될 뿐만 아니라 추천을 검증하느라 상당한 인적 자원이 필요해집니다.

문제는 데이터 부족이 아닙니다.

운영 수준에 대한 이해 부족입니다.

더 많은 데이터가 더 나은 AI를 만들지 못하는 이유

최신 엔터프라이즈 소프트웨어의 아이러니는 대부분의 조직이 데이터 부족으로 어려움을 겪지 않는다는 점입니다. 오히려 넘쳐나는 데이터가 문제입니다.

모든 배포, 인프라 구성 요소, 애플리케이션 및 서비스는 메트릭, 로그, 트레이스, 이벤트, 토폴로지 정보, 종속성 데이터, 변경 내역을 끊임없이 생성합니다. 이러한 신호는 개별적으로도 매우 중요한 가치가 있지만, 하나로 모으면 거의 모든 운영 문제를 파악하는 데 필요한 정보를 얻을 수 있습니다.

문제는 AI가 이러한 정보를 완전한 운영 맥락으로 받아들이는 경우가 거의 없다는 점입니다.

AI 어시스턴트에게 다음과 같은 간단한 질문을 하는 경우를 가정해보겠습니다.

“어제 배포 이후에 왜 결제 레이턴시가 증가했지?”

답변은 아마도 옵저버빌리티 플랫폼 내 어딘가에 존재할 것입니다. 하지만 AI가 응답하려면 그 전에 배포 내역 검색, 서비스 종속성 검토, 최근 인프라 변경 사항 파악, 트레이스 상호연관, 인시던트 내역 검토, 서비스 소유권 확인, 비즈니스 영향 파악 등의 과정을 거쳐야 합니다.

추가적인 쿼리가 발생할 때마다 레이턴시가 늘어나고 토큰이 소비되며, 중요한 콘텍스트를 놓치거나 잘못 해석할 가능성도 커집니다. 조직에서 더 많은 AI 어시스턴트와 자율 에이전트를 배포하면, 모든 시스템이 동일한 작업을 상당 부분 반복하게 됩니다.

문제는 AI의 지능이 부족하다는 것이 아닙니다.

모든 AI 워크플로우가 환경에 대한 공통된 이해 없이 시작된다는 점입니다.

이것이 바로 뉴렐릭 그라운드 트루스가 해결하고자 하는 문제입니다.

뉴렐릭 그라운드 트루스는 단순히 텔레메트리를 노출하는 데 그치지 않고, 텔레메트리, 종속성, 인시던트, 변경 사항, 소유권 및 비즈니스 콘텍스트를 엔지니어와 AI 모두가 이해할 수 있는 통합 운영 모델로 지속적으로 변환합니다. 그라운드 트루스는 모든 AI 워크플로우가 콘텍스트를 처음부터 재구성하도록 강제하는 대신, 신뢰할 수 있는 운영 인텔리전스를 한 번 생성하여 AI가 작동하는 모든 곳에서 사용할 수 있도록 합니다.

그 결과, 조사 속도가 빨라지고, 추천 사항이 더 정확해지며, AI 운영 비용이 절감되고, 자율 운영을 위한 더 강력한 기반이 마련됩니다.

운영 인텔리전스의 차세대 진화

IT 운영을 둘러싼 기술의 발전은 점점 더 정교해지는 질문에 답할 수 있는 역량을 확장해 주었습니다.

기존 모니터링은 “어디에 장애가 발생했는가?”라는 질문에 답하는 데 도움이 되었습니다.

옵저버빌리티는 “왜 문제가 발생했는가?”에 대한 해답을 찾도록 지원하며 한 단계 발전했습니다.

AI는 이보다 훨씬 더 야심 찬 질문을 던집니다:

“소프트웨어가 환경을 충분히 이해한 상태에서 문제를 조사하고, 조치를 권장하며, 궁극적으로 확신을 갖고 문제를 해결할 수 있는가?”

그 질문에 답하기 위해서는 기존 옵저버빌리티 플랫폼이 제공하지 않는 무언가가 필요합니다.

운영 인텔리전스가 필요합니다.

운영 인텔리전스는 단순한 텔레메트리 수집 그 이상을 의미합니다. 애플리케이션, 인프라, 서비스, 배포, 인시던트, 소유권, 비즈니스 시스템 전반의 관계를 끊임없이 연결하여 환경이 실제 작동하는 방식에 대한 공통된 이해를 형성합니다.

노련한 엔지니어는 자연스럽게 이러한 방식으로 생각합니다. 최근 배포가 레이턴시 증가와 어떻게 연관될 수 있는지 인지하고, 어떤 다운스트림 종속성이 고객에게 영향을 미치는지 이해하며, 영향을 받는 서비스를 어느 팀이 소유하고 있는지 알고 있습니다.

AI가 조직에서 신뢰할 수 있는 권장 사항을 일관되게 제시하려면 먼저 이와 동일한 수준의 이해도를 갖춰야 합니다.

이 부분에서 뉴렐릭 그라운드 트루스가 진가를 발휘합니다.

그라운드 트루스는 모든 AI 어시스턴트가 수십 번의 API 호출과 텔레메트리 쿼리를 통해 운영 콘텍스트를 독립적으로 재구성하도록 요구하는 것이 아니라, AI 어시스턴트, 자동화 워크플로우 및 자율 운영 전반에서 공유할 수 있는 신뢰할 수 있는 운영 인텔리전스로 구성된, 재사용 가능한 계층을 제공합니다.

AI는 콘텍스트를 수집하는 데 시간을 허비하지 않고, 문제를 해결하는 데 시간을 할애할 수 있습니다.

한 번 확보한 콘텍스트를 모든 곳에서 재사용

뉴렐릭 그라운드 트루스가 AI 기반 운영의 아키텍처를 근본적으로 변화시키는 부분이 바로 여기입니다.

모든 AI 어시스턴트가 수십 개의 독립적인 텔레메트리 쿼리를 통해 운영 콘텍스트를 재구성하도록 하는 대신, 그라운드 트루스는 환경이 실제로 어떻게 작동하는지 나타내는 신뢰할 수 있는 운영 모델을 지속적으로 구축합니다.

애플리케이션, 인프라, 서비스, 배포, 인시던트, 소유권, 의존성 및 비즈니스 콘텍스트가 지속적으로 연결되어 재사용 가능한 운영 인텔리전스가 형성됩니다.

모든 AI 워크플로우는 공유되는 이해에서 시작됩니다.

AI는 정보를 먼저 수집하고 나중에 추론하는 것이 아니라, 이미 마련된 운영 콘텍스트를 바탕으로 시작합니다.

언뜻 단순해 보이는 변화는 엔지니어링 조직 전반에서 의미 있는 이점을 제공합니다.

콘텍스트가 이미 구성되어 있으므로 AI 조사가 더 빨라집니다.

권장 사항은 고립된 텔레메트리가 아닌 운영 관계에 기반하기 때문에 더욱 정확해집니다.

조직은 반복적인 텔레메트리 쿼리를 제거하고, 토큰 소비를 줄이며, AI 워크플로우 전반에서 중복 처리를 최소화하여 AI 운영 비용을 절감합니다.

무엇보다 중요한 점은 엔지니어링 팀이 일관성을 확보하게 된다는 것입니다. 모든 AI 어시스턴트, 자동화 워크플로우 및 미래의 자율 에이전트는 현실을 자체적으로 해석하지 않고, 신뢰할 수 있으며 동일한 ‘운영에 대한 이해’를 바탕으로 작동합니다.

조직이 개별적인 AI 시범 운영에서 엔터프라이즈 규모의 자율 운영으로 점차 확장하면서, 이러한 일관성은 갈수록 더 큰 가치를 지니게 됩니다.

운영 인텔리전스는 모든 AI 시스템이 독립적으로 다시 생성해야 하는 것이 아니라 공유 기반이 됩니다.

이것이 바로 뉴렐릭 그라운드 트루스가 제공하는 아키텍처의 차이점입니다.

더 나은 콘텍스트를 통한 신뢰할 수 있는 의사 결정

운영 환경에서 AI의 성공은 조직이 어떤 모델을 선택하는지에 따라 결정되지 않습니다. 그 모델에 공급되는 운영에 대한 이해 수준에 따라 결정됩니다.

텔레메트리만 확인하는 AI 어시스턴트는 증상을 식별할 수 있습니다. 신뢰할 수 있는 운영 인텔리전스를 기반으로 하는 AI 어시스턴트는 훨씬 더 높은 확신을 바탕으로 관계를 설명하고, 예상되는 원인을 파악하며, 비즈니스에 미치는 영향을 이해하고, 최선의 다음 조치를 추천할 수 있습니다.

흔히 발생하는 운영 인시던트를 생각해 보십시오.

텔레메트리는 결제 레이턴시가 증가했음을 보여줍니다.

운영 콘텍스트가 없으면 AI는 증가된 데이터베이스 레이턴시나 CPU 사용률의 급증을 식별할 수는 있지만, 문제가 발생한 이유나 다음에 수행해야 할 작업을 설명하는 데 필요한 폭넓은 이해가 부족합니다.

신뢰할 수 있는 운영 인텔리전스가 있으면, AI는 레이턴시가 증가하기 몇 분 전에 배포가 발생했음을 인식하고, 영향을 받는 다운스트림 서비스를 식별하며, 어느 엔지니어링 팀이 해당 애플리케이션을 소유하고 있는지 파악하고, 유사한 과거 인시던트를 상호 연관시키며, 배포를 롤백하는 것이 가장 가능성 높은 해결책인 이유를 설명할 수 있습니다.

두 AI 시스템 모두 동일한 텔레메트리를 분석했습니다.

하나만 운영 콘텍스트를 이해했습니다.

이러한 차이가 AI를 지능형 어시스턴트에서 신뢰할 수 있는 운영 파트너로 변화시킵니다.

자율 운영의 기반

조직은 AI 전략을 고도화하며 자연스럽게 실험에서 자동화로 이동합니다.

AI는 질문에 답하는 것에서 시작합니다.

그런 다음 수행할 조치를 제안합니다.

궁극적으로는 적절한 거버넌스와 사람의 감독 하에 워크플로우를 오케스트레이션하고 운영 작업을 실행합니다.

각 단계마다 더 높은 수준의 확신이 필요합니다.

모든 AI 워크플로우가 환경에 대한 이해를 매번 자체적으로 재구성한다면, 조직은 운영 결정을 안전하게 자동화할 수 없습니다. 신뢰는 일관성, 근거 그리고 공유된 운영 콘텍스트를 바탕으로 형성됩니다.

이것이 바로 뉴렐릭 그라운드 트루스가 자율 운영을 향한 뉴렐릭 비전의 핵심 기반이 되는 이유입니다.

그라운드 트루스는 신뢰할 수 있는 운영 모델을 지속적으로 생성하고 유지함으로써, 뉴렐릭 플랫폼 전반에서 AI 권장 사항, 자동화 및 미래의 자율 워크플로우를 지원하는 인텔리전스 계층을 제공합니다. 각각의 AI 기능이 독립적으로 텔레메트리를 수집하고 콘텍스트를 구성하는 것이 아니라, 운영 환경에 대한 공유된 이해를 바탕으로 시작합니다.

그러한 접근 방식은 단순히 AI 응답을 개선하는 것 이상의 이점을 제공합니다.

엔지니어링 팀은 권장 사항을 수동으로 검증하는 데 소요되는 시간을 줄일 수 있습니다.

AI 시스템은 운영 콘텍스트를 반복적으로 다시 구성하는 대신 재사용하여 더 적은 리소스를 소비합니다.

모든 AI 워크플로우가 동일하게 신뢰할 수 있는 운영 모델에서 작동하기 때문에 조직은 더 일관된 결과를 얻을 수 있습니다.

AI 도입이 가속화됨에 따라 이러한 효율성이 점점 더 중요해지고 있습니다. 반복적인 텔레메트리 쿼리를 줄이고, 토큰 소비를 최소화하며, 중복되는 엔지니어링 노력을 없애는 것은 단순히 성과를 향상하는 데서 그치지 않습니다. 확장성이 더 뛰어나고, 더 경제적이며, 관리하기 더 쉬운 운영 모델이 구축됩니다.

즉, 뉴렐릭 그라운드 트루스는 단순히 AI가 더 나은 결정을 내리도록 돕는 데 그치지 않습니다.

자율 운영을 가능하게 하는 신뢰할 수 있는 운영 기반을 구축합니다.

향후 전망

차세대 소프트웨어 운영의 성공은 대규모 언어 모델(LLM)이나 보유한 AI 에이전트 수에 달려 있지 않습니다.

AI 시스템이 확신을 가지고 추론, 추천, 조치를 취하는 데 필요한 운영에 대한 이해를 제공할 수 있느냐에 따라 판가름날 것입니다.

옵저버빌리티는 엔지니어가 소프트웨어를 이해하는 방식을 변화시켰습니다.

신뢰할 수 있는 운영 인텔리전스는 AI가 이를 이해하는 방식을 바꿀 것입니다.

뉴렐릭 그라운드 트루스는 텔레메트리를 재사용 가능한 운영 인텔리전스로 변환하여 옵저버빌리티와 자율 운영 사이의 연결 고리를 구축합니다. 이를 통해 AI는 정보 검색을 넘어 신뢰할 수 있고 설명 가능하며 실행 가능한 운영 인사이트를 제공할 수 있습니다.

운영의 미래는 단순히 더 많은 텔레메트리를 수집하는 것에 있지 않습니다.

AI에 텔레메트리를 확신 있는 조치로 전환할 수 있는 이해력을 제공하는 데 있습니다.

이것이 바로 뉴렐릭 그라운드 트루스의 약속입니다.