사람을 위해 구축된 옵저버빌리티. 모든 것을 변화시키는 AI.

소프트웨어는 변화했습니다. 이에 맞게 옵저버빌리티도 변화해야 합니다.

소프트웨어 엔지니어링의 패러다임이 바뀔 때마다 운영 팀은 운영 환경을 이해하는 방식을 새로 고민해야 했습니다. 가상화는 인프라를 추상화했고, 클라우드 컴퓨팅은 전례 없는 탄력성을 가져다 주었습니다. 컨테이너와 쿠버네티스는 배포 속도를 비약적으로 끌어올렸고, 마이크로서비스는 거대한 단일 애플리케이션을 복잡하게 얽힌 수십, 수백 개의 서비스로 완전히 변화시켰습니다. 이러한 기술 발전은 각 단계마다 막대한 비즈니스 가치를 안겨주었지만, 한편으로는 운영 환경을 더욱 동적이고 분산된 형태로 만들었으며, 그만큼 시스템을 이해하고 파악하기는 훨씬 더 어렵게 만들었습니다.

더불어 옵저버빌리티도 진화했습니다. 운영 데이터를 수집하는 방법으로 시작되었던 이 기술은 점차 현대 소프트웨어 엔지니어링을 정의하는 핵심 분야 중 하나로 자리를 잡았습니다. 메트릭은 고객이 알아채기 전에 팀이 성능 추세를 파악할 수 있도록 도왔습니다. 로그는 애플리케이션이 실제로 수행하는 작업을 보여주었으며, 분산 추적은 점점 더 복잡해지는 아키텍처 전반에서 요청들을 연결했습니다. 이러한 기능들이 결합되어 엔지니어링 조직은 이전에는 불가능했던 새로운 역량을 갖추게 되었습니다. 고도로 분산된 시스템을 확신을 갖고 운영할 수 있을 만큼 명확하게 관찰할 수 있게 된 것입니다.

그러나 이렇게 변화무쌍한 진화 과정 속에서도 한 가지 가정은 일관되게 유지되었습니다. 옵저버빌리티는 사람들이 시스템을 이해하도록 돕기 위해 존재한다는 것입니다. 엔지니어는 텔레메트리를 수집하고, 신호를 연관시키며, 인시던트를 조사하고, 궁극적으로 어떤 조치를 취할지 결정했습니다. 환경이 고도화됨에 따라 옵저버빌리티 플랫폼 역시 더욱 고도화되었습니다. 더 많은 데이터를 수집하고 더 많은 신호를 연결하여 문제를 조사하는 데 걸리는 시간이 단축되었습니다. 그러나 이러한 운영 정보를 사용하는 것은 여전히 사람이었습니다.

AI는 이러한 전제를 바꿉니다. AI는 실험 단계를 넘어 소프트웨어 배포와 운영에 적극적으로 관여하고 있습니다. 개발자는 코드를 생성할 때 AI에 의존하고, 플랫폼 팀은 인프라를 최적화하는 데 AI를 사용하며, 운영 팀은 지능형 시스템이 인시던트를 조사하고, 이상 징후를 설명하며, 가능한 대응 방안을 평가하고, 반복적인 운영 작업을 지원해 주길 기대합니다. 이제 논의의 중심은 'AI가 도움이 될 수 있는가'가 아니라, 'AI가 어떤 분야에 어떤 방식으로 참여해야 하는가'로 옮겨가고 있습니다.

처음으로 옵저버빌리티는 서로 판이하게 다른 두 대상의 요구를 동시에 충족해야 하는 과제를 안게 되었습니다. 엔지니어가 운영 환경을 이해할 수 있도록 계속 지원하는 동시에, 지능형 시스템(AI)이 동일한 운영 환경을 효과적으로 추론하는 데 필요한 운영 컨텍스트까지 제공해야 합니다. 인간과 AI는 동일한 운영 현실에서 각기 다른 강점을 발휘하는 협력자가 되어가고 있습니다.

이로 인해 옵저버빌리티의 용도도 바뀌었습니다. 다가올 새로운 시대에는 얼마나 많은 텔레메트리를 수집하는지가 아니라, 수집된 텔레메트리를 운영 환경에 대한 신뢰할 수 있는 공통된 이해로 효과적으로 전환할 수 있는지가 관건이 될 것입니다.

가시성이 최종 목표였던 적은 없습니다.

새벽 2시 17분에 발생한 상황을 가정해보겠습니다.

글로벌 유통사의 결제 서비스에 장애가 발생했습니다. 고객 트랜잭션이 감소하고, 분 단위로 수익 손실이 발생하며, 여러 팀의 엔지니어들이 인시던트 대응에 나섰습니다. 곧이어 AI 시스템도 이들과 함께 문제 해결에 참여합니다. 한 시스템은 이번 운영 중단과 관련된 최근 배포를 식별하고, 다른 시스템은 그날 일찍 변경된 업스트림의 종속성을 찾아냅니다. 그동안 대시보드는 환경 곳곳에서 메트릭, 트레이스, 로그, 알림 및 인프라 텔레메트리를 계속해서 스트리밍합니다.

이러한 신호 중 어느 것도 완전히 틀렸다고 할 수는 없습니다. 사실 거의 모든 권장 사항은 유효한 운영 데이터로 뒷받침되기 때문입니다. 그럼에도 불구하고 인시던트 대응을 이끄는 담당자는 복잡한 인시던트를 어렵게 만드는, '이러한 요소들이 어떻게 서로 연결되는가?'를 밝혀야 하는 문제에 봉착하게 됩니다.

조직이 전통적으로 옵저버빌리티를 생각해온 방식에 한계가 있음을 보여주는 대목입니다. 엔지니어링 팀은 가시성 확보에 막대한 투자를 해왔으며, 이러한 투자는 매우 성공적이었습니다. 현대의 옵저버빌리티 플랫폼은 애플리케이션 성능, 인프라 상태, 배포 및 분산 아키텍처에 대한 전례 없는 인사이트를 제공합니다. 엔지니어는 불과 몇 년 전만 해도 상상할 수 없었던 방대한 운영 정보에 액세스할 수 있습니다.

하지만 가시성이 있다고 상황을 이해할 수 있는 것은 아닙니다. 중대한 인시던트가 발생하는 경우 “데이터가 어디에 있나?”라는 질문을 하는 경우는 거의 없습니다. "이 서비스에 왜 장애가 발생했는가?", "무엇이 변경되었는가?", "어떤 시스템이 영향을 받았는가?", "이 알림들은 서로 관련이 있는가?", "어떤 증거가 가장 중요한가?" 등의 질문을 합니다. 그리고 이러한 질문들에 대한 답은 단일 텔레메트리 스트림 내에 존재하지 않습니다. 운영 정보가 연결되어 그 순간에 환경이 어떻게 작동하고 있었는지에 대한 일관된 이해가 형성될 때야 비로소 그 답이 드러납니다.

과거에는 숙련된 엔지니어가 이러한 이해의 상당 부분을 직접 제공했습니다. 이들은 텔레메트리를 아키텍처에 대한 지식, 과거의 인시던트, 팀원과의 대화, 소유권 정보 및 수년간의 운영 경험과 결합하여 머릿속에 운영 환경에 대한 모델을 구축했습니다. 그러나 AI는 축적된 직관이 없습니다. 활용 가능한 운영 컨텍스트를 바탕으로 추론할 뿐입니다. 운영 컨텍스트가 단편적이거나, 불완전하거나, 일관성이 없는 경우, 아무리 정교한 AI라도 불완전하게 표현된 현실을 바탕으로 추론할 수밖에 없습니다.

따라서 운영 데이터를 수집하는 것이 아니라, 엔지니어와 AI가 함께 믿고 활용할 수 있는 신뢰할 수 있는 운영에 대한 이해를 구축하는 것이 도전 과제입니다.

텔레메트리에서 신뢰할 수 있는 운영 인텔리전스

옵저버빌리티의 역사에서 대부분의 경우 성공은 가시성을 기준으로 측정되었습니다. 모든 세대의 툴들은 팀이 더 많은 운영 데이터를 수집하고, 신호를 더 효과적으로 상호 연관시키며, 인시던트를 조사하는 데 필요한 시간을 단축하도록 도왔습니다. 이러한 혁신은 여전히 필요하지만, 지금까지 가시성이 궁극적인 목표였던 적은 없습니다. 진정한 목표는 항상 이해를 하는 것이었습니다.

엔지니어가 텔레메트리를 보기 위해 대시보드를 열지는 않습니다. 이러한 정보를 확인하는 이유는 질문에 대한 답을 찾기 위해서입니다. 이 서비스에 장애가 발생한 이유는 무엇인가? 무엇이 변경되었는가? 어떤 시스템이 영향을 받았는가? 이것은 독립적인 문제인가, 아니면 더 큰 문제의 일부인가? 텔레메트리가 가치 있는 이유는 이러한 질문에 답하는 데 도움이 되기 때문이지, 데이터 자체에 가치가 있지는 않습니다.

그 구분은 AI가 운영 워크플로우에 도입될 때 훨씬 더 중요해집니다. 지능형 시스템이 제공하는 모든 권장 사항은 해당 시점에 사용 가능한 컨텍스트를 기반으로 합니다. 텔레메트리가 서비스 소유권, 배포 기록, 토폴로지, 종속성, 과거 운영 지식과 단절되어 있다면, AI는 전체 상황 중 일부만으로 추론할 수밖에 없습니다. 모델이 더 뛰어나다고 해서 누락된 운영 컨텍스트 문제를 해결할 수는 없습니다.

옵저버빌리티의 차기 혁신이 단순히 텔레메트리 수집 기술이 발전하는 것에서 그치지 않는 이유입니다. 차기 혁신은 운영 데이터를 신뢰할 수 있는 운영 인텔리전스로 전환하는 것, 즉 신호, 관계, 변경 사항, 소유권, 과거의 컨텍스트를 연결하여 지속적으로 변화하는 운영 환경을 정확하게 보여 주는 것입니다.

텔레메트리는 무슨 일이 일어났는지 알려줍니다. 신뢰할 수 있는 운영 인텔리전스는 그것이 무엇을 의미하는지 설명하는 데 도움을 줍니다.

더 중요한 것은, 엔지니어와 AI 모두가 조사, 권장 사항 및 의사 결정의 기반으로 활용할 수 있는 운영에 대한 공통된 이해를 구축해 준다는 점입니다. 이러한 공통된 이해는 운영의 경제성과 효율성을 근본적으로 변화시킬 수 있습니다. 팀은 인시던트를 재구성하는 데 소요되는 시간을 줄이고, 특정인의 '노하우'에 대한 의존도를 낮추며, 부서 간에 더 효과적으로 협업하고, 문제를 더 빠르게 조사할 수 있습니다. 사람과 지능형 시스템 모두 동일한 운영 기반에서 추론하기 때문에 AI의 권장 사항은 더욱 일관되고 설명 가능해지며, 엔지니어가 더 쉽게 검증할 수 있습니다. 궁극적으로 이는 조직이 안정성을 향상하고, 운영 위험을 줄이며, 소프트웨어에 의존하는 고객 경험과 비즈니스 성과를 보호하는 데 도움이 될 수 있습니다.

이것이 바로 뉴렐릭 그라운드 트루스(Ground Truth)가 해결해주는 과제입니다.

그라운드 트루스는 텔레메트리를 운영을 이해하는 데 필요한 컨텍스트와 연결하여 신뢰할 수 있는 운영 인텔리전스를 구축하도록 설계되었습니다. 그라운드 트루스는 메트릭, 로그, 트레이스, 배포, 종속성, 토폴로지, 소유권 및 운영 지식을 독립적인 정보 출처로 취급하는 것이 아니라, 컨텍스트와 증거를 결합하여 엔지니어와 AI 시스템이 환경에 대한 보다 일관된 이해를 바탕으로 작업을 시작할 수 있도록 합니다.

이는 팀이 옵저버빌리티를 활용하는 방식을 변화시킵니다. 팀은 조사를 할 때마다 여러 툴에서 정보를 수집하고 머릿속으로 환경을 재구성하는 데 귀중한 시간을 낭비하는 대신, 이미 마련된 운영 컨텍스트를 바탕으로 작업을 시작할 수 있습니다. 새로운 엔지니어는 구전 지식에만 전적으로 의존하지 않고 기존 컨텍스트를 활용할 수 있습니다. 숙련된 엔지니어는 증거를 수집하는 것이 아니라 가설을 검증하고 판단을 내리는 데 더 많은 시간을 할애할 수 있습니다. AI 시스템은 인간 운영자가 의존하는 것과 동일한, 신뢰할 수 있는 운영 기반에서 조사를 수행할 수 있습니다.

AI는 제공받는 운영 컨텍스트 만큼만 효과를 발휘할 수 있습니다. 이러한 원칙을 바탕으로 설계된 그라운드 트루스는 엔지니어와 지능형 시스템 모두가 더 큰 확신을 갖고 복잡한 환경을 조사할 수 있도록 운영에 대한 신뢰할 수 있는 이해를 제공합니다.

공유되는 이해가 형성되면 자연스럽게 또 다른 가능성이 나타납니다.

이해하는 것이 최종 목표가 될 필요는 없습니다. 이는 지능적인 조치를 위한 출발점이 될 수 있습니다.

이해가 조치로 전환되는 시점

옵저버빌리티가 활용되는 대부분의 경우, 엔지니어가 문제를 이해하는 시점에서 사실상 작업이 종료되었습니다. 인시던트를 조사하여 예상되는 원인을 파악하고 나면, 책임은 옵저버빌리티 플랫폼에서 엔지니어링 팀으로 넘어갑니다. 런북을 참조하고, 해당 분야의 전문가가 인시던트 브릿지에 참여하며, 변경 사항을 검증하고, 지원 티켓을 생성하고, 이해관계자에게 상황을 업데이트하는 과정을 거쳐, 마침내 누군가가 서비스를 복구하는 조치를 실행하는 방식입니다.

AI는 그 경계를 바꾸기 시작합니다. 엔지니어와 지능형 시스템이 신뢰할 수 있는 운영에 대한 이해를 공유할 때, AI는 대시보드를 요약하거나 이상 징후를 강조하는 것 이상의 역할을 수행할 수 있습니다. 이는 문맥에 맞게 조사를 지원하고, 특정 상황이 중요한 이유를 설명하며, 향후 가능한 경로를 평가하고, 엔지니어링 팀이 후속 운영 작업을 조율할 수 있도록 지원합니다. 이러한 기회는 운영에서 엔지니어를 배제하기 위한 것이 아닙니다. 문제를 파악하는 것과 확신을 가지고 대응하는 것 사이의 간극을 줄이기 위한 것입니다.

이 부분에서 뉴렐릭 오토파일럿(Autopilot)이 더 넓은 자율 운영이라는 비전을 지원합니다. 오토파일럿은 팀이 운영 정보를 조사 및 추론하고, 관련 에이전틱 기능을 워크플로우에 도입하며, 엔지니어가 다음 단계를 결정할 때 지원하도록 설계되었습니다. 그라운드 트루스와 오토파일럿은 서로 다르지만 상호 보완적인 역할을 합니다. 신뢰할 수 있는 운영 인텔리전스는 상황 파악을 위한 더 강력한 기반을 제공하는 반면, 에이전틱 기능은 팀이 운영 작업에 인텔리전스를 적용할 수 있도록 돕습니다.

사람의 판단은 여전히 필요합니다. 운영 시스템은 기술적 고려 사항, 비즈니스 우선 순위, 규정 준수 요구 사항, 보안 정책 및 고객에 대한 약속을 바탕으로 형성됩니다. AI는 그러한 의사 결정을 우회하는 것이 아니라 강화해야 합니다. 엔지니어는 결과에 대한 책임을 지며, 지능형 시스템은 속도, 규모, 일관성 및 운영 컨텍스트를 제공합니다.

조직이 자율 운영으로 나아감에 따라 이러한 원칙은 점점 더 중요해집니다. 목표는 통제되지 않은 자동화가 아닙니다. 이는 지능형 시스템이 운영에 더 깊이 관여함에 따라 조직이 AI가 참여할 영역, 사람의 검토나 승인이 필요한 영역, 거버넌스 및 책임이 유지되는 방식을 결정할 수 있는 운영 모델입니다.

옵저버빌리티가 향해가는 미래

옵저버빌리티는 소프트웨어 엔지니어링의 변화를 반영해 왔습니다. 가상화, 클라우드 컴퓨팅, 마이크로서비스 및 쿠버네티스는 각기 새로운 형태의 복잡성을 도입했으며, 옵저버빌리티는 엔지니어링 팀이 이를 이해할 수 있도록 진화했습니다.

AI는 근본적으로 다른 변화를 가져옵니다. 관찰 대상 시스템 뿐만 아니라 운영 정보의 소비자까지 변화시키기 때문입니다. 이제 옵저버빌리티는 인간 엔지니어와 조사 및 추론을 수행하고 운영 의사 결정에 점점 더 많이 참여하는 지능형 시스템 모두를 지원해야만 하게 되었습니다.

이는 최신 엔지니어링 조직 내에서 옵저버빌리티가 수행하는 역할을 변화시킵니다. 차세대 기술은 텔레메트리를 얼마나 효과적으로 수집하고 시스템 동작을 시각화 하는지만으로 정의되지 않을 것입니다. 물론 이러한 기능은 여전히 필요하겠지만, 이제 그것 만으로는 충분하지 않습니다. 옵저버빌리티는 사람과 AI가 동일하게 신뢰할 수 있는 운영 현실을 통해 운영 환경을 이해할 수 있도록 지원하는 운영 인텔리전스 계층으로 진화하고 있습니다.

이러한 공유된 이해는 인시던트 대응을 넘어 훨씬 더 많은 기회를 만들어 줍니다. 신입 엔지니어는 선배들의 지식에만 의존하는 것이 아니라 기존 운영 컨텍스트를 활용할 수 있습니다. 개발, 플랫폼 엔지니어링, 보안 및 운영 팀은 운영 환경에 대한 보다 일관된 그림을 바탕으로 협업할 수 있습니다. AI 권장 사항은 신뢰할 수 있는 운영 기반으로 추적할 수 있기 때문에 이해하고 검증하기가 더 쉬워집니다. 엔지니어가 자동화에 통제권을 넘겨주기 때문이 아니라, 사람과 AI가 환경에 대한 공유된 이해를 바탕으로 시작하기 때문에 확신도 커집니다.

이것이 바로 뉴렐릭이 생각하는 자율 운영의 미래입니다.

자율 운영이 사람 없이 운영되는 조직을 의미하지는 않습니다. 엔지니어들이 운영 상황을 재구성하는 데 들이는 시간을 줄이고, 판단을 내리며, 위험을 관리하고, 안정성을 개선하며, 더 나은 고객 경험을 제공하는 데 더 많은 시간을 할애하는 과정에서, 인간의 전문성은 더욱 중요해집니다. AI는 속도, 규모 및 일관성을 제공합니다. 사람은 경험, 책임, 거버넌스 및 전략적 의사 결정을 제공합니다. 이 둘은 상호 협력을 통해 어느 한쪽이 단독으로는 달성할 수 없는 운영 모델을 구축합니다.

서두에서 언급했던 새벽 2시 17분의 인시던트 상황을 다시 떠올려 보십시오. 고객이 영향을 받고 있고, 엔지니어는 압박감 속에서 어려운 결정을 내려야 한다는 사실은 변함이 없습니다. 달라진 것은 단순히 AI의 지능만이 아닙니다. 대응하는 모든 사람이 공유하는 이해 수준이 달라집니다. 엔지니어와 AI는 단편적인 텔레메트리 데이터를 모아 운영 환경의 전체 그림을 구성하는 것부터 시작하는 대신, 공통된 운영 기반에서 출발하여 그에 대한 이해를 바탕으로 증거를 평가하고 더 큰 확신을 가지고 결정을 내릴 수 있습니다.

이것이 바로 AI가 옵저버빌리티를 재정의하고 있다고 말하는 이유입니다.

옵저버빌리티의 미래는 단순히 더 많은 데이터를 수집하거나 더 많은 지능형 시스템을 배포하는 것이 아닙니다. 사람과 AI가 더 큰 확신을 갖고 조사, 추론 및 협력할 수 있도록 운영에 대한 신뢰할 수 있는 이해를 확보하는 것입니다.

이것이 바로 자율 운영의 기반입니다.