자율 운영을 실현하는 뉴렐릭 오토파일럿(Autopilot)

현대의 소프트웨어 시스템은 그 어느 때보다 많은 운영 데이터를 생성합니다. 고객의 모든 상호작용은 메트릭, 이벤트, 로그, 트레이스, 배포 기록, 인프라 변경 사항, 서비스 관계 등의 데이터 흐름을 지속적으로 생성합니다. 엔지니어링 팀은 시스템이 어떻게 작동하는지에 대해 전례 없는 가시성을 갖추었습니다.

하지만 운영에 인시던트가 발생하는 경우, 대부분의 조직은 여전히 수년 전에 사용하던 것과 동일한 수동 조사 프로세스에 의존하고 있습니다.

무슨 일이 발생했는지 파악하고 서비스 복구 방법을 확실하게 결정하려면, 먼저 여러 대시보드에서 증거를 수집하고, 최근 배포 내역을 비교하고, 서비스 종속성을 검토하고, 과거 인시던트를 검색하고, 소유권을 파악하여, 여러 팀들과 협업합니다.

텔레메트리 수집은 더 이상 어려운 과제가 아닙니다.

진정한 과제는 운영 데이터를 확신을 지원하는 결정으로 변환하는 것입니다.

인공지능은 엔지니어가 인시던트를 이해하도록 돕는다는 측면에서 의미 있는 진전을 이루었습니다. 대규모 언어 모델(LLM)은 그 어느 때보다 빠르게 알림을 요약하고, 텔레메트리를 설명하며, 운영 관련 질문에 답할 수 있게 되었습니다.

하지만 문제를 이해하는 것은 해결로 향한 한 걸음에 불과합니다.

운영 환경에서는 지속적인 추론이 필요합니다. 엔지니어는 변화하는 상황을 평가하고, 가설을 검증하며, 비즈니스 영향을 파악하고, 해결 방안을 비교 분석하여 고객의 불편을 최소화하면서 가장 안전한 조치를 실행해야 합니다.

AI 어시스턴트만으로는 안되는 일입니다.

지속적으로 발전하는 운영 콘텍스트를 활용해 문제를 조사하고, 추론하며, 해결책을 추천하고, 조치를 조율할 수 있는 운영 시스템이 필요합니다.

이것이 바로 옵저버빌리티의 다음 진화 단계입니다.

옵저버빌리티는 무슨 일이 일어났는지 알려줍니다.

자율 운영은 다음에 수행할 작업을 결정하는 데 도움을 줍니다.

뉴렐릭 오토파일럿(Autopilot)은 이러한 간극을 메우기 위해 개발되었습니다.

뉴렐릭 오토파일럿은 단순히 프롬프트에 응답하는 것을 넘어, 뉴렐릭 플랫폼 전체에서 수집된 텔레메트리, 토폴로지, 배포, 서비스 관계, 과거 인시던트, 소유권 및 비즈니스 콘텍스트 전반에 걸쳐 지속적으로 추론합니다. 운영 측면에서 환경에 대한 이해를 바탕으로, 증거가 뒷받침되는 조치를 권장하며, 사람의 감독을 유지하면서 엔지니어가 인시던트를 더 빠르게 해결할 수 있도록 지원합니다.

조직은 뉴렐릭 그라운드 트루스(New Relic Ground Truth)를 통해 운영에 대한 이해 수준을 더욱 높일 수 있습니다. 기업의 운영 지식을 신뢰할 수 있는 운영 인텔리전스로 지속적으로 체계화해주는 그라운드 트루스는 오토파일럿의 가치를 실현하는 데 반드시 필요한 것은 아니지만 오토파일럿이 운영을 이해하는 데 도움을 줍니다.

이 두 가지 기능을 통해 엔지니어링 팀은 콘텍스트를 파악하는 데 드는 시간을 줄이고, 안정적인 소프트웨어를 제공하는 데 더 많은 시간을 할애할 수 있습니다.

조사에서 지능형 조치까지

운영 분야에서 AI가 제공하는 가장 큰 기회는 팀의 속도를 늦추는 반복적인 조사 작업이 사라진다는 데 있습니다.

모든 운영 인시던트의 경우, 문제 해결을 시작하기 전에 팀에서 콘텍스트를 수집하고, 변경 사항을 검토하고, 의존성을 파악하고, 소유권을 결정하고, 비즈니스 영향을 평가하고, 여러 툴들을 조율해야 합니다.

이러한 활동은 필수적이지만 엔지니어의 귀중한 시간을 소모하며 매년 수천 건의 인시던트에서 반복됩니다.

뉴렐릭 오토파일럿은 지속적으로 증거를 수집하고, 운영 콘텍스트 전반에서 추론하며, 환경의 현재 상태를 기반으로 최적의 다음 조치를 추천함으로써 이러한 조사 프로세스를 자동화할 수 있도록 지원합니다.

조직이 차츰 확신을 갖게 되면, 이러한 추천들은 적절한 작업들이 자동화되고 엔지니어는 감독, 정책 및 전략적 의사 결정에 대한 책임을 유지하는 체계적인 운영 워크플로우로 진화할 수 있습니다.

목표는 사람 없이 작동하는 자율 시스템이 아닙니다.

일상적인 운영 작업을 점점 더 지능적이고 반복 가능하며 효율적으로 만드는 동시에, 엔지니어가 가장 큰 가치를 제공하는 곳에 전문 역량을 집중할 수 있도록 지원하는 것입니다.

운영 콘텍스트 기반

모든 AI 시스템의 효과는 제공받는 콘텍스트의 품질에 달려 있습니다.

많은 AI 어시스턴트는 프롬프트로 시작하여 문서, 대시보드 또는 API에서 정보를 가져옵니다. 이러한 시스템은 정보 검색 속도를 높여주지만, 콘텍스트를 구성하고, 증거를 검증하며, 적절한 운영 대응을 결정하는 것은 여전히 엔지니어의 몫입니다.

운영 환경을 지원하려면 더 포괄적일 필요가 있습니다.

모든 인시던트는 텔레메트리, 인프라 상태, 배포 기록, 서비스 관계, 소유권, 고객 영향 및 과거 동작을 포함하는 광범위한 운영 환경 내에 존재합니다.

단일 신호만으로는 전체 상황을 설명할 수 없습니다.

다양한 신호들이 서로 어떻게 연관되어 있는지 이해하는 데서 진정한 가치가 나옵니다.

뉴렐릭 오토파일럿은 이러한 운영 콘텍스트를 바탕으로 모든 조사를 시작합니다.

단편적인 해답을 찾는 대신, 관계 전반을 추론하여 무슨 일이 일어나고 있는지, 왜 그런 일이 발생하는지, 어떤 시스템이 영향을 받는지, 다음에 어떤 조치를 고려해야 하는지 파악합니다.

뉴렐릭 그라운드 트루스를 배포하는 조직은 엔터프라이즈 운영 지식을 환경의 변화를 반영하는 신뢰할 수 있는 운영 인텔리전스로 계속 체계화하여 이러한 이해 수준을 끌어올릴 수 있습니다.

그 결과로 속도가 더 빠를 뿐만 아니라 설명할 수 있고 신뢰할 수 있으며, 숙련된 엔지니어가 복잡한 운영 문제를 조사하는 방식에 더 잘 부합하는 AI가 생겨납니다.

모든 것을 바꾸는 운영적 추론

기존의 자동화는 사전 정의된 워크플로우를 실행합니다.

런북은 알려진 절차를 따릅니다.

스크립트는 반복 가능한 작업을 수행합니다.

워크플로우 엔진은 확립된 프로세스를 조율합니다.

이러한 접근 방식은 여전히 유용하지만, 모두 한 가지 가정에 의존합니다.

"수정 조치는 이미 알려져 있다"는 것입니다.

실제 운영 인시던트가 그렇게 시작되는 경우는 거의 없습니다.

모든 조사는 불확실성에서 시작됩니다.

무엇이 변경되었고, 어떤 시스템이 영향을 받으며, 어떤 증거가 가장 중요하고, 어떤 해결 경로가 운영 위험을 가장 낮출 수 있는지 결정하는 것이 도전 과제입니다.

뉴렐릭 오토파일럿은 이러한 도전 과제에 다른 방식으로 접근합니다.

텔레메트리, 배포, 인프라 변경 사항, 종속성 관계, 과거 인시던트, 소유권 정보 및 비즈니스 콘텍스트를 지속적으로 평가하며, 환경 전반에서 발생하는 상황에 따라 운영에 대한 이해도 진화합니다.

오토파일럿은 정적인 의사 결정 트리를 따르는 대신, 새로운 운영 증거가 확보될 때마다 권장 사항을 지속적으로 개선합니다.

이러한 운영 추론을 통해 엔지니어링 팀은 인시던트를 더 빠르게 조사하고, 더 일관된 의사 결정을 내리며, 점점 더 복잡해지는 운영 문제를 해결하는 데 필요한 수작업을 줄일 수 있습니다.

또한 자동화를 위해 안전하고 관리되는 기반이 구축됩니다.

더 나은 근거에서 형성되는 신뢰

AI 권장 사항은 엔지니어가 그 이유를 이해할 때만 가치가 있습니다.

엔지니어링 팀은 운영 환경에 변경 사항을 적용하기 전에 어떤 증거가 권장 사항을 뒷받침하는지, 어떤 가정이 이루어졌는지, 제안된 조치가 어떤 영향을 미칠 수 있는지 알아야 합니다.

뉴렐릭 오토파일럿은 이러한 원칙을 염두에 두고 설계되었습니다.

모든 추천은 뉴렐릭 플랫폼 전반에서 수집된 텔레메트리, 서비스 관계, 배포, 인프라 변경 사항, 과거 인시던트, 소유권 및 비즈니스 콘텍스트를 기반으로 구축된 운영 이해도를 바탕으로 합니다. 오토파일럿은 단편적인 해답을 제시하는 것이 아니라, 운영 관련 근거를 엔지니어가 확신을 가지고 검토, 검증 및 조치할 수 있는 일관된 설명으로 연결합니다.

뉴렐릭 그라운드 트루스를 사용하는 조직은 신뢰할 수 있는 엔터프라이즈 운영 지식을 통합하여 운영에 대한 이해를 더 높일 수 있으며, 이를 통해 각 환경의 고유한 특성에 맞게 맞춤화된 추천을 확보할 수 있습니다.

설명이 가능하다는 사실은, 조직이 적절한 거버넌스와 사람의 감독을 유지하면서 AI 지원 운영에 대한 신뢰를 구축하는 데 도움이 됩니다.

자율 운영을 향한 여정

자율 운영은 하루아침에 달성할 수 있는 목표가 아닙니다.

하나의 과정입니다.

그리고 그 과정은 AI로 지원되는 조사를 통해 인시던트를 더 빠르게 이해하는 것에서 시작됩니다.

다음 단계에서는 증거를 연결하고, 가능성 있는 근본 원인을 설명하며, 상황에 맞는 조치를 권장하는 운영 추론이 도입됩니다.

거버넌스 정책이 성숙해지고 조직이 확신을 갖게 되면, 적절한 승인 및 운영 안전장치를 통해 반복 가능한 조사와 문제 해결 워크플로우를 자동으로 오케스트레이션할 수 있습니다.

시간이 지남에 따라 승인된 조치를 조사, 추론, 추천 및 실행하는 소프트웨어 시스템의 능력이 점점 더 향상됩니다. 엔지니어는 지속적으로 전략, 거버넌스 및 지속적인 개선에 대한 책임을 집니다.

뉴렐릭 오토파일럿은 이러한 여정 전반에서 조직을 지원하도록 설계되어, 팀이 운영 성숙도와 위험 허용 범위에 맞는 속도로 자율 운영을 도입할 수 있도록 지원합니다.

소프트웨어 운영의 미래

지난 10년 동안 옵저버빌리티는 조직이 점점 더 복잡해지는 소프트웨어 시스템을 이해하는 데 도움을 주었습니다.

향후 10년은 이러한 시스템을 얼마나 지능적으로 운영하는지에 따라 결정될 것입니다.

경쟁 우위는 가장 많은 텔레메트리를 수집하는 것이 아니라 운영 데이터를 더 빠른 의사 결정, 더 일관된 조치, 더 강력한 복원력으로 전환할 수 있느냐로 판가름 날 것입니다.

인공지능은 계속해서 빠르게 진화하여 업계 전반에서 고급 모델이 폭넓게 도입될 것입니다.

지속적인 차별화 요소는 모델 자체가 아니라,

모든 추천과 조치의 바탕이 되는, 운영에 대한 이해 수준이 될 것입니다.

이것이 바로 뉴렐릭 오토파일럿이 추구하는 비전입니다.

뉴렐릭 오토파일럿은 운영 콘텍스트 전반에서 지속적으로 추론하고, 근거에 기반해 조치를 추천하며, 지능형 워크플로우를 조율함으로써 조직이 단순히 소프트웨어를 관찰하는 것을 넘어 확신을 갖고 이를 운영할 수 있도록 지원합니다.

뉴렐릭 그라운드 트루스를 통해 이러한 기반을 확장하는 조직은 신뢰할 수 있는 엔터프라이즈 지식과 지속적으로 발전하는 운영 인텔리전스를 통해 운영에 대한 이해의 폭을 크게 넓힐 수 있습니다.

이러한 역량들이 결합되어 자율 운영의 기반이 구축되면, 엔지니어링 팀은 인시던트를 조사하는 데 소요되는 시간을 줄이고 안정적이고 혁신적인 소프트웨어를 제공하는 데 더 많은 시간을 할애할 수 있습니다.

옵저버빌리티는 무슨 일이 일어났는지 알려줍니다.

뉴렐릭 오토파일럿은 다음 단계 결정을 지원합니다.

이것이 조직이 인사이트를 실행으로 옮기는 방법입니다.