클라우드 비용이 지나치게 많이 드는 이유

작성자: 토비 나이트(Toby Knight)

뉴렐릭의 고객들과 이야기를 하다 보면 꼭 듣는 질문이 두 가지가 있습니다. 하나는 “어떻게 하면 고객 경험을 향상시킬 수 있나요?” 라는 질문이고, 다른 하나는 “퍼블릭 클라우드에서 총 운영 비용을 어떻게 감소시킬 수 있나요?” 라는 질문입니다.

첫 번째 질문은 안정성, 성능 그리고 고객 도입에 관련된 것이고, 두 번째 질문은 클라우드 서비스 제공업체로부터 엄청난 요금 청구서를 받아 본 고객으로부터 나옵니다.

두 질문은 레스토랑 비즈니스, 관광서비스 기업, 공공기관, 금융기관 등 광범위한 업계의 고객들에게 모두 해당됩니다. 각 업계마다 고유한 문제가 있습니다. 예를 들어, 금융업계의 경우 수익성의 측면에서 뿐만 아니라, 규제준수의 측면에서 고객 경험이 대단히 중요합니다. 금융기관이 우수한 고객 경험을 제공하지 못하면 고객을 잃는 것은 물론 규제당국으로부터 엄청난 벌금을 물 위험이 있습니다. 한편, 공공기관의 경우, 사용자인 시민들에게 비용 효율적인 방식으로 탁월한 서비스를 제공해야 합니다. 

‘2분의 원칙’ 준수를 위한 확장

‘2분의 원칙’을 중심으로, 한 레스토랑 체인을 예로 들어 고객 경험의 중요성에 대해 설명드리겠습니다. 포장 또는 배달 고객이 온라인이나 모바일 앱을 사용해 2분 안에 주문을 완료하지 못하는 경우, 고객은 물론 그 고객과 관련된 매출이 경쟁업체로 넘어갈 수 있다는 것이 ‘2분의 원칙’의 골자입니다. 이 레스토랑 체인은 다수의 지역에서 다수의 클라우드 제공업체를 사용하며, 컨테이너, 마이크로서비스와 같은 현대적인 클라우드 네이티브 관행을 조기 도입하여, 그때 그때 구조를 조정해 나가고 있습니다. 레스토랑 체인은 가맹점 주인들도 만족시켜야 합니다. 이는 마진이 빠듯한 수천 곳의 소상공인들을 위해 비용을 제어해야 한다는 말입니다.

비용을 유지하기 위해, 이 기업은 매일 아침 실제 운영 환경에서 그날 예상되는 워크로드에 대한 확장성 테스트를 수행합니다. 그러나 식품 서비스 비즈니스에서는 예상하지 못한 일이 늘 발생합니다. 예를 들어, 교통이 막히거나 고장 등으로 지하철 운행이 지연되면 사람들이 집에 늦게 귀가해 저녁밥을 하는 대신 배달 음식을 시키기로 합니다. 이 때문에 같은 시간 대에 예상치 않게 주문이 몰릴 수 있습니다. 고객이 2분이라는 시간 내에 주문을 할 수 있도록 비즈니스는 클라우드 서비스를 확장해야 합니다.

이 시점에서, “뭐가 문제지? 퍼블릭 클라우드는 영구적으로 확장 가능한 것이 아니었어?” 라는 질문을 할 수도 있을 것입니다. 물론, 그렇기는 합니다. 그러나 기술적인 복잡성으로 인해 퍼블릭 클라우드 제공업체들이 예상치 못한 트래픽 폭증에 신속하고 효율적으로 대응하는 것이 어려울 수 있습니다. 예를 들면, 웹 앱의 기술 스택에는 수십 개의 마이크로 서비스가 포함되어 있는 경우가 많습니다. 매핑 서비스, GPS 서비스, 결제 게이트웨이 등 다양한 외부 서비스도 통합되어 있기 때문에 2분이라는 시간 안에 모두 확장될 수 없는 경우가 생깁니다.

이러한 시나리오를 피하기 위해, 레스토랑 체인은 이번 주와 지난 주의 평균을 기준으로 피크 로드를 위한 확장을 하고 20%의 여유 용량을 추가합니다.

그럼, 오버 프로비저닝이 됩니다.

클라우드에서의 오버 프로비저닝은 비용, 그것도 아주 많은 비용을 의미합니다.

고객들을 만족시킨다는 목적하에, 조직들은 클라우드 사용량을 오버 프로비저닝 해왔습니다. 이 때문에 가뜩이나 적은 마진이 더 줄어들게 되었습니다.

기업들은 다양한 방식으로 오버 프로비저닝을 최소화하려는 노력을 합니다. 자동 확장 기술, PaaS 제공업체 그리고 쿠버네티스 같은 컨테이너 오케스트레이션 플랫폼은 기업이 오버 프로비저닝을 줄이는데 도움을 주지만, 문제를 완전하게 해결해주지는 못합니다.

매일 수십만 건의 트랜잭션이 발생하는 경우, 각 트랜잭션이 별도의 기능을 유발하기 때문에 그 비용은 크게 늘어날 수 있습니다. 그러나 경쟁이 치열한 온라인 세상에서, 많은 기업들은 중요한 디지털 고객 경험에 지장을 주지 않기 위해 오버 프로비저닝을 하는 것 이외에는 방법이 없다고 생각합니다.

뉴렐릭이 제공하는 혜택

중요한 점은, 오버 프로비저닝에 대한 필요성을 감소시켜 퍼블릭 클라우드 운영 비용을 절감하는 것은 좋지만, 고객 경험을 타협해서는 안된다는 것입니다. 다행히, 뉴렐릭이 이 부분에서 다양한 방식으로 도움을 제공할 수 있습니다.

뉴렐릭은 기업이 자사의 웹사이트와 애플리케이션에서 사용자들이 어떤 경험을 하는지 이해할 수 있도록 해줍니다. 사용자 경험이 나빠지거나 서비스를 사용할 수 없게 되면 기업은 신속하게 이러한 사실을 인지할 수 있습니다. 뉴렐릭은 또한 모든 서비스가 사용하는 리소스에 대한 인사이트를 제공하여, 기업이 사용자 경험에 지장을 주지 않고 성능에 기반해 클라우드 서비스 비용을 최적화할 수 있도록 지원합니다.

뉴렐릭은 “어떻게 고객 경험을 향상시킬 수 있을까?”라는 질문에 대한 답을 제공하는 것에 중점을 두고, 복잡한 서비스들을 연결해 상관관계를 분석함으로써 이를 가능하게 만들어줍니다. 일례로, 뉴렐릭의 쿠버네티스 통합과 뉴렐릭의 람다 통합은 성능과 리소스 활용 상태를 한눈에 쉽게 이해할 수 있도록 해줍니다.

애플리케이션 성능과 리소스 활용 간의 상관관계와 인사이트를 확보하면, 서비스의 적정 규모를 계산하고 클라우드 비용을 최적화할 수 있습니다.

마지막으로 뉴렐릭은, 지속적인 혁신을 통해 고객의 여정과 고객 서비스 제공 비용 간의 관계에 대한 세부적인 정보를 제공합니다.