무중단 배포 아키텍처의 다양한 배포전략 (Blue/Green, Rolling, Canary)

Posted by @Haon, January 26, 2023

애플리케이션의 종료시점 : 서버 1대로 운영할때

서비스를 운영하다보면 새로운 버전을 출시하고 해야할 상황이 발생합니다. 그런데 만약 1대로 운영할때 사용자들이 도중에 중단되는 일 없이 운영이 가능할까요?

현재 서버에는 ver1 버전을 운영하고 있는 상황이고, ver2 버전을 새롭게 배포하고 싶은 상황이라고 가정해봅시다. 앞으로 사용자들은 ver2 를 사용할 수 있도록 배포해야겠죠?

배포를 하려면 우선 새롭게 만든 ver2 버전을 다운로드해야합니다. 문제는 ver1 과 ver2 모두 동일한 포트를 사용하기 때문에 ver2 를 빌드하고 실행하기전에 현재 운영중인 ver1 버전은 잠시 서버를 꺼놓아야합니다.

결국 서비스 사용자는 ver1 를 종료시킨후, ver2 를 빌드하고 다시 서비스를 배포하기전까지 온전히 이용할 수 없을겁니다. ver2 가 배포 완료된 후에나 다시 정상적인 이용이 가능해지겠죠.

여기서 문제는 서버 1대로만 서비스를 운영하면, 기존 버전으로 돌아가던 서버는 잠시 종료되고, 다음 버전을 다시 배포하기 전까지 사용자를 서비스를 이용할 수 없게됩니다.

다운타임(Downtime) : 이렇게 서비스가 잠시 중단되어야 하는 시간대를 다운타임이라고 부릅니다.

동일한 포트를 사용한다고 하면 당연한 말입니다.

예를들어 Docker 컨테이너를 띄울때, "docker run -p 8080:8080 이미지명" 을 입력할겁니다. 즉 8080 포트를 특정 컨테이너가 사용중일때 다른 컨테이너를 8080포트를 중복으로 사용할 수는 없을겁니다.

그렇다면 서버를 2대 이상으로 늘려서 확장시키면 다운타임(DownTime) 시간대에 대한 문제가 해결 되는걸까요? 정확히 말하자면, 무작정 서버를 늘린다고 해결되는 것은 아닙니다.

그냥 무작정 서버를 늘릴경우, 다음과 같은 문제점이 발생하빈다.

따라서 저희는 로드밸런싱을 진행해서, 클라이언트와 서버 사이에서 중계해줄 Reverse Proxy 서버를 별도로 배치해주어야 합니다. 한 서버에 요청이 들어오면, 그 서버의 뒷단에 있는 여러 서버중에서 적절한 특정 서버에다 요청을 분산해주는 것이죠.

만일 로드밸런싱와 Proxy 에 대해 아직 잘 모르시는 분들은 제 지난 포스팅을 참고하시면 좋을듯합니다.

무중단 배포는 서비스가 중단되지 않는 상태로 새로운 버전을 사용자에게 계속해서 배포하는 것입니다.

무중단 배포를 진행하려면 서버를 2대 이상 확보해야합니다. 그러고 Nginx 와 같은 웹서버를 앞단에 배치시켜서 한 곳에서 모든 클라이언트들의 요청을 받도록 해야합니다. (Reverse Proxy 서버 앞단에 배치)

그러고 뒷단에 존재하는 여러 서버들에게 상황에 따라 적절히 요청을 분배시키는 방식인 것이죠. (로드밸런싱 진행)

지금부터 무중단 배포 전략을 사용하기 위한 다양한 배포방식을 알아보겠습니다.

일반적인 배포 방식을 의미하며, 단순하게 서버를 구성하여 배포하는 전략입니다.

다시말해 구 버전에서 신 버전으로 점진적으로 서버 하나씩 차근차근 전환하는 배포입니다.

예를들어 다음처럼 운영중인 ver1 버전의 서버 3대가 있을때, 모두 ver2 버전으로 바꿔야하는 경우입니다.

점진적으로 서버 하나씩 버전을 바꾼다고 했었죠? 과정을 나열해보면 다음과 가습니다.

서버1의 버전을 ver2 로 업데이트 합니다. 이떄 서버1은 잠시 중단된 상태일텐데, 클라이언트의 요청들은 서버 2와 3에서 수용하고 있는 상황입니다.

이 과정을 서버2 와 3에 대해서도 동일하게 순차적으로 진행해줍니다. 이렇게 서버 하나씩 점차적으로 진행나가는 방식이 Rolling 배포전략입니다.

배포 중 서버 인스턴스의 수가 감소되므로, 다른 서버가 대신하여 감당해야할 트래픽의 양이 늘어납니다. 따라서 각각의 서버가 처리해야할 용량을 미리 고려하는 것이 좋습니다.
구버전과 신버전의 애플리케이션이 동시에 서비스되기 떄문에 호환성 문제가 발생할 수 있습니다.