Connection Draining 한 기술 회사에서 운영하는 서비스는 ELB(Elastic Load Balancer)뒤에 EC2 인스턴스를 두고 부하를 분산하는 방식을 사용하고 있다. 이때, EC2가 health check 에 실패하여 unhealthy 상태로 들어가게 되면 진행중이던 in-flight Request 가 끊어지는 이슈가 발생하게 된다. 이를테면, 특정 EC2 인스턴스로부터 수십초가 걸리는 파일 다운로드를 수행중이라고 했을 때, 파일을 다운로드받는 도중, 해당 인스턴스가 unhealthy상태로 바뀌게 되면 커넥션이 끊어지면서 파일 다운로드에 실패하게 되는 것이다. 이러한 상황을 막기 위해 취할 수 있는 방법으로 Connection Draining 을 사용한다. Connection Drai..

Cross Zone Load Balancer 교차 영역 로드 밸런싱 (Cross Zone Load Balancer) 는 가용 영역별로 사용하는 EC2 인스턴스 개수에 차이가 있는 경우 사용하면 좋은 기능이다. 로드 밸런서 노드는 가용 영역마다 하나씩 존재하여, 가용 영역에 있는 부하 분산 대상(EC2 등..)에 요청을 전달한다. 로드 밸런서는 노드 자신이 소속된 가용 영역에 있는 부하 분산 대상들을 책임진다. 즉, VPC 에서 ELB 를 바라볼 땐 로드 밸런서 노드와 EC2 의 집합으로 보이며, 이는 각각 리스너(로드 밸런서), 대상 그룹(EC2 의 집합)에 해당한다. 위 그림을 보면 각각 가용 영역이 존재하고 로드 밸런서가 EC2 인스턴스들로 부하를 분산시키고 있다. 인스턴스들 위에 있는 숫자는 해당 ..