[AWS 교과서] 4장 - AWS 부하분산 서비스(1)

오늘은 많이 들어봤을 로드 밸런싱에 관련된 공부를 해보겠습니다

 

---

Amazon ELB 기능 소개

 

 

부하분산이란

 

부하분산은 서버-클라이언트 환경에서 서버가 클라이언트 요청을 받아 처리하는 과정에서 발생하는 부하(연산 작업)에 대해 동일한 목적을 수행하는 다수의 서버에 분산 처리하는 기능입니다

 

=> 고가용성 및 내결함성이 향상되어 장애가 발생할 때 유연하게 대처할 수 있고, 서비스를 안정적으로 유지할 수 있음

 

고가용성 : 시스템이나 서비스가 지속적으로 작동 가능하도록 하는 기능

내결함성 : 시스템의 일부 구성 요소가 작동하지 않더라도 계속 작동할 수 있는 기능

 

이런 부하분산을 로드 밸런싱(load balancing)이라고 하며, 부하분산을 수행하는 대상을 로드 밸런서(load balancer)라고 한다.

 

Amazon ELB 기능

 

AWS에서는 ELB(Elastic Load Balancing)라는 로드 밸런싱 기술을 제공한다

 

ELB는 Amazon EC2 인스턴스에서 운영 중인 애플리케이션, 마이크로서비스 또는 컨테이너 서비스로 유입되는 트래픽을 자동 분산 처리하는 기술이다

 

ELB는 여러 가용 영역에서 작동하여 애플리케이션 가용성을 향상시키고 HTTP, TCP 등 다양한 프로토콜 지원, 사용자가 같은 인스턴스에서 세션을 유지할 수 있도록 지원해준다

 

또한, AWS의 오토 스케일링 기능과 결합해서 트래픽이 증가할 때 자동으로 인스턴스를 추가하거나 제거하면서 애플리케이션 가용성을 유지하기도 한다

 

이렇게 ELB는 네트워크 및 응용 프로그램 수준의 로드 밸런싱을 지원하여 다양한 애플리케이션에 적용할 수 있으며, SSL 암호화를 지원하여 애플리케이션의 보안을 강화한다

 

Amazon ELB 구성 요소

 

Amazon ELB는 세 가지 요소로 구성되어 있다

 

로드 밸런서 : 여러 대의 EC2 인스턴스, IP 주소, 람다 등을 사용하여 트래픽을 대상 그룹에 있는 인스턴스로 분산시켜 애플리케이션의 가용성을 유지하는 역할을 한다.

=> 로드 밸런서는 사용자 요청을 받아 애플리케이션 서버로 전달하고, 애플리케이션 서버의 응답을 사용자에게 반환한다

 

대상 그룹 : 로드 밸런서에서 분산할 대상의 집합을 정의하는 구성 요소이다. 

 

=> 대상 그룹의 인스턴스에 대해 정적 또는 동적으로 구성할 수 있으며, 라우팅 규칙에 따라 요청을 받아들일 대상 그룹을 선택한다.

=> 로드 밸런서는 대상 그룹에 포함된 대상들의 상태를 정기적으로 확인하여 장애 발생 대상을 자동으로 제외하고, 정상적으로 동작하는 대상에만 요청을 전달

 

리스너 : 로드 밸런서에서 사용할 포트와 프로토콜을 설정하는 구성 요소이다

 

=> 리스너는 로드 밸런서에서 클라이언트 요청을 수신하고, 해당 요청을 처리할 대상 그룹을 선택하는 역할을 한다

 

=> 리스너는 로드 밸런서에 연결된 프로토콜과 포트를 사용하여 클라이언트 요청을 수신하고, 해당 요청을 대상 그룹으로 라우팅 한다

 

Amazon ELB 동작 방식

 

Amazon ELB를 생성하면 설정한 가용 영역별로 로드 밸런서 노드가 생성되고 앞단에 리스너를 실행한다

 

이런 리스너는 다양한 프로토콜(HTTP, HTTPS, TCP 등)을 지원하며, 요청에 대한 대상 그룹의 라우팅을 정의한다

 

ELB가 동작하는 방식을 더 자세히 살펴보면

 

1. 클라이언트 요청 수신 : 로드 밸런서에서 클라이언트 요청을 수신

 

=> 로드 밸런서는 클라이언트와 연결을 유지하며, 요청을 수신하려고 리스너를 등록

 

2. 대상 그룹 선택 : 수신한 클라이언트 요청을 처리할 대상 그룹을 선택

 

=> 대상 그룹은 인스턴스, IP 주소, 람다 함수, ALB 등 여러 유형의 대상으로 구성

 

3. 트래픽 분산 : 선택된 대상 그룹에서 요청을 처리할 대상을 선택하고 해당 대상으로 요청을 분산

 

=> 이때 로드 벨런서는 각 대상의 가용성 상태를 모니터링하고 가용하지 않은 대상을 제외

 

4. 응답 반환 : 분산된 요청을 대상에서 처리하고 클라이언트에 응답을 반환한다

 

=> 응답은 로드 벨런서에서 수신한 것으로 반환되므로, 클라이언트는 로드 벨런서가 대상 그룹에서 선택한 대상에게서 마치 응답을 받는 것처럼 느낄 수 있음

 

ELB를 생성할 때 로드 벨런서와 통신하는 방식은

인터넷 경계 로드 밸런서 : 외부에서 직접 로드 밸런서에 접근하는 방식
내부 로드 밸런서 : 외부의 접근이 차단된 격리된 네트워크(내부 서버 전용)에서 로드 밸런서를 사용하는 방식

가 있다!

 

Amazon ELB 교차 영역 로드 밸런싱

 

Amazon ELB는 여러 가용 영역에서 로드 밸런서 노드를 실행하며, 각 노드는 가용 영역 내 대상 그룹으로 요청을 분산한다

 

교차 영역 로드 밸런싱이 비활성화된 상태에서 동작 흐름을 보면

 

사용자 PC에서 ELB 도메인 주소로 트래픽을 전송하면, 도메인을 해석하여 50:50 비중으로 각 가용 영역에 위치한 로드 밸런서로 전달할 것이다

 

만약 인스턴스의 수량이 첫 번째 가용 영역에 두 대, 두번 째 가용 영역에 여덟 대로 영역별로 불균형하게 구성되어 있다면

 

첫 번째 로드 밸런서는 총 50이라는 비중에서 두 대의 대상 인스턴스에 25의 비중으로 트래픽을 로드 밸런싱할 것이고

두 번째 로드 밸런서도 총 50이라는 비중에서 여덟 대의 대상 인스턴스에 6.25 비중으로 트래픽을 로드 밸렁싱할 것이다

 

=> 이렇게 되면 첫 번째 가용 영역에 위치한 대상 인스턴스에 트래픽 부하도가 높아지게 되며, 전체적으로 로드 밸런싱이 불균형해지는 것을 확인할 수 있다

 

이런 불균형 로드 밸런싱을 해결하는 데 Amazon ELB에서 제공하는 교차 영역 로드 밸런싱 기능을 사용할 수 있는데, ELB 교차 영역 로드 밸런싱(cross-zone load balancing)은 여러 가용 영역에 걸쳐 있는 EC2 인스턴스나 컨테이너 등 대상을 더 효과적으로 로드 밸런싱하는 기능이다

 

=> 가용 영역별로 인스턴스 수량이 불균형하게 위치할 때 트래픽 비중을 보정할 수 있으며, 트래픽을 분산하는 기준이 가용 영역이 아닌 대상 그룹이 속한 자원을 기준으로 균일한 비중의 로드 밸런싱을 수행할 수 있음

 

=> 교차 영역 로드 밸런싱은 ALB를 사용할 때 기본적으로 활성화되어 있으나, NLB는 비활성화되어 있다

 

Amazon ELB 종류

 

Amazon ELB에서 제공하는 로드 밸런서 종류는 트래픽의 프로토콜 종류나 서비스의 목적과 대상에 따라 네 가지로 분류할 수 있다

 

CLB

 

CLB(Classic Load Balancer)는 Amazon ELB의 가장 초기에 출시된 로드 밸런서로, 4계층과 7계층 프로토콜을 모두 지원한다

 

=> 고정 IP 주소를 사용하여 로드 밸런서를 생성하고, 로드 밸런서에 대한 DNS 이름으로 엑세스할 수 있다

 

=> 그러나, CLB는 서버의 기본 주소가 변경되면 로드 밸런서를 새로 생성해야 하며, 기능적인 한계 때문에 포트나 헤더 같은 데이터를 수정하거나 변경할 수 없는 등 제약 사항이 있다!

(이런 특징은 서버의 구성과 아키텍처가 커지고 복잡해질수록 사용 비용이 증가하기 때문에 현재는 NLB와 ALB로 대체해서 사용하는 추세임)

 

ALB

 

ALB(Application Load Balancer)는 AWS에서 제공하는 L7 로드 밸런서로, HTTP/HTTPS 같은 웹 애플리케이션 프로토콜을 지원한다!

 

ALB는 대상 그룹 단위로 트래픽을 분산하며, 각 대상 그룹은 ALB가 요청을 전달할 EC2 인스턴스, 람다 함수, 컨테이너 및 IP 주소로 라우팅하는 기능을 제공한다

 

ALB의 특징으로는

 

=> HTTP 헤더를 확인하여 다양한 라우팅 기능을 제공한다

 

• 경로 기반 라우팅 : URL 경로를 기반으로 요청을 분산
• 호스트 기반 라우팅 : 호스트 이름을 기반으로 요청을 분산
• 쿼리 문자열 기반 라우팅 : URL 쿼리 문자열을 기반으로 요청을 분산

=> 오토 스케일링과 함께 사용하여 확장성 있는 애플리케이션을 구성할 수 있다

 

=> 대상 그룹 내 인스턴스에 대해 상태 검사를 수행하고, 문제가 발생하면 자동으로 장애 조치를 취할 수 있다

 

=> Amazon CloudWatch Logs와 통합되어 로그 및 지표 데이터를 수집하고 모니터링 및 분석을 할 수 있다

 

 

ALB는 웹 애플리케이션에 특화된 세밀한 라우팅을 제어할 수 있어 웹 애플리케이션을 위한 로드 밸런서로 사용된다!

 

 

NLB

 

NLB(Network Load Balancer)는 AWS에서 제공하는 L4 로드 밸런서로, TCP · UDP · TLS 프로토콜을 지원한다

 

NLB는 앞서 설명한 ALB와 달리, 클라이언트와 로드 밸런서 간 연결을 TCP 레벨에서 유지하므로 대규모 트래픽을 처리할 수 있다

 

=> 이를 위해 NLB는 높은 처리량, 초당 연결 수, 대역폭 등 기능을 제공하며 동일한 IP 주소에서 여러 대상 그룹을 지원할 수 있다

 

NLB의 특징으로는

 

=> 높은 처리량, 빠른 응답 시간, 높은 가용성, IP 주소 보존(클라이언트 IP 주소를 유지하면서 로드 밸런싱을 수행할 수 있음), 모니터링 기능 지원 등이 있다

 

따라서, NLB는 대규모 네트워크 트래픽을 처리하고 대상 그룹의 대상이 IP 주소로 식별될 때 유용하다!

(AWS에서 제공하는 다른 로드 밸런서보다 높은 처리량과 빠른 응답 시간을 보장하므로 게임 서버, VoIP 서비스, 미디어 스트리밍 등에 사용됨)

 

GWLB

 

GWLB(Gateway Load Balancer)는 네트워크 트래픽을 서드 파티의 방화벽/어플라이언스 장비로 부하분산을 처리하는 로드 밸런서이다

 

=> 요청에 따라 트래픽을 확장하거나 축소하면서 다수의 서드 파티 장비에 로드 밸런싱을 처리함

 

GWLB는 VPC 내에서 실행되는 애플리케이션의 가용성과 확장성을 향상시키는데 사용되며, TCP 및 UDP 프로토콜을 지원하여 다양한 유형의 애플리케이션에 유연하게 적용할 수 있다

 

ALB vs NLB

ALB : HTTP/HTTPS 처리에 특화된 애플리케이션 레벨의 로드 밸런서로, OSI 모델의 7계층에서 라우팅 동작이 가능하다. 

=> 람다(lambda)를 대상 그룹 지정할 수 있음

NLB : TCP, UDP, TLS에 대한 트래픽을 처리할 수 있는 OSI 4계층의 로드 밸런서로, ELB 중 가장 빠르고 높은 처리량을 지원한다

=> 고정 IP를 사용할 수 있음

 

각 로드 밸런서 종류는 고유한 기능들을 제공하므로 사용자 요구 사항에 따라 적절한 로드 밸런서를 선택해야 한다!