Load Balancer의 개념과 특징

Load Balancer란?

• load balancer는 서버에 가해지는 부하를 분산해주는 장치를 통칭합니다.
• 클라이언트와 서버풀(분산 네트워크를 구성하는 서버들의 그룹) 사이에 위치하며, 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 합니다.

load balancer의 필요성

서비스의 제공 초기 단계라면 적은 수의 클라이언트로 인해 서버 한 대로 요청에 응답하는 것이 가능합니다.

하지만 사업의 규모가 확장되고, 클라이언트의 수가 늘어나게 되면 기존 서버만으로는 정상적인 서비스가 불가능하게 됩니다. 이처럼 증가한 트래픽에 대처할 수 있는 방법은 크게 두 가지 입니다.

 

scale-up과 scale-out

• scale-up : 서버 자체의 성능을 확장하는 것을 의미합니다.
• scale-out : 기존 서버와 동일하거나 낮은 성능의 서버를 두 대이상 증설하여 운영하는 것을 의미합니다. scale-out 방식으로 서버를 증설한다면 여러 대의 서버로 트래픽을 균등하게 분산해주는 load balancing이 필요합니다. 이 때, load balancer를 사용하여 여러대의 서버로 트래픽을 균등하게 분배할 수 있습니다.

L4 vs L7 load balancing

• L4 load balancer : 네트워크 계층이나 트랜스포트 계층의 정보를 바탕으로 로드를 분산 합니다. ip 주소나 포트번호, MAC 주소, 전송 프로토콜에 따라 트래픽을 나누는 것이 가능합니다.
• L7 load balancer : 애플리케이션 계층(HTTP, FTP, SMTP)에서 로드를 분산하기 때문에 HTTP 헤더, 쿠키 등와 같은 사용자의 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능합니다. 즉, 패킷의 내용을 확인하고 그 내용에 따라 로드를 특정 서버에 분배하는 것이 가능한 것입니다. L7 load balancer의 경우 특정한 패턴을 지닌 바이러스를 감지해 네트워크를 보호할 수 있으며, DoS/DDoS와 같은 비정상적인 트래픽을 필터링할 수 있어 네트워크 보안 부냥에서도 활용되고 있습니다.

Load Balancing Algorithms

• Round Robin  : 서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식입니다. 클라이언트의 요청을 순서대로 분배하기 때무넹 여러 대의 서버가 동일한 스펙을 갖고 있고, 서버와의 연결이 오래 지속되지 않는 경웨 활용하기 적합합니다.
• Weighted Rund Robin : 각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분합니다. 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 방식입니다.
• IP Hash : 클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식입니다. IP를 해싱해 로드를 분부하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장합니다.
• Least Connection : 요청이 들어온 시점에 가장 적은 연결 상태를 보이는 서버에 우선적으로 트래픽을 분배합니다. 자주 세션이 길어지거나, 서버에 분배된 트래픽들이 인정하지 않은 경우에 적합한 방식입니다.
• Least Response Time : 서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽을 분배합니다. 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 분배하는 방식입니다.