쿠버네티스 로드밸런싱 및 헬스체크

쿠버네티스는 로드밸런싱과 헬스체크를 통해 시스템의 안정성을 유지하고 트래픽의 분배와 파드의 상태를 효과적으로 관리한다.

이에 대해서 알아보자

 

쿠버네티스 로드밸런싱

 

쿠버네티스에서 로드밸런싱은 주로 서비스를 통해 이루어진다.

https://koreatstm.tistory.com/270#%EC%BF%A0%EB%B2%84%EB%84%A4%ED%8B%B0%EC%8A%A4%EC%97%90%EC%84%9C%20%EC%99%B8%EB%B6%80%20%ED%8A%B8%EB%9E%98%ED%94%BD%EC%9D%84%20%EB%82%B4%EB%B6%80%EB%A1%9C%20%EC%97%B0%EA%B2%B0%ED%95%98%EB%8A%94%203%EA%B0%80%EC%A7%80%20%EB%B0%A9%EB%B2%95-1

쿠버네티스

 

 

로드밸런싱 과정

• 서비스 생성 시 엔드포인트: 서비스를 생성하면, 해당 서비스는 내부 가상 IP를 갖게 된다. 이 IP로 외부 클라이언트가 서비스에 접근
• 파드로 패킷 전송: 서비스에 도달한 패킷은 서비스 뒤에 있는 파드로 전달되고 서비스는 해당 파드들 중 하나로 패킷을 전송하는데, 이 과정에서 로드밸런싱이 이루어진다.
• 라운드 로빈 방식: 서비스 뒤에 여러 개의 파드가 있을 때, 서비스는 기본적으로 라운드 로빈 방식으로 트래픽을 분배
• 패킷 전달 방법
  • iptables 또는 IPVS를 사용하여 서비스와 파드 간 패킷 전달 규칙을 설정
  • kube-proxy: 각 노드에 있는 kube-proxy는 패킷을 해당 파드로 올바르게 전달할 수 있도록 패킷 전달 방법을 변경
    • kube-proxy의 역할
      • kube-proxy는 마스터 노드의 kube-api-server와 통신하여 서비스와 파드에 대한 정보를 받아온다.
      • 이를 기반으로 iptables 또는 IPVS를 설정하여 패킷을 파드로 전달
      • 외부 클라이언트가 보내는 요청은 iptables로 처리되며, kube-proxy는 이를 수정하여 파드로 전달

 

한줄 정리

• 쿠버네티스 로드밸런싱은 서비스 객체(ClusterIP, NodePort, LoadBalancer)를 통해 이루어진다.
  • 다른 서비스 객체인 externalName은 서비스 디스커버리에 가까움
    • Load balancing: 여러 파드가 있을 때, 로드밸런싱은 들어오는 요청을 여러 파드에 균등하게 분배
    • Service Discovery: 클러스터 내의 서비스가 동적으로 변할 수 있기 때문에, 다른 서비스나 애플리케이션이 이 서비스를 자동으로 찾을 수 있도록 한다.
• 서비스는 파드들을 대상으로 로드밸런싱을 수행하며 라운드 로빈 방식으로 트래픽을 분배
• kube-proxy는 패킷을 파드로 전달하는 규칙을 관리하며, iptables 또는 IPVS를 사용하여 트래픽을 라우팅한다.

 

쿠버네티스 헬스체크

 

헬스체크를 통해 파드와 컨테이너의 상태를 모니터링하고, 문제가 발생한 파드를 자동으로 재시작하거나 대체한다.

 

헬스체크 구성

• kubelet: 각 노드에 설치된 kubelet이 파드와 통신하며 해당 파드의 헬스체크를 담당
• kubelet은 파드에서 설정된 liveness probe와 readiness probe를 통해 파드의 상태를 주기적으로 확인

 

헬스체크의 종류

1. Liveness Probe
   • 파드가 정상적으로 동작하는지 확인 
   • 설정된 시간 동안 응답이 없거나 상태가 비정상일 경우, kubelet은 해당 파드를 재시작하여 정상 상태로 복구
2. Readiness Probe:
   • 파드가 서비스를 받을 준비가 되었는지 확인 
   • 준비되지 않았다면 트래픽이 해당 파드로 전달되지 않도록 방지

 

헬스체크의 설정

• HTTP GET 요청: 특정 URL에 대해 HTTP GET 요청을 보내서 응답 상태를 확인 
• TCP Socket: 특정 포트로 TCP 연결을 시도하여 응답을 확인 
• Exec: 컨테이너 내에서 명령어를 실행하여 결과를 확인 

 

Self Healing

 

• Kubernetes가 자동으로 장애를 감지하고 문제가 발생한 파드나 노드를 자동으로 복구하는 기능
• 예를 들어, 파드가 종료되거나 실패하면 Kubernetes가 자동으로 새로운 파드를 생성하여 서비스를 복구
• 롤백이 실패한 상태를 복구하는 한 방법으로 작동할 수 있습니다.

# docker kill [컨테이너 ID]
$ dokcer kill 1c29fgk3mo92

컨테이너를 종료시키고 조회를 해봐도 여전히 정해진 수의 파드가 작동하고 있는 걸 알 수 있다. RESTARTS에 1이라고 기록되어 있다.

즉, 파드 내에 컨테이너가 작동하지 않음을 인식하고 컨테이너를 새로 만들어 서버를 재시작 시킨 것이다.