로드 밸런서는 분산뿐 아니라 TLS, health, session, drain 경계를 정한다
운영에서 중요한 것은 정상 분산보다 배포와 장애 때 연결을 어떻게 보호하는지다.
운영 경계
해야 할 일
나빠지는 신호
TLS
종단 위치와 인증서 갱신 책임 지정
handshake 실패와 SNI 불일치
Health
readiness와 liveness 분리
죽은 서버로 계속 분산
Session
sticky 한계 또는 외부 저장소 결정
로그인 상태 유실
Drain
배포 중 새 요청 차단
rolling update 때 reset/502 증가