LB/Gateway에서 TLS, routing, 4xx/5xx, upstream timeout을 기록합니다.
요청 경로를 계층으로 나누면 지표 책임이 보인다
성능 문제는 API 코드만의 문제가 아닙니다. 앞단, NestJS 계층, 데이터 계층, 응답 경로마다 다른 지표와 실패 지점이 있습니다.
Middleware와 Interceptor에서 route, status, duration label을 붙입니다.
CPU 사용, event loop delay, 외부 호출 시간을 분리합니다.
slow query, cache hit, connection wait, queue lag를 봅니다.
route와 exception type을 함께 기록합니다.
DB나 외부 API 대기 시간이 응답 시간을 끌어올립니다.
LB timeout, 동시 연결, rate limit 신호를 확인합니다.
hit rate 하락은 DB 부하 증가로 이어질 수 있습니다.
읽는 법: 어느 계층에서 시간이 늘었는지 먼저 분리한다.