CACHE HIT / MISS

캐시는 먼저 묻고, 없으면 원본으로 간다

같은 요청이라도 캐시에 값이 있고 TTL이 살아 있으면 즉시 응답한다. 없거나 만료되면 원본을 읽고 다시 저장한다.

HIT네트워크와 DB 비용 대부분 생략

MISS원본 조회와 저장 비용 발생

TTL신선함을 보장하는 시간 울타리

1. Client request

key 생성URL, user id, query option을 같은 규칙으로 묶는다.

cache lookup애플리케이션은 원본보다 캐시를 먼저 확인한다.

2. Cache decision

cache hit값 있음 + TTL 유효 -> 즉시 반환

cache miss값 없음 또는 만료 -> 원본 조회

expired저장된 값은 버리고 새 값으로 교체

set cache원본 결과에 TTL을 붙여 다음 요청 준비

3. Origin source

DB / 외부 API미스 때만 접근해 부하를 낮춘다.

응답 반환클라이언트는 hit와 miss를 같은 API 응답으로 받는다.

좋은 후보자주 읽고 덜 바뀌며 계산 비용이 큰 데이터

주의 신호원본 변경 후 캐시 삭제가 늦으면 오래된 응답 발생

핵심 지표hit ratio, miss latency, stale 응답 수를 같이 본다