네트워크와 DB 비용을 대부분 생략한다.
cache hit / miss
캐시는 먼저 묻고, 없거나 만료되면 원본으로 간다
같은 API라도 캐시 값과 TTL이 살아 있으면 즉시 응답하고, 없으면 원본을 읽은 뒤 TTL을 붙여 다음 요청을 준비합니다.
원본 조회와 저장 비용을 한 번 부담한다.
값을 믿을 수 있는 시간 울타리다.
Request key
URL, user id, query option을 같은 규칙으로 묶습니다.
→
Cache lookup
애플리케이션은 원본보다 캐시를 먼저 확인합니다.
→
Origin fill
miss일 때만 DB나 외부 API를 읽고 결과를 저장합니다.
값 있음 + TTL 유효 → 캐시에서 바로 반환
값 없음 또는 만료 → 원본 조회 → set cache
좋은 후보: 자주 읽고 덜 바뀌며 계산 비용이 큰 데이터. 지표는 hit ratio, miss latency, stale 응답 수를 함께 본다.