캐시 만료 시 DB 폭주를 방어하는 캐시 스탬피드(Cache Stampede)와 확률적 조기 만료(XFetch) 알고리즘 설계
대규모 트래픽을 처리하는 분산 웹 서비스와 실시간 배치 파이프라인에서 데이터베이스의 부하를 덜어내기 위해 인메모리 캐시(Redis, Memcached)를 도입하는 것은 표준적인 아키텍처입니다. 하지만 캐시의 유효 시간(TTL)이 만료되는 순간, 시스템은 순식간에 서비스 중단으로 이어지는 캐시 스탬피드(Cache Stampede, 또는 Thundering Herd) 현상에 노출됩니다. 초당 수천 건의 조회가 집중되는 핫 키(Hot Key)의 캐시가 소멸되면, 수많은 워커와 클라이언트가 동시에 캐시 미스(Cache…