목록thundering herd (1)

종식당

캐시 스탬피드 현상

대규모 트래픽 환경에서 캐시를 운용하는데, Cache Aside(캐시 미스 발생 시 적재) 전략을 사용한다고 가정해 보자. 이때, 수많은 요청들이 동시에 캐시 미스를 확인하고 원본 저장소에서 데이터를 가져와 캐시에 적재하는 상황이 발생할 수 있는데 이를 캐시 스탬피드 현상 혹은 Thundering Herd문제라고 표현한다. 캐시 스탬피드 현상은 원본 데이터베이스와 캐시의 성능을 저하할 수도 있다. 이 문제는 어떻게 풀어볼 수 있을까요? 🤓해당 방식은 크게 잠금, 외부 재계산, 확률적 조기 재계산 방식으로 풀어볼 수 있다.잠금 방식(Locking)잠금 방식은 한 요청 스레드가 해당 캐시 키에 대한 잠금을 획득한다. 이로 인해 다른 요청 처리 스레드들은 잠시 대기한다. 잠금을 획득한 스레드는 사용자 요청에..
매일메일 2025. 4. 22. 10:10
이전 Prev 1 Next 다음