Уровни кэширования: от CPU до CDN
Как кэши выстраиваются от L1/L2/L3 через RAM, кэши приложений и CDN — и зачем нужен каждый уровень.
тема 10
Кеширование
Слои, инвалидация, защита от stampede, ETag.
Инвалидация кэша: самая сложная задача в CS
Стратегии вытеснения устаревших записей — TTL, event-driven purge, write-through, write-behind — и почему ошибка здесь портит состояние пользователя.
Cache stampede: когда одно TTL истечение превращается в тысячи SQL-запросов
Почему одно истечение TTL превращает горячий ключ кеша в flash-DDoS против origin, и четыре механизма — локи, single-flight, XFetch и stale-while-revalidate — удерживающие БД в живых.
- 1 Что такое cache stampede и почему он делает всё хуже
- 2 Лок и single-flight: ограничение параллельных rebuild
- 3 XFetch: вероятностное раннее истечение без координации
- 4 Stale-while-revalidate и CDN request coalescing
- 5 Детектирование stampede и дизайн TTL для продакшена
- 6 Метастабильный сбой, fencing-токены и production-постмортемы
- 7 Cache stampede: тест с выбором ответа
- 8 Cache stampede: свободное воспроизведение
- 9 Cache stampede: чтение кода
- 10 Cache stampede: собрать и укротить стадо
ETag: условные запросы и ответы без тела
Как entity-теги включают conditional GET — сервер возвращает 304 Not Modified при неизменном контенте, экономя трафик и снижая задержку.
Cache-Control: управление браузерами и CDN
Директивы — max-age, s-maxage, no-store, stale-while-revalidate — которые говорят каждому кэшу в цепочке, как долго хранить ответ.
Stale-while-revalidate: отдать устаревшее, обновить в фоне
Как SWR разделяет свежесть и задержку — немедленно отдаёт закэшированную версию, а затем обновляет её тихо, устраняя пик tail-latency от синхронной ревалидации.
Dogpile-эффект: одновременные промахи кэша, которые убивают origin
Когда популярный ключ истекает, все параллельные запросы промахиваются одновременно и нагружают базу данных — паттерн, отличие от stampede и как mutex-блокировки и вероятностное раннее истечение его предотвращают.
Проектирование системы кэширования: объединение всех уровней
Как скомпоновать CDN, reverse-proxy, кэши приложения и базы данных в единую стратегию — выбор TTL, триггеров инвалидации и путей отказа, которые выдержат реальный трафик.
Теперь видно тему целиком.
Каждый юнит, от под землёй до орбиты. Кеширование — одно созвездие в атласе; одолей следующую тему и оно загорится рядом.