Базы данных
SSI и production-тюнинг autovacuum
Production OLTP-кластер внезапно логирует сотни ошибок “could not serialize access” в минуту на таблице orders. У тебя 15 минут до эскалации. Путь диагностики — подтверждение уровня изоляции, счётчик предикатных блокировок, подлинность конфликта — это пошаговая процедура, не угадывание.
Внутренности SSI
Postgres 9.1 ввёл SSI по статье Cahill, Röhm и Fekete (2008). Механизм:
- Каждое чтение отслеживает «предикатные блокировки» — лёгкие, в памяти, ссылки на «я прочитал этот набор»
- Каждая запись отслеживает rw-антизависимости — «эта транзакция записала что-то, что соответствовало моему предикату, после того как я прочитал»
- На коммите, если транзакция часть «опасной структуры» — цикла rw-антизависимостей — SSI откатывает её с SQLSTATE 40001
could not serialize access due to read/write dependencies
Математика консервативна: SSI иногда откатывает транзакции, которые закоммитились бы безопасно (false positive корректны, но стоят throughput), но никогда не пропускает non-serializable расписание.
Ограничение памяти: предикатные блокировки ограничены max_pred_locks_per_transaction × max_connections. Под нагрузкой блокировки грубеют: row → page → relation, поднимая долю false positive.
Операционно: отслеживай частоту SQLSTATE 40001 в логах. Если превышает несколько процентов от коммитов — давление блокировок выходит за бюджет.
Диагностика SSI-кризиса
Production OLTP-кластер внезапно логирует сотни ошибок 'could not serialize access' в минуту на таблице orders. Проследи диагностику.
Production-тюнинг autovacuum
Дефолтные ручки слишком мягкие для любой высоконагруженной таблицы. Per-table override:
ALTER TABLE orders SET (
autovacuum_vacuum_scale_factor = 0.05, -- запуск на 5% мёртвых (вместо 20%)
autovacuum_vacuum_cost_limit = 2000, -- высокий IO-бюджет за цикл
autovacuum_vacuum_cost_delay = 2 -- 2мс задержки (0 на NVMe)
);Для NVMe: cost_delay = 0. Для burst-нагрузок — дополнительно VACUUM (PARALLEL 4) orders; ночью по cron.
Кластерные ручки: autovacuum_max_workers = 6–8 на больших хостах; воркеры конкурируют за слоты в max_worker_processes.
Мониторинг прогресса live:
SELECT phase, heap_blks_scanned, heap_blks_total,
index_vacuum_count
FROM pg_stat_progress_vacuum
WHERE relid = 'orders'::regclass;Фазы: scanning heap → vacuuming indexes → vacuuming heap → cleaning up indexes → truncating heap → performing final cleanup.
Observability: метрики, которые реально двигаются
pg_stat_all_tables.n_dead_tup + n_live_tup— доля bloat per-tablepg_stat_user_tables.last_autovacuum,last_autoanalyze— отставание уборкиpg_stat_activity WHERE backend_xmin IS NOT NULL ORDER BY backend_xmin— кто пинит oldest-xminpg_stat_replication_slots.xmin— bloat, удерживаемый slotpg_stat_database.deadlocks + pg_stat_database_conflicts— контеншнpg_stat_database.xact_commit + xact_rollback— transaction throughput- Log-scraping на
SQLSTATE 40001— SSI false-positive rate SELECT datname, age(datfrozenxid), age(datminmxid) FROM pg_database— алерты на 1B/1.2B
Расширения: pgstattuple (физическое состояние страниц), pg_buffercache (cache occupancy). Prometheus: pg_exporter, postgres_exporter.
HOT-доля и fillfactor
Мониторинг HOT: pg_stat_all_tables.n_tup_hot_upd / n_tup_upd. Выше 80% — хорошо; ниже 50% — fillfactor слишком агрессивный или неправильный набор индексов. pgstattuple выдаёт tuple_count, dead_tuple_count, free_space per-table для детального осмотра.
Tradeoff: стратегия изоляции для банка
Сервис перевода денег банка двигает суммы между счетами. Выбери стратегию изоляции, лучше всего балансирующую корректность, throughput и операционную сложность.
DesignPrompt: autovacuum-политика
Спроектируй политику autovacuum для высоконагруженной OLTP-таблицы, получающей 5 000 вставок и обновлений в секунду, с целевой долей мёртвых tuple ниже 10% и нулевым влиянием на пользовательскую latency.
- Таблица 200 ГБ, рост 2–3 ГБ в день.
- Хранилище NVMe, single-tenant.
- Приложение периодически открывает 5-минутные аналитические транзакции с реплики.
- Customer-facing p99 должна остаться под 50 мс во время autovacuum.
- Окон downtime нет.
- Per-table scale_factor значительно ниже глобального дефолта 0.2.
- cost_delay = 0 только потому что NVMe это вытянет; rotational storage требует cost_delay > 0.
- hot_standby_feedback = OFF на реплике — единственная самая важная настройка, она отвязывает аналитику от primary bloat.
- Fillfactor 80 оставляет место HOT-обновлениям без чрезмерной потери места.
- Явный ночной VACUUM — belt-and-suspenders, но окупается обновлением статистики.
Проверь себя
Postgres логирует 'cannot remove tuples deleted by transactions in progress' при autovacuum на 200 ГБ orders. Самая вероятная корневая причина?
SSI логирует 8% ошибок 40001 от всех коммитов. Первый шаг диагностики?
- 01Объясни, как ломается HOT-цепочка и какие наблюдаемые симптомы говорят, что это происходит слишком часто.
- 02Банк настаивает на SERIALIZABLE для переводов. Throughput на пике в 5 раз ниже чем под READ COMMITTED. DBA предлагает READ COMMITTED + SELECT FOR UPDATE. Compliance переживает за корректность. Кто прав и почему?
- SSI: предикатные блокировки + rw-антизависимости + обнаружение цикла на коммите = SQLSTATE 40001
- Память ограничена max_pred_locks_per_transaction × max_connections; при нехватке блокировки грубеют (row→page→relation)
- >5% ошибок 40001 от коммитов → диагностировать давление предикатных блокировок
- Per-table autovacuum override: scale_factor = 0.02–0.05, cost_limit = 2000–4000, cost_delay = 0 на NVMe
- hot_standby_feedback = off на аналитических репликах — защищает primary autovacuum
- Мониторинг: pg_stat_progress_vacuum.phase, n_dead_tup ratio, backend_xmin oldest holder, slot xmin
встречается в140
- Почему GraphQL получает N+1junior
- Механика DataLoader: батчинг на границе тикаmiddle
- Контракты batch-функции: порядок, формы, ошибкиmiddle
- Federation и lookahead: батчинг за пределами DataLoadermiddle
- Защита сложности запросов: depth, cost, persisted queriesmiddle
- Senior GraphQL API: scheduling-контракт, изоляция арендаторов, наблюдаемостьsenior
- Зачем идемпотентность: безопасные retryjunior
- Серверный state machine: четыре состояния idempotency keymiddle
- Outbox и inbox: effectively-once через dual-write границуmiddle
- Конкурентность и архитектура кеша для идемпотентности на масштабеsenior
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Event loop: один поток, три очередиjunior
- Задачи, микрозадачи и scheduler.yield()middle
- Голодание микрозадач, длинные задачи и LoAFsenior
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- React, Vue и наблюдаемость INP в продакшенеsenior
- Render pipeline: шесть стадий от байтов до пикселейjunior
- Цена стадий и модель процесса рендерераmiddle
- Инвалидация, dirty-биты и containmiddle
- Слои композитора: продвижение, перекрытие и память GPUmiddle
- Флейм-стрип DevTools и жизненный цикл кадраmiddle
- Layout thrash: форсированная синхронная компоновкаsenior
- BeginMainFrame, анимации на потоке compositor и память GPUsenior
- Observability в проде: LoAF, INP и полная поверхность атакиsenior
- Что такое V8 и почему производительность различается в 100 разjunior
- Четырёхуровневый JIT-конвейер V8 и профилированная тиеризацияmiddle
- Hidden classes, деревья переходов и расположение в памятиmiddle
- Inline caches, состояния IC и деоптимизацияmiddle
- Orinoco GC: параллельный scavenger, конкурентная разметка и барьеры записиmiddle
- Спекулятивный движок TurboFan и ловушка deopt-loopsenior
- V8 в production: Isolates, сжатие указателей и реальные аварииsenior
- Жизненный цикл service worker и стратегии кешированияmiddle
- Граничные случаи service worker: version skew, долговременность и ловушка навигацииsenior
- Что делает реконсилер: render vs commitjunior
- Объект fiber и дерево с двойной буферизациейmiddle
- Чистота фазы render и подшаги фазы commitmiddle
- Реконсиляция: эвристики диффа и ловушка ключейmiddle
- Приоритетные lanes, time-slicing и useTransitionmiddle
- Bailout, мемоизация и tearingsenior
- React Profiler, компилятор и продакшн-наблюдаемостьsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Hydration mismatch: причины, обнаружение и правило детерминизмаsenior
- RSC, стратегия на маршрут и production-наблюдаемостьsenior
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- CLS: почему происходят сдвиги лейаута и как их остановитьmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое cache stampede и почему он делает всё хужеjunior
- Лок и single-flight: ограничение параллельных rebuildmiddle
- XFetch: вероятностное раннее истечение без координацииmiddle
- Stale-while-revalidate и CDN request coalescingmiddle
- Детектирование stampede и дизайн TTL для продакшенаmiddle
- Метастабильный сбой, fencing-токены и production-постмортемыsenior
- Роли Raft, term и почему majority-кворум предотвращает split brainjunior
- Как Raft реплицирует log entry и решает, что его безопасно коммититьmiddle
- Выборы лидера в Raft: таймауты, правила голосования и четыре свойства безопасностиmiddle
- Raft в реальном мире: partition, медленный диск и клиентская маршрутизацияmiddle
- Расширения Raft: pre-vote, learner, snapshot и линеаризуемые чтенияsenior
- Raft в production: membership change, Multi-Raft и observabilitysenior
- Где происходит data fetching — и почему это решает LCPjunior
- Fetch waterfall''''ы — диагностика и лечение через Promise.allmiddle
- React Server Components и Suspense streamingmiddle
- Клиентский кэш: TanStack Query, SWR и stale-while-revalidatemiddle
- LCP, prefetch и race conditions в интерактивном fetchingmiddle
- Senior internals: RSC payload, слои кэша и production паденияsenior
- Трёхстороннее рукопожатие TCPjunior
- Номера последовательности и состояние соединенияmiddle
- DNS: что делает и зачем существуетjunior
- Обход резолвера: перенаправления, типы записей и gluemiddle
- TTL, кеширование и распространение DNSmiddle
- Рукопожатие за 1 RTT: key share и ECDHEmiddle
- Возобновление сессии и 0-RTTmiddle
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- Формат WebSocket-фрейма: opcodes, маскирование, фрагментацияmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Health checks, connection draining и slow startmiddle
- Session affinity, consistent hashing и правильное решениеmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- Connection ID и миграция сетиmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Что такое три сигнала: метрики, логи, трейсыjunior
- Зачем нужны структурные логи: дневник против таблицыjunior
- Схема продакшн-лога: поля, которые несёт каждая строкаmiddle
- PII-редакция и log injectionsenior
- OTel Logs Data Model и audit-логи как подсистемаsenior
- SLI, SLO и error budget: надёжность в числахjunior
- Error budget policy, latency SLO и составные journeysmiddle
- Продакшн-отказы SLO, самонаблюдаемость, безопасность и общая картинаsenior
- Петля инцидента: от пейджера до постмортема до предотвращенияmiddle
- Cache lines и false sharing: когда параллелизм замедляет кодmiddle
- SIMD и data layout: AoS vs SoA и разница в 4–8xmiddle
- Cache-oblivious алгоритмы, PGO и production failuressenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior
- At-most-once, at-least-once, exactly-once: три контракта доставкиjunior
- Три ножки сбоя — где реально происходят дубликаты и потериmiddle
- Consumer-side dedup: самый дешёвый путь к exactly-once processingmiddle
- Kafka exactly-once semantics: idempotent producer и транзакцииmiddle
- SQS visibility timeout, DLQ и outbox patternmiddle
- Exactly-once в production: impossibility-доказательство, гибридные паттерны и реальные инцидентыsenior
- Что такое OAuth и почему пароли — не ответjunior
- Authorization code flow с PKCEmiddle
- Валидация ID-токена и управление JWKS-кешемmiddle
- Ротация refresh-токенов и scope-based least privilegemiddle
- Sender-constrained токены: DPoP и mTLSsenior
- OAuth в production: audience атаки, observability и реальные провалыsenior