Базы данных
Типы сканирования: Seq, Index, Bitmap, Index-Only
EXPLAIN показывает Seq Scan на таблице из 10M строк, хотя индекс на колонке фильтрации существует. Планировщик не сломан — он подсчитал, что последовательное сканирование дешевле для данной селективности. Понимать, когда и почему планировщик выбирает тот или иной тип сканирования — вот что отличает угадывание от диагностики.
Чтение строки стоимости
Каждый узел плана печатает:
(cost=startup..total rows=N width=B)startup— стоимость до выдачи первой строки. Ноль для Seq Scan; ненулевая для Sort (нужно прочитать всё первым делом).total— стоимость полного выполнения узла.rows— оценка строк, которые выдаст этот узел.width— средняя ширина строки в байтах.
Стоимость измеряется в произвольных единицах, где 1.0 ≈ одно последовательное чтение страницы. Важны только соотношения; абсолютные числа без контекста бессмысленны. С ANALYZE каждый узел также получает (actual time=startup..total rows=N loops=L) — реальное wall time в миллисекундах.
Правило интерпретации: если узел находится на внутренней стороне Nested Loop, делите actual time на loops, чтобы получить стоимость одного выполнения.
Четыре типа сканирования
| Тип сканирования | Паттерн I/O | Побеждает когда |
|---|---|---|
| Seq Scan | Полная куча, последовательно | Предикат совпадает со многими строками или нет пригодного индекса |
| Index Scan | Обход индекса + чтение кучи на строку (случайный I/O) | Мало совпадающих строк (<5-15% таблицы) и строки не кластеризованы |
| Bitmap Heap Scan | Обход индекса → битовая карта TID → упорядоченное чтение кучи | Много разрозненных строк (сотни — миллионы); преобразует случайный I/O в последовательный |
| Index Only Scan | Только листья индекса — без чтения кучи | Все нужные колонки в индексе И Visibility Map говорит, что страницы all-visible |
Seq Scan
Формула стоимости: relpages × seq_page_cost + reltuples × cpu_tuple_cost. По умолчанию seq_page_cost = 1.0, cpu_tuple_cost = 0.01. Для таблицы в 5000 страниц: 5000 × 1.0 + 1M × 0.01 = 15,000 единиц. Оптимален, когда предикат неселективен (совпадает большинство строк) — читать всю кучу последовательно быстрее, чем случайно переходить к каждой совпадающей строке.
Index Scan
Стоимость растёт с random_page_cost × matching_rows. По умолчанию random_page_cost = 4.0 (эпоха HDD). Для 100 совпадающих строк: 100 × 4.0 = 400 — намного дешевле, чем Seq Scan за 15,000. Для 100,000 совпадающих строк: 100,000 × 4.0 = 400,000 — Seq Scan выигрывает. Точка пересечения примерно там, где предикат совпадает с 5–15% таблицы.
Замечание по настройке для SSD: на NVMe SSD случайные чтения лишь в 1.5–2× медленнее последовательных — не в 4×. Установите random_page_cost = 1.1 в postgresql.conf для SSD-систем. Планировщик будет предпочитать Index Scan для значительно большей доли запросов.
Bitmap Heap Scan
Двухэтапный процесс: сначала Bitmap Index Scan строит в памяти битовую карту всех совпадающих TID из индекса; затем Bitmap Heap Scan сортирует TID по физическому адресу страницы и читает кучу по порядку. Это преобразует разрозненные случайные чтения в почти последовательный обход кучи. Побеждает, когда совпадает много строк, но они разбросаны по куче — промежуток между Index Scan и Seq Scan.
Битовую карту можно объединять через OR для нескольких индексов (узел BitmapOr) — полезно, когда предикат OR имеет индекс на каждую колонку.
Index Only Scan
Читает только листья индекса — без чтения кучи — при двух условиях: (1) все нужные запросу колонки хранятся в индексе (как ключевые или через INCLUDE), и (2) Visibility Map подтверждает, что страница «all-visible» (каждый кортеж виден всем транзакциям). Когда бит VM не установлен, Postgres должен обратиться к куче для этой страницы. В выводе EXPLAIN ANALYZE значение Heap Fetches: N показывает, как часто это происходило — высокое N означает, что VM устарела и VACUUM давно не запускался.
BUFFERS: картина I/O
EXPLAIN (ANALYZE, BUFFERS) добавляет учёт буферов на каждом узле:
Seq Scan on orders (actual time=0.1..450 rows=1000000 loops=1)
Buffers: shared hit=4800 read=200shared hit— страница найдена в кешеshared_buffersPostgres (без дискового I/O)read— страница получена с диска или из ОСdirtied— страница изменена этим узломwritten— страница сброшена на диск
Высокий read при низком hit означает, что рабочий набор больше shared_buffers или запрос обращается к холодным данным. Это диагностирует «медленно из-за CPU или I/O»: высокие reads = ограничен I/O; мало reads, но высокое actual time = ограничен CPU (обычно плохое соединение или тяжёлая сортировка).
- seq_page_cost (умолчание)
- 1.0
- random_page_cost (умолчание, для HDD)
- 4.0
- random_page_cost (настройка для SSD)
- 1.1
- cpu_tuple_cost
- 0.01
- cpu_index_tuple_cost
- 0.005
- Точка пересечения Index Scan vs Seq Scan (типично)
- ~5-15% строк таблицы
- Ускорение Index Only Scan vs Index Scan
- ~10-100x на горячих чтениях
Таблица из 1M строк имеет индекс на `status`. Запрос `WHERE status = 'active'` возвращает 400,000 строк (40% таблицы). Какой тип сканирования, скорее всего, выберет планировщик?
EXPLAIN ANALYZE показывает `Index Only Scan ... Heap Fetches: 12000`. Что это означает?
На NVMe SSD сервере вы оставляете `random_page_cost` со значением по умолчанию 4.0. Каков производственный эффект?
- 01Объясните, почему планировщик выбирает Seq Scan на таблице из 1M строк, когда на колонке фильтрации есть индекс.
- 02Когда Bitmap Heap Scan выигрывает у обоих Index Scan и Seq Scan?
- 03Что такое вывод BUFFERS в EXPLAIN ANALYZE и как им диагностировать I/O vs CPU узкие места?
Postgres выбирает среди четырёх типов сканирования на основе стоимости: Seq Scan читает каждую страницу кучи последовательно и побеждает, когда совпадает большинство строк; Index Scan обходит B-дерево и читает строки кучи по одной, побеждая при селективном предикате (примерно <10% строк); Bitmap Heap Scan строит упорядоченную битовую карту TID и читает кучу по порядку, побеждая в среднем диапазоне селективности; Index Only Scan полностью пропускает кучу, когда все нужные колонки есть в индексе и Visibility Map актуальна. Планировщик использует константные стоимости — seq_page_cost, random_page_cost, cpu_tuple_cost — для сравнения вариантов. На NVMe SSD установите random_page_cost = 1.1, чтобы планировщик корректно предпочитал Index Scan для селективных предикатов. Используйте EXPLAIN (ANALYZE, BUFFERS), чтобы видеть, ограничен ли запрос I/O (много читаемых страниц) или CPU (высокое actual time при малом числе чтений).
Практика
Сделай это, чтобы превратить узнавание в навык.
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Планы выполнения: диагностируй и стабилизируй медленный запросsenior
- Планы выполнения: тест с выбором ответаsenior
- Планы выполнения: тест на припоминаниеsenior
встречается в174
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Что такое три сигнала: метрики, логи, трейсыjunior
- Метрики и cardinality: cost-модель time-series databasemiddle
- Логи и объём: cost-модель структурного логированияmiddle
- Трейсы и сэмплирование: cost-модель distributed tracingmiddle
- Join-ключи и exemplar''''ы: как три сигнала становятся компонуемымиmiddle
- Observability 2.0: широкие события и сдвиг стоимостиsenior
- Режимы сбоя и инженерная практика: cardinality budget''''ы, PII и сэмплированиеsenior
- Зачем нужны структурные логи: дневник против таблицыjunior
- Схема продакшн-лога: поля, которые несёт каждая строкаmiddle
- Log levels и маршрутизация алертовmiddle
- Стратегии sampling и стоимость логовmiddle
- PII-редакция и log injectionsenior
- Propagation trace-контекста в логахsenior
- OTel Logs Data Model и audit-логи как подсистемаsenior
- Сигналы OTel, Semantic Conventions и проводной формат OTLPmiddle
- Авто-инструментирование и ручные спаны: правило 80/20 в OTelmiddle
- Collector OTel: receivers, processors, exporters и паттерны развёртыванияmiddle
- Стратегии сэмплирования: head, tail и parent-basedmiddle
- Vendor-нейтральность, eBPF-инструментирование, Operator и OTel в браузере и serverlesssenior
- Эксплуатация OTel Collector: надёжность, version skew, режимы отказа и управлениеsenior
- RED и USE: два чек-листа, одна дисциплина триажаjunior
- Инструментация RED в Prometheus: счётчики, гистограммы и дисциплина cardinalitymiddle
- USE на Linux: CPU, память, диск, сеть и PSImiddle
- Golden signals, структура дашборда и auto-RED в service meshmiddle
- Cardinality как драйвер затрат: label, PII, exemplars и семплированиеmiddle
- Native histograms, SLO и паттерны production-сбоевmiddle
- Выбор SLI и SLO-целей: отношения, не ощущенияmiddle
- Multi-window multi-burn-rate-алертинг: почему AND лучше ORmiddle
- Error budget policy, latency SLO и составные journeysmiddle
- Iceberg SLI, математика составного SLO и SLA vs SLOsenior
- Flame graph: читаем картинку, которая показывает, куда ушло времяjunior
- Sampling vs instrumentation profiling: почему 99 Гц побеждает в productionmiddle
- Типы профилей: CPU, память, off-CPU, mutex — какой когда братьmiddle
- Continuous profiling: always-on flame graphs с eBPF и корреляцией trace-idmiddle
- Как flame graph строится из сэмплов и как использовать его в productionmiddle
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Debugging-воронка: SLO → RED → trace → profilejunior
- Архитектура OTel: один SDK, четыре сигнала, один wire-форматmiddle
- Экономия на observability: удерживаем затраты в пределах 5% inframiddle
- Масштаб, безопасность и ROI наблюдаемых системsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior