Архитектура бэкенда
Зачем пул: цена создания соединения
Junior-сервис открывает свежее соединение с Postgres на каждый запрос, делает один быстрый SELECT и закрывает его. Запрос занимает 1 мс; обработка занимает 35. Недостающие 34 мс — чистый setup: TCP-рукопожатие, TLS-рукопожатие и база, аутентифицирующая пользователя и форкающая backend-процесс — каждый раз, выброшенное после одного запроса. Под нагрузкой база тратит больше CPU на создание и уничтожение соединений, чем на ответы. Никто не написал медленный запрос. Написали быстрый запрос, обёрнутый в дорогой ритуал, повторяемый на каждом запросе.
Соединение дорого создавать
Новичку соединение с базой кажется бесплатным — вызови connect(), получи объект. Под капотом открытие одного — цепочка медленных шагов:
- TCP-рукопожатие — круговой обмен для установки сокета (один RTT до того, как потекут байты).
- TLS-рукопожатие — настройка шифрования, 2 круговых обмена на TLS 1.3, 3 на TLS 1.2; на канале с реальной задержкой это одно — десятки-сотни миллисекунд.
- Аутентификация — база проверяет учётные данные, часто со своим challenge/response-обменом.
- Выделение backend — Postgres форкает выделенный OS-процесс на соединение; MySQL порождает поток. Этот процесс резервирует память (~2–3 МБ общей/служебной памяти до того, как выполнит хоть один запрос).
Так что соединение — не дешёвая ручка, это TCP-сокет плюс TLS-сессия плюс живой серверный процесс. Создавать и сносить его на запрос значит платить всё это за работу в один запрос.
Пул амортизирует цену
Пул соединений — небольшой долгоживущий набор уже открытых соединений, держимых наготове. Вместо connect → query → close поток становится:
- Взять (acquire/borrow) готовое соединение из пула.
- Выполнить запрос на нём.
- Вернуть (release) его в пул — не закрыть, лишь пометить свободным для следующего запроса.
Дорогие рукопожатия случаются раз, когда пул наполняется, затем те же соединения переиспользуются тысячи раз. Это амортизация: фиксированная цена setup, размазанная по многим использованиям, пока доля на запрос не станет ничтожной. Запрос теперь платит ~0 мс setup вместо ~34, а база перестаёт жечь CPU на churn соединений.
Почему это работает
Зачем держать соединения открытыми и простаивающими, а не открывать по требованию и закрывать по завершении? Затем, что весь смысл — не платить за setup на пути запроса. Простаивающее пулевое соединение стоит немного памяти на клиенте и сервере, но оно мгновенно доступно — взятие почти бесплатная внутрипроцессная операция. Альтернатива, открытие на запрос, переносит задержку рукопожатия прямо во время ожидания пользователя и превращает базу в фабрику соединений под нагрузкой. Пул меняет небольшую, ограниченную, постоянную цену (горстка простаивающих соединений) на устранение большой, повторяемой, на-каждый-запрос цены. Этот размен почти всегда оправдан для сервера, обрабатывающего больше чем струйку трафика.
Пул — это ещё и лимит
Переиспользование — очевидная польза, но вторая работа пула важна не меньше: это граница. Пул размера 20 значит, что от этого сервиса к базе одновременно существует не более 20 соединений, сколько бы запросов ни пришло. Этот потолок — фича: он защищает базу, которая может держать лишь столько backend-ов, прежде чем упадёт (Postgres по умолчанию max_connections = 100). Без пула всплеск в 5 000 конкурентных запросов попытался бы открыть 5 000 соединений, и база отвергла бы их «too many clients». Пул превращает неограниченный спрос в фиксированное, выживаемое число — та же идея ограниченной конкурентности из прошлого юнита, применённая к самому дорогому downstream-ресурсу бэкенда.
| Соединение на запрос | Пулевые соединения | |
|---|---|---|
| Цена setup платится | Каждый запрос (TCP+TLS+auth) | Раз, при наполнении пула |
| Задержка на запрос | + десятки мс рукопожатия | ~0 мс (внутрипроцессное взятие) |
| Нагрузка на стороне БД | Постоянный fork/teardown churn | Стабильный набор backend-ов |
| Конкурентность к БД | Неограниченная (всплеск → перегруз) | Ограничена размером пула |
| Отказ при всплеске | «too many clients», отказ | Запросы ждут или падают быстро |
Хэндлер выполняет запрос на 1 мс, но каждый запрос занимает ~35 мс целиком, и CPU базы высок, хотя запросы тривиальны. Какова вероятнейшая причина?
Помимо переиспользования соединений, какую вторую защиту даёт бэкенду фиксированный пул?
Упорядочи жизненный цикл одного запроса с пулом соединений:
- 1 Взять готовое соединение из пула
- 2 Выполнить запрос на одолженном соединении
- 3 Вернуть соединение в пул (свободно, не закрыто)
- 4 Поздний запрос берёт то же соединение и переиспользует его
- 01Почему создание соединения с базой дорого, шаг за шагом?
- 02Как работает пул соединений и что значит амортизация здесь?
- 03Почему пул — это ещё и граница, и почему это важно?
Соединение с базой выглядит бесплатным, но это цепочка дорогого setup: TCP-рукопожатие, TLS-рукопожатие (два круговых обмена на 1.3, три на 1.2), аутентификация и серверный backend-процесс, резервирующий пару мегабайт до любой работы. Открытие одного на запрос хоронит десятки миллисекунд рукопожатия в каждом вызове и заставляет базу жечь CPU на форк и снос процессов — быстрый запрос, обёрнутый в дорогой ритуал. Пул соединений чинит обе половины: открывает небольшой набор соединений раз и одалживает их (взять, запрос, вернуть-не-закрыть), амортизируя setup до почти нуля на запрос, и ограничивает общее число соединений своим размером, защищая базу со всего 100 backend-ами по умолчанию от перегруза-всплеском ‘too many clients’. Пул — это ограниченная конкурентность для самого дорогого ресурса, которого касается бэкенд. Но пул помогает лишь при правильном размере — и следующий урок покажет, почему больше контринтуитивно не лучше и как вычислить число, реально максимизирующее пропускную способность.
встречается в185
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Что такое три сигнала: метрики, логи, трейсыjunior
- Метрики и cardinality: cost-модель time-series databasemiddle
- Логи и объём: cost-модель структурного логированияmiddle
- Трейсы и сэмплирование: cost-модель distributed tracingmiddle
- Join-ключи и exemplar''''ы: как три сигнала становятся компонуемымиmiddle
- Observability 2.0: широкие события и сдвиг стоимостиsenior
- Режимы сбоя и инженерная практика: cardinality budget''''ы, PII и сэмплированиеsenior
- Зачем нужны структурные логи: дневник против таблицыjunior
- Схема продакшн-лога: поля, которые несёт каждая строкаmiddle
- Log levels и маршрутизация алертовmiddle
- Стратегии sampling и стоимость логовmiddle
- PII-редакция и log injectionsenior
- Propagation trace-контекста в логахsenior
- OTel Logs Data Model и audit-логи как подсистемаsenior
- Сигналы OTel, Semantic Conventions и проводной формат OTLPmiddle
- Авто-инструментирование и ручные спаны: правило 80/20 в OTelmiddle
- Collector OTel: receivers, processors, exporters и паттерны развёртыванияmiddle
- Стратегии сэмплирования: head, tail и parent-basedmiddle
- Vendor-нейтральность, eBPF-инструментирование, Operator и OTel в браузере и serverlesssenior
- Эксплуатация OTel Collector: надёжность, version skew, режимы отказа и управлениеsenior
- RED и USE: два чек-листа, одна дисциплина триажаjunior
- Инструментация RED в Prometheus: счётчики, гистограммы и дисциплина cardinalitymiddle
- USE на Linux: CPU, память, диск, сеть и PSImiddle
- Golden signals, структура дашборда и auto-RED в service meshmiddle
- Cardinality как драйвер затрат: label, PII, exemplars и семплированиеmiddle
- Native histograms, SLO и паттерны production-сбоевmiddle
- Выбор SLI и SLO-целей: отношения, не ощущенияmiddle
- Multi-window multi-burn-rate-алертинг: почему AND лучше ORmiddle
- Error budget policy, latency SLO и составные journeysmiddle
- Iceberg SLI, математика составного SLO и SLA vs SLOsenior
- Flame graph: читаем картинку, которая показывает, куда ушло времяjunior
- Sampling vs instrumentation profiling: почему 99 Гц побеждает в productionmiddle
- Типы профилей: CPU, память, off-CPU, mutex — какой когда братьmiddle
- Continuous profiling: always-on flame graphs с eBPF и корреляцией trace-idmiddle
- Как flame graph строится из сэмплов и как использовать его в productionmiddle
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Debugging-воронка: SLO → RED → trace → profilejunior
- Архитектура OTel: один SDK, четыре сигнала, один wire-форматmiddle
- Экономия на observability: удерживаем затраты в пределах 5% inframiddle
- Масштаб, безопасность и ROI наблюдаемых системsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior