Сети и протоколы
Edge workers и edge-side composition
Страница товара требует глобально-кешированного тела (TTL 10 минут), персонализированной цены в реальном времени (без кеша, получается на edge на каждого пользователя) и общего счётчика комментариев (TTL 60 секунд). Если всё три отправлять к origin на каждый запрос — p95 задержка 300 мс. Если собирать страницу на edge из трёх независимо-кешированных фрагментов — она падает до 30 мс. Вот обещание edge-side composition.
Edge workers: вычислительная модель
Все крупные CDN теперь запускают пользовательский код на edge — не только статические файлы:
- Cloudflare Workers: V8-изоляты. Холодный старт 2–5 мс p99. Лимит памяти 128 МБ. 50 мс CPU wall-time на запрос (расширяется с Workers Unbound). Тысячи клиентских функций разделяют один V8-процесс через изоляцию — минимальные накладные расходы на запуск функции.
- Fastly Compute@Edge: WebAssembly. Холодный старт аналогичен Workers.
- AWS Lambda@Edge: полный рантайм Node.js/Python. Холодный старт 400–600 мс на некоторых региональных POP — штраф 100× против Workers для latency-sensitive путей.
- Vercel Fluid Compute (2026): V8, персистентные тёплые инстансы, параллельная обработка запросов внутри одного изолята. 99.37% запросов без холодного старта. В 1.2–5× быстрее Workers для тяжёлого SSR (рендеринг шаблонов, сборка больших страниц). Бюджет wall-time 50 мс.
- Холодный старт Cloudflare Workers (p99)
- 2–5 мс
- Холодный старт Lambda@Edge (некоторые PoP)
- 400–600 мс
- Доля запросов без холодного старта Vercel Fluid
- 99.37% запросов
- Бюджет CPU wall-time Workers
- 50 мс на запрос
- Лимит памяти Workers
- 128 МБ
- Модель изоляции Workers
- Тысячи клиентов на один V8-процесс
Сценарии применения edge workers
Workers стоят в пути запроса и могут делать всё, что прокси — с кодом:
- Auth на edge: проверить JWT или session token на edge POP без round-trip к origin. Отклонять невалидные запросы до того, как они достигнут серверов.
- A/B-тест маршрутизация: читать cookie пользователя или experiment ID и переписывать URL запроса в
/variant-a/или/variant-b/на edge. - Гео-редирект: Workers имеют доступ к коду страны пользователя (заголовок Cloudflare
CF-IPCountry) — редиректить/на/en/или/de/без участия origin. - Мутация запроса/ответа: добавлять security-заголовки (
Strict-Transport-Security,X-Content-Type-Options) ко всем ответам без изменения origin. - Динамическая маршрутизация: обращаться к нескольким микросервисам, объединять ответы, возвращать merged JSON — всё внутри edge POP, не в центральном регионе.
Бюджет wall-time 50 мс
Workers ограничивают CPU-время до 50 мс на запрос. Это исключает: инференс больших ML-моделей, ресайзинг больших изображений, тяжёлые запросы к базам данных. Допускает: валидацию JWT (~1 мс), переписывание URL (~0.1 мс), KV-lookup (~3 мс), простые HTML-мутации (~5 мс). Проектируйте workers как тонкие слои маршрутизации/auth/мутации, а не вычислительно-тяжёлые бэкенды.
Почему это работает
Почему V8-изоляты, а не контейнеры. Традиционный serverless (Lambda) требует отдельного процесса или контейнера на функцию — запуск занимает 400–600 мс. V8-изоляты — эффективные по памяти песочницы внутри одного V8-процесса: каждый изолят имеет свою кучу, нет разделяемого изменяемого состояния, но разделяют стоимость запуска процесса. Модель Cloudflare: тысячи клиентских функций разделяют один запущенный V8-процесс. Холодный старт нового изолята стоит 2–5 мс, не 400 мс. Гарантия изоляции — криптографическая (V8-сандбокс), а не на уровне OS-процесса — это приемлемо для CDN-нагрузок с недоверенным клиентским кодом.
TLS resumption на edge
Новое TLS-соединение стоит 1 RTT (~10 мс локально на edge). Возобновление сессии через TLS 1.3 PSK (pre-shared keys) пропускает хендшейк при переподключении. Современные CDN реплицируют session tickets по всем POP: если пользователь подключился к POP A, затем переподключается через POP B (смена мобильной сети), POP B уже имеет session ticket — нет повторного хендшейка. Важнее всего на мобильных устройствах (частые хэндоверы между вышками).
Edge-side composition (ESI и HTMLRewriter)
ESI (Edge Side Includes), W3C draft 2001, по-прежнему в production у Akamai. HTML-ответы содержат плейсхолдеры <esi:include src="/fragment/nav" />, которые edge заменяет на закешированные фрагменты перед отправкой браузеру. Каждый фрагмент имеет свой cache key и TTL — shared nav кешируется 6 часов; баннер срочных новостей — 30 секунд.
Современная замена: Cloudflare Workers + HTMLRewriter API. Worker получает HTML-ответ и использует потоковый HTML-парсер HTMLRewriter для вставки фрагментов в конкретные DOM-позиции — быстрее и гибче ESI.
Объединяющая идея: собирать страницу на edge из независимо-кешированных частей. Страница товара:
- Хром страницы (шапка, подвал, навигация):
max-age=21600(6 часов) - Описание товара:
max-age=600(10 минут) - Цена: получается свежей из регионального pricing-сервиса на каждый запрос (~30 мс)
- Персонализированный виджет рекомендаций: из KV-хранилища по user-id (~3 мс)
Результат: полная страница собирается на edge за ~35 мс, нет round-trip к origin для 80% байт.
Страница checkout e-commerce требует обязательных вычисленных на edge ставок налога и доставки. Edge worker получает их из регионального микросервиса при cache miss. Оптимизируйте для cold-load сценариев.
Алерт деградации производительности edge worker
$ curl -w "@format.txt" https://api.example.com/checkout
time_starttransfer: 450ms
time_connect: 12ms
time_tls: 2ms
time_firstbyte: 428ms
Edge diagnostics via worker:
Server-Timing: edge-worker=185ms; regional-service=240ms; kv-lookup=3ms
Worker logs (2026-05-15):
handler_start=0ms
kv_fetch=3ms
regional_service_start=5ms
regional_service_timeout=185ms
handler_end=188ms
total_wall_time=188ms (budget: 50ms × 4 extensions used) Edge worker использует 4× бюджет wall-time, пользователи видят 450 мс ответы. В чём узкое место?
E-commerce сайт должен раздавать страницы товаров глобально с миллисекундной точностью обновления цен. Выберите стратегию кеширования.
- 01Почему Cloudflare Workers достигает холодного старта 2–5 мс, а Lambda@Edge — 400–600 мс?
- 02Опишите edge-side composition для новостной страницы с shared хромом, баннером срочных новостей (свежесть в течение 30 с обязательна) и телом статьи (5 мин устаревания ок).
- 03Что такое бюджет wall-time 50 мс в Cloudflare Workers и что он исключает?
Edge workers выполняют кастомный код на CDN POP с использованием V8-изолятов (Cloudflare Workers: холодный старт 2–5 мс p99) или WebAssembly. Они обеспечивают валидацию auth, A/B-маршрутизацию, гео-редирект, мутацию запроса/ответа и real-time fetch фрагментов без round-trip к origin. Бюджет wall-time 50 мс ограничивает вычислительно-тяжёлые задачи — они принадлежат региональным Functions. Edge-side composition (ESI или Workers + HTMLRewriter) собирает ответы из независимо-кешированных фрагментов — хром страницы кешируется часами, персонализированные или real-time данные получаются свежими на запрос — объединяя эффективность кеша статических ассетов с свежестью динамических данных. Холодный старт Lambda@Edge 400–600 мс дисквалифицирует его для latency-sensitive путей; Vercel Fluid Compute достигает 99.37% запросов без холодного старта через тёплые изоляты. Репликация TLS session tickets по POP амортизирует стоимость переподключений на мобильных.
встречается в162
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Что такое три сигнала: метрики, логи, трейсыjunior
- Метрики и cardinality: cost-модель time-series databasemiddle
- Логи и объём: cost-модель структурного логированияmiddle
- Трейсы и сэмплирование: cost-модель distributed tracingmiddle
- Join-ключи и exemplar''''ы: как три сигнала становятся компонуемымиmiddle
- Observability 2.0: широкие события и сдвиг стоимостиsenior
- Режимы сбоя и инженерная практика: cardinality budget''''ы, PII и сэмплированиеsenior
- Зачем нужны структурные логи: дневник против таблицыjunior
- Схема продакшн-лога: поля, которые несёт каждая строкаmiddle
- Log levels и маршрутизация алертовmiddle
- Стратегии sampling и стоимость логовmiddle
- PII-редакция и log injectionsenior
- Propagation trace-контекста в логахsenior
- OTel Logs Data Model и audit-логи как подсистемаsenior
- Сигналы OTel, Semantic Conventions и проводной формат OTLPmiddle
- Авто-инструментирование и ручные спаны: правило 80/20 в OTelmiddle
- Collector OTel: receivers, processors, exporters и паттерны развёртыванияmiddle
- Стратегии сэмплирования: head, tail и parent-basedmiddle
- Vendor-нейтральность, eBPF-инструментирование, Operator и OTel в браузере и serverlesssenior
- Эксплуатация OTel Collector: надёжность, version skew, режимы отказа и управлениеsenior
- RED и USE: два чек-листа, одна дисциплина триажаjunior
- Инструментация RED в Prometheus: счётчики, гистограммы и дисциплина cardinalitymiddle
- USE на Linux: CPU, память, диск, сеть и PSImiddle
- Golden signals, структура дашборда и auto-RED в service meshmiddle
- Cardinality как драйвер затрат: label, PII, exemplars и семплированиеmiddle
- Native histograms, SLO и паттерны production-сбоевmiddle
- Выбор SLI и SLO-целей: отношения, не ощущенияmiddle
- Multi-window multi-burn-rate-алертинг: почему AND лучше ORmiddle
- Error budget policy, latency SLO и составные journeysmiddle
- Iceberg SLI, математика составного SLO и SLA vs SLOsenior
- Flame graph: читаем картинку, которая показывает, куда ушло времяjunior
- Sampling vs instrumentation profiling: почему 99 Гц побеждает в productionmiddle
- Типы профилей: CPU, память, off-CPU, mutex — какой когда братьmiddle
- Continuous profiling: always-on flame graphs с eBPF и корреляцией trace-idmiddle
- Как flame graph строится из сэмплов и как использовать его в productionmiddle
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Debugging-воронка: SLO → RED → trace → profilejunior
- Архитектура OTel: один SDK, четыре сигнала, один wire-форматmiddle
- Экономия на observability: удерживаем затраты в пределах 5% inframiddle
- Масштаб, безопасность и ROI наблюдаемых системsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior