Наблюдаемость
Continuous profiling: always-on flame graphs с eBPF и корреляцией trace-id
SLO горит в 2:14 ночи. Пейджер будит on-call. Традиционный profiling требует SSH, воспроизведения проблемы под нагрузкой, захвата профиля и его разбора — в 2:14 ночи, под давлением. Continuous profiling уже хранит flame graph за 2:14 на дашборде.
Традиционный vs continuous profiling
Традиционный (on-demand) profiling: SSH, запуск perf record или обращение к /debug/pprof/profile, сбор данных, анализ, выход. Стоимость: только во время захвата. Ограничение: нужно присутствие и активное проявление проблемы. Для нерегулярных инцидентов или тех, что самоустраняются, доказательство теряется.
Continuous profiling: агент работает на каждом хосте или контейнере, сэмплируя 100 раз в секунду непрерывно, пакетирует и отправляет сжатые профили каждые 10-15 секунд на бэкенд. Бэкенд хранит их с индексацией по сервису, хосту и временному диапазону. Хранилище: ~50-200 МБ/сутки на сервис, ~1.5-6 ГБ/месяц. Overhead: 2-5% CPU. Главный выигрыш: когда горит SLO, профиль горящих минут уже сохранён.
eBPF: language-agnostic profiling
Традиционные language profiler’ы (Go pprof, JFR, async-profiler, py-spy) требуют языковой поддержки — рантайм должен предоставлять API для обхода стека. Для Python, Ruby и старых интерпретаторов PHP требуются хуки от команды рантайма.
eBPF-profiler’ы (Pyroscope eBPF mode, Parca) читают стеки со стороны ядра: системный вызов ядра perf_event_open плюс BPF-прикреплённый probe захватывает user-space стеки в момент сэмпла. Это означает:
- Работает для любого языка, любого бинарника, без изменений в коде приложения.
- Один агент покрывает все сервисы на хосте — Go, Java, Node, Python.
- Ловит overhead сторонних библиотек, который language-specific profiler’ы могут пропустить.
Проблема: разрешение символов. Ядро видит адреса памяти; profiler отображает их в имена функций по debug info (DWARF, BTF, JIT-emitted symbol files для V8 или JVM). Большинство production eBPF-profiler’ов справляется с этим; иногда появляются фреймы [unknown], когда DWARF срезан или JIT-код слишком волатилен.
Покрытие profiler’ов по языкам
| Язык | Нативный profiler | Покрытие eBPF |
|---|---|---|
| Go | pprof (встроен) | Полное — frame pointer стандартный |
| Java | JFR, async-profiler | Частичное — нужны JIT symbol map’ы |
| Python | py-spy, cProfile | Ограниченное — фреймы интерпретатора непрозрачны |
| Node.js | —prof, clinic.js, 0x | Частичное — V8 требует флаг —perf-prof |
| Rust / C / C++ | perf, pprof-rs | Полное — скомпилировано с frame pointer’ами |
Корреляция trace-id: от медленного span к flame graph за 30 секунд
Каждый сэмпл профиля может содержать trace-id запроса, обрабатываемого в момент сэмпла — хранится в thread-local контексте. Когда в trace view появляется медленный trace, соответствующие сэмплы профиля (только те, что содержат этот trace-id) фильтруются и рендерятся как flame graph конкретно для этого запроса.
Это мост между «куда ушло время в запросе» (trace span) и «какой код съел CPU» (profile). Рабочий процесс:
- Срабатывает SLO alert — p99 latency выходит за бюджет.
- Открываешь trace view — находишь медленные span’ы, записываешь trace-id.
- Открываешь profile view с фильтром по trace-id — появляется flame graph для этого конкретного запроса.
- Самый широкий фрейм — функция, которую надо починить.
- Готово — меньше чем за 60 секунд.
OTel profile signal (стабилизируется в 2025-2026) стандартизирует эту связку. Production-grade observability платформы (Datadog, Grafana с Pyroscope, Honeycomb) поставляют этот drilldown из коробки.
Экономика хранения профилей
- Размер профиля за 30-секундный захват
- ~50-500 КБ сжатых
- Профилей в час (интервал 15 с)
- 240
- Хранилище на сервис в сутки
- ~50-200 МБ
- Хранилище на сервис в месяц
- ~1.5-6 ГБ
- Флот 200 сервисов
- 300 ГБ - 1.2 ТБ/месяц
- Стоимость object storage
- ~$0.02/ГБ ≈ $25/месяц
- Улучшение хранилища Pyroscope 2.0
- ~3x vs v1 за счёт дедупликации символов
Pyroscope 2.0 (выпущен в апреле 2026) сократил объём хранения в 3 раза за счёт дедупликации символов из профилей одного бинарника — имена функций и пути к источникам хранятся в общей таблице символов вместо повторения в каждом профиле.
Стратегия хранения: 7 дней полное разрешение для активной отладки, 30 дней с downsampling’ом (один профиль на 5 минут), 90 дней для анализа долгосрочных трендов. Команды с ограниченным бюджетом ограничиваются 14 днями fine + 60 днями coarse.
eBPF-profiler показывает много фреймов '[unknown]' для Python-сервиса. В чём причина?
Что даёт корреляция trace-id в continuous profiling в отличие от обычного CPU-профиля?
- 01Какое главное операционное преимущество continuous profiling перед on-demand profiling во время инцидентов?
- 02Почему eBPF-profiler работает для Go и Rust, но показывает [unknown] фреймы для Python?
- 03Как механически работает корреляция trace-id?
Агенты continuous profiling работают на каждом хосте, сэмплируют стеки 100 раз в секунду и отправляют сжатые профили каждые 10-15 секунд на бэкенд — Pyroscope или Parca. При overhead 2-5% это достаточно дёшево, чтобы держать always-on. eBPF-агенты захватывают стеки со стороны ядра без языковых хуков — один агент на хост покрывает Go, Java, Node и Python, хотя интерпретируемые рантаймы требуют дополнительной поддержки для точного разрешения символов. Метки trace-id на каждом сэмпле дают flame graph с фильтром по одному конкретному запросу за менее чем 30 секунд. Дедупликация символов в Pyroscope 2.0 сократила расходы на хранение в 3 раза, снизив месячное хранилище для одного сервиса ниже 10 ГБ. Рабочий процесс SLO → trace → profile сокращает MTTR для любого CPU-bound инцидента до менее чем 90 секунд.
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Profiling: от SLO до flame graphsenior
- Profiling: тест с выбором ответаsenior
- Profiling: чтение профилей и конфиговsenior
- Profiling: тест на свободное припоминаниеsenior
встречается в167
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior