Наблюдаемость
Типы профилей: CPU, память, off-CPU, mutex — какой когда брать
Span занимает 500 мс. Открываешь CPU-профиль — сервис использовал 20 мс CPU. Куда ушли остальные 480 мс? CPU profiling слеп к ожиданию. Если остановиться здесь — ответ не найти никогда.
CPU профили: что видят и что упускают
CPU profiling сэмплирует call stack, пока поток на CPU — выполняет инструкции. Запрос, проведший 20 мс в вычислениях и 480 мс ожидая DB-запроса, покажет 20 мс в CPU-профиле, а 480 мс останутся невидимыми.
Это важнейшее ограничение profiling: CPU-профили видят только функции, потребляющие процессор. Всё, чего ждёт программа — I/O, сеть, локи, планировщик — находится off-CPU и невидимо для CPU-profiler’а.
Memory и allocation профили
Heap profiler’ы сэмплируют аллокации, а не CPU. Heap profile в Go сэмплирует одну аллокацию на ~512 КиБ (Poisson) и записывает стек при каждом сэмпле. Результат — flame graph, где ширина это выделенные байты, а не CPU-время. Это находит memory-горячки: функция, выделяющая 100 МБ/с, выглядит широкой.
Обнаружение memory leak с heap profile:
- Взять heap профиль.
- Подождать 30-60 минут.
- Взять ещё один heap профиль.
- Сравнить (
go tool pprof -base baseline.heap current.heap). - Функции, чья аллокация выросла, — источник утечки.
Allocation профили захватывают короткоживущие аллокации, которые GC возвращает; heap профили — снимки живой памяти. JVM-эквиваленты: async-profiler с -e alloc, JFR allocation events. Python: tracemalloc, memray.
Off-CPU профили
Работа Brendan Gregg по off-CPU analysis (2013) определила пробел: CPU-профили пропускают всё, чего ждёт процесс. eBPF-реализации цепляются за события переключения контекста kernel-планировщика. Когда планировщик снимает поток с CPU (блокировка на I/O, sleep, ожидание лока), kernel захватывает стек потока. Этот стек — место, где началось ожидание. Когда поток возвращается, прошедшее время атрибутируется этому стеку.
Off-CPU flame graph показывает время ожидания точно так же, как CPU flame graph показывает время выполнения. Для I/O-bound сервиса off-CPU профиль — единственный, который хоть что-то объясняет: CPU-профиль просто говорит «сервис простаивал».
Block и mutex профили
Block profile (Go: runtime.SetBlockProfileRate): время ожидания на sync-примитивах — каналах, condition variable’ах, WaitGroup’ах. Более фокусированный, чем off-CPU, так как нацелен на language-level синхронизацию.
Mutex profile (runtime.SetMutexProfileFraction): конкуренция за локи конкретно. Сообщает, какой код держал лок, пока другие его ждали, — атрибутировано в момент unlock’а.
| Тип профиля | Ширина означает | Когда брать |
|---|---|---|
| CPU | Потреблённое CPU-время | Высокое CPU, медленный ответ |
| Heap / Allocation | Выделенные байты | GC pressure, OOM, рост памяти |
| Off-CPU | Время ожидания (все причины) | Медленный запрос, но низкий CPU |
| Block | Время на sync-примитивах | Подозреваемая конкуренция Go goroutine |
| Mutex | Время конкуренции за лок | Подозреваемая высокая конкуренция за лок |
Выбор профиля по соотношению CPU/wall-time
Диагностический shortcut: смотри CPU-время vs wall-clock-время медленного запроса.
- CPU/wall ≈ 100%: вычислительное узкое место — CPU профиль.
- CPU/wall < 30%: узкое место off-CPU — off-CPU/block профиль или trace span’ы.
- Память растёт стабильно: heap/allocation профиль.
- Потоки конкурируют за лок: mutex профиль.
Java-сервис с GC-thrashing — классический allocation-профиль случай. Симптом: высокая скорость аллокации при частых old-gen GC. Allocation flame graph покажет самый широкий frame как функцию, аллоцирующую с наибольшей скоростью — часто string concatenation в logging-коде без параметризованного форматирования.
Запрос проводит 50 мс на CPU и 450 мс ожидая DB-запрос. Какой тип профиля покажет ожидание БД?
Java-сервис OOM'ится на определённых endpoint'ах. CPU профиль выглядит нормально. Какой тип профиля взять?
- 01Почему heap profiler в Go сэмплирует одну аллокацию на ~512 КиБ вместо записи каждой?
- 02Объясни, почему CPU flame graph недостаточен для диагностики I/O-bound сервиса.
- 03Опиши процедуру обнаружения memory leak с heap профилями.
Четыре типа профилей покрывают полный жизненный цикл запроса: CPU (что выполняется), heap или allocation (что аллоцируется), off-CPU (что ждёт I/O или планировщика), block или mutex (что ждёт локов). CPU profiling видит только код, активно находящийся на процессоре — запрос, ждущий 480 мс DB-запрос, покажет в CPU профиле только 20 мс вычислений. Соотношение CPU/wall-time — диагностический сигнал: менее 30% означает, что узкое место off-CPU. Heap profiler в Go сэмплирует при 1 на 512 КиБ для affordable always-on memory profiling. Комбинация всех четырёх даёт полную картину; использование только CPU profiling для I/O-bound сервиса гарантирует нахождение не того узкого места.
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Profiling: от SLO до flame graphsenior
- Profiling: тест с выбором ответаsenior
- Profiling: чтение профилей и конфиговsenior
- Profiling: тест на свободное припоминаниеsenior
встречается в167
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior