Наблюдаемость
Golden signals, структура дашборда и auto-RED в service mesh
У команды пять сервисов. Каждый RED-дашборд выглядит по-разному — разные имена метрик, разная раскладка панелей, разная структура label. Когда инцидент затрагивает несколько сервисов, on-call тратит 30 минут на чтение документации до начала триажа. Единый консистентный паттерн дашборда для всех сервисов сократил бы это до секунд.
Четыре golden signals
SRE-книга Google (по духу предшествует RED и USE, опубликована позже) называет четыре сигнала: Latency, Traffic, Errors, Saturation. Пересечение с RED прямое: Latency = Duration, Traffic = Rate, Errors = Errors. Новый элемент — Saturation: насколько сервис «заполнен» относительно известного предела мощности.
В отличие от Saturation в USE (про физические ресурсы), Saturation в golden signals — на уровне сервиса: количество in-flight запросов, длина очереди, число активных сессий, занятость connection pool. Сервис может быть на 50% CPU, но иметь connection pool на 100% — сервис заполнен, пользователи стоят в очереди, а USE на хосте ничего не показывает.
Многие production-команды рассматривают RED + Saturation как практическую эволюцию сигналов из SRE-книги:
| Сигнал | RED | Golden signals |
|---|---|---|
| Частота запросов | Rate | Traffic |
| Упавшие запросы | Errors | Errors |
| Задержка ответа | Duration | Latency |
| Запас мощности | (неявно в плато Rate) | Saturation |
Senior-структура дашборда
Хорошо структурированный дашборд сервиса читается сверху вниз во время инцидента:
Ряд 1: RED — панель Rate | панель Errors | панель Duration p50/p95/p99
Ряд 2: USE — CPU util+PSI | Memory util+PSI | Disk %util+queue
Ряд 3: Downstreams — время ответа + errors DB | hit rate кэша | глубина очередиРитм чтения:
- Какая RED-метрика изменилась?
- Какой USE-ряд совпадает по времени?
- Какая downstream-зависимость следовала тому же временному профилю?
- Кликни exemplar для подтверждения в трейсе.
Ключевая дисциплина: RED и USE делят одну временну́ю ось на одном дашборде. Кросс-сервисная корреляция требует консистентных ключей label (service, route, region), чтобы панели можно было фильтровать одним набором label.
Разделение severity в алертинге
Зрелый паттерн — алертить на user-facing симптомы (RED) с page-severity и на сигналы внутренних причин (USE) с warning-severity:
| Алерт | Метрика | Severity |
|---|---|---|
| Нарушение SLO latency | p99 Duration > 200 мс в течение 5 мин | Page |
| Всплеск error rate | Errors > 1% в течение 2 мин | Page |
| CPU saturation | PSI cpu some > 20% в течение 10 мин | Warning / Slack |
| Memory pressure | PSI memory full > 0 в течение 5 мин | Warning / Slack |
| Запас диска | Disk > 90% в течение 5 мин | Warning / Slack |
Разделение намеренное. RED-алерты будят людей, потому что затронуты пользователи. USE-алерты уходят в более медленный канал, чтобы capacity-команды планировали заранее — а не on-call просыпался каждый раз при достижении CPU 70%. Одно это архитектурное решение — один из сильнейших инструментов против alert fatigue.
| Слой | Канал | Причина |
|---|---|---|
| RED-алерт (влияние на пользователя) | PagerDuty / page on-call | Пользователю уже плохо |
| USE-алерт (запас ресурсов) | Slack / тикет | Планировать capacity до того, как это станет RED-инцидентом |
Auto-RED в service mesh
Service mesh (Envoy, Linkerd, Istio) эмитируют RED-метрики на уровне sidecar без изменений кода приложения. Метрики Envoy downstream_rq_total, downstream_rq_xx и downstream_rq_time дают Rate, Errors-по-статусу и гистограмму Duration на кластер, с консистентными label по всему fleet.
Преимущество: полиглотный fleet (Node, Go, Python, JVM, Rust) получает один паттерн RED-дашборда, даже если языки расходятся в конвенциях Prometheus-клиентов.
Ограничение: sidecar видит только то, что видит сеть. Запрос, успешный с точки зрения sidecar, но неправильно обслуженный из-за бага в коде приложения, отображается как 2xx в mesh-метриках.
Production-паттерн: работай на обоих уровнях — sidecar RED для широты и консистентности, RED на уровне приложения для business-logic точности (например, счётчик payment-success с label по gateway, который sidecar не видит). Держи ключи label согласованными между обоими уровнями, чтобы дашборды могли их объединять.
RED переносится на другие протоколы
Запросо-центричная форма RED переносится на любой протокол; изменяется только определение «запроса» и «ошибки»:
| Протокол | Rate | Errors | Duration |
|---|---|---|---|
| HTTP | req/s | HTTP 5xx | p99 время ответа |
| gRPC | RPC/s | status != OK | end-to-end для unary, first-byte для streaming |
| Очереди (Kafka, SQS) | messages/s потреблённых | dead-letter rate | время ожидания publish-to-consume |
| Batch-задания | jobs/min | упавшие jobs | wall-clock на задание |
| Serverless | invocations/s | error rate + throttle rate | включая cold-start хвост |
Для async- и queue-based сервисов глубина очереди (backlog) — это сигнал Saturation, который чистый RED упускает. Очередь с Duration p99 10 с на задание может иметь бэклог на 10 минут — пользователь ждёт 10 мин + 10 с. RED фиксирует время обработки задания; Saturation фиксирует ожидание в очереди до начала обработки.
Почему это работает
Batch- и async-системы нуждаются в отдельной метрике глубины очереди, которую RED в чистом виде не предоставляет. Паттерн — эмитировать queue_depth_seconds: возраст самого старого необработанного элемента в секундах wall-clock. Если он растёт, пользователи ждут дольше, чем показывает Duration. Это Saturation-сигнал на уровне сервиса, дополняющий resource-level Saturation в USE.
Что означает 'Saturation' в четырёх golden signals и чем отличается от Saturation в USE?
On-call видит, что RED Duration p99 растёт, но Rate и Errors стабильны. Какой USE-ряд проверить первым?
Расставь шаги реагирования на инцидент RED+USE в production по порядку:
- 1 Пейджер сработал — описан симптом с именем сервиса и severity
- 2 Открой RED-дашборд сервиса, определи, какой из R / E / D изменился
- 3 Читай временные ряды — единичный скачок или устойчивый дрейф?
- 4 Сопоставь USE на тех же хостах и на прямых downstream-зависимостях
- 5 Если RED-D изменился вместе с USE-CPU saturation: проблема мощности → scale
- 6 Если RED-E изменился вместе с USE-Errors на зависимости: сбой зависимости → failover
- 7 Если и RED, и USE выглядят нормально, но пейджер сработал: пересмотри источник алерта, подозревай false positive
- 01Что SRE-книга Google добавляет к RED, что RED сам не покрывает?
- 02В чём практическое преимущество и ограничение auto-RED от service mesh?
- 03Для Kafka consumer — что такое Rate, Errors и Duration? Какой дополнительный сигнал нужен?
Четыре golden signals Google — Latency, Traffic, Errors, Saturation — расширяют RED добавлением Saturation уровня сервиса: насколько сервис заполнен относительно своего логического предела (connection pool, in-flight count, глубина очереди), а не только физических ресурсов. Зрелый RED+USE дашборд размещает RED-панели в верхнем ряду, USE-панели посередине, а downstream-зависимости RED+USE снизу — все на одной временно́й оси с консистентными ключами label. Дисциплина алертинга — вторая половина: RED-алерты будят on-call (пользователь затронут), USE-алерты идут в Slack или тикет (capacity-команда планирует заранее). Service mesh эмитирует RED бесплатно на уровне sidecar — консистентно по всем языкам — но видит только то, что видит сеть; RED на уровне приложения нужен для точности business-логики. Форма RED переносится на gRPC, очереди, batch-задания и serverless с минимальной адаптацией — изменяется только определение «запроса» и «ошибки».
встречается в167
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior