Наблюдаемость
Архитектура OTel: один SDK, четыре сигнала, один wire-формат
До OpenTelemetry подключение нового сервиса к observability-стеку означало четыре отдельных SDK, четыре конфига collector’а и четыре языка запросов. Смена вендора требовала повторной инструментации всего кода. OTel свернул все четыре типа сигналов в один SDK и один wire-протокол. Теперь переключение бэкенда — это изменение конфига, а не отдельный проект.
Полная стековая архитектура
OpenTelemetry-based production-стек выглядит одинаково в 2026 году вне зависимости от вендора.
Слой приложения. Каждый сервис запускает один OTel SDK (или OTel auto-instrumentation), который эмитирует четыре сигнала:
- Логи — высококардинальные записи событий с полем trace-id.
- Метрики — низкокардинальные счётчики и гистограммы; exemplar’ы гистограмм несут trace-id репрезентативного запроса.
- Трейсы — причинно-следственные графы на запрос в виде OTLP span-батчей.
- Профили — функциональные CPU- и allocation-сэмплы; каждый сэмпл несёт trace-id активного запроса.
Каждый сигнал несёт один и тот же trace-id (когда применимо), поэтому cross-signal join’ы возможны во время запроса.
Слой Collector’а. Локальный агент OTel Collector (DaemonSet на каждом узле или sidecar в каждом pod’е) принимает все четыре типа сигналов через OTLP gRPC (localhost:4317). Он батчует и отправляет в gateway-ярус. Gateway выполняет:
- Tail sampling для трейсов — буферизирует spans до закрытия трейса, затем сохраняет 100% ошибок и медленных трейсов плюс небольшой случайный baseline.
- Агрегацию метрик.
- Опциональную PII-зачистку в полях логов и фильтрацию символов профилей.
- Маршрутизацию сигналов в один или несколько бэкендов.
Слой бэкенда. Любая комбинация: Tempo (трейсы), Prometheus / Mimir (метрики), Loki (логи), Pyroscope (профили) для self-hosted Grafana-стека; или Datadog, Honeycomb, New Relic — для vendor-managed. OTLP принимается всеми крупными бэкендами начиная с 2024–2026. Переключение бэкенда — изменение конфига exporter’а; код приложения не меняется.
| Сигнал | Кардинальность | Паттерн запроса | Типичный бэкенд |
|---|---|---|---|
| Логи | Высокая | ”error contains X” | Loki, OpenSearch |
| Метрики | Низкая | Дашборды + алерты | Prometheus, Mimir |
| Трейсы | Средняя | Drill-down по запросу | Tempo, Jaeger, Honeycomb |
| Профили | Средняя | Drill-down по flame graph | Pyroscope, Parca |
Конкретный конфиг OTel Collector’а
Сервис checkout (Node) отправляет все четыре сигнала через единый Collector:
# otel-collector.yaml (DaemonSet на каждом узле)
receivers:
otlp:
protocols:
grpc:
endpoint: 0.0.0.0:4317
processors:
batch:
send_batch_size: 512
timeout: 10s
tail_sampling:
policies:
- { name: errors, type: status_code, status_code: { status_codes: [ERROR] } }
- { name: slow, type: latency, latency: { threshold_ms: 2000 } }
- { name: rest, type: probabilistic, probabilistic: { sampling_percentage: 5 } }
exporters:
otlphttp/tempo: { endpoint: http://tempo:4318 }
prometheusremotewrite: { endpoint: http://prometheus:9090/api/v1/write }
loki: { endpoint: http://loki:3100/loki/api/v1/push }
otlphttp/pyroscope: { endpoint: http://pyroscope:4040/ingest }
service:
pipelines:
traces: { receivers: [otlp], processors: [tail_sampling, batch], exporters: [otlphttp/tempo] }
metrics: { receivers: [otlp], processors: [batch], exporters: [prometheusremotewrite] }
logs: { receivers: [otlp], processors: [batch], exporters: [loki] }
profiles: { receivers: [otlp], processors: [batch], exporters: [otlphttp/pyroscope] }Переключение с этого self-hosted Grafana-стека на Datadog означает изменение четырёх endpoint-URL’ов exporter’ов. Код сервиса не меняется.
Почему tail sampling требует отдельного процессора
Head sampling принимает решение в начале трейса — сохранить или нет. Если он сохраняет только 5% случайно, то 95% ошибочных и медленных трейсов отбрасываются — именно тогда, когда они нужны.
Tail sampling буферизирует все spans в памяти до закрытия трейса (или до истечения decision window ~10 секунд), а затем принимает решение. Канонический production-policy:
- Сохранять 100% трейсов с любым ERROR-span’ом.
- Сохранять 100% трейсов с суммарной длительностью выше порога медленного трейса (например, 2 с).
- Сохранять случайные 5% baseline всего остального.
Это сокращает объём трейсов на 90%+ при сохранении каждого интересного трейса.
Почему это работает
Head + tail вместе: SDK делает head-sampling при 100% (все spans создаются и эмитируются), а processor tail_sampling в collector’е — единственный, кто отбрасывает. Это защищает от сценария, когда трейс, сэмплированный прочь на head-этапе, позже становится ошибкой — если spans никогда не были эмитированы, их нельзя восстановить постфактум.
Trace-id как несущий join-ключ
Trace-id — идентификатор, который делает четырёхсигнальный стек единым инструментом, а не четырьмя разрозненными системами.
- Логи эмитируют его как структурированное поле (
trace_id: "abc123"). - Метрики эмитируют его как exemplar’ы гистограмм (конкретный trace-id, прикреплённый к сэмплу бакета).
- Трейсы нативно индексируются по нему.
- Профили прикрепляют его к каждому стеку-сэмплу.
При последовательной propagation trace-id (W3C traceparent через каждый вызов сервиса) запрос «всё, что связано с этим конкретным запросом» возвращает записи логов, exemplar’ы метрик, полное дерево трейса и сэмплы профилей — все объединены одной hex-строкой. Без этого четыре сигнала — четыре изолированных хранилища, и инженер вручную коррелирует по временной метке + имени сервиса + догадкам.
Случайность 128 бит обеспечивает глобальную уникальность. Стандартизация W3C гарантирует выживание при смене вендора и языка. OTel SDK’и обрабатывают propagation автоматически через HTTP, gRPC, очереди и асинхронные вызовы.
Упорядочи поток данных OTel для одного HTTP-запроса через один сервис:
- 1 Браузерный fetch генерирует traceparent и отправляет его вместе с запросом
- 2 Сервис получает запрос; OTel SDK извлекает traceparent, создаёт span
- 3 Атрибуты span'а заполняются (http.route, http.response.status_code, кастомные атрибуты)
- 4 SDK эмитирует span в локальный Collector через OTLP gRPC
- 5 Collector батчует spans, применяет tail sampling, отправляет в бэкенд
- 6 Срабатывает profile-сэмпл; SDK прикрепляет текущий trace-id к стеку-сэмплу
- 7 Счётчики метрик увеличиваются; гистограмма записывает длительность; exemplar прикрепляет trace-id
Какой сигнал несёт trace-id, позволяющий логам, метрикам, трейсам и профилям объединяться во время запроса?
Зачем нужен processor tail_sampling помимо head sampling на уровне SDK?
- Типичный head + tail sampling в production
- 5% baseline + 100% ошибок / медленных
- Decision window tail sampling
- 10–30 секунд
- Сокращение объёма трейсов при tail sampling
- 90%+
- Статус OTel profile-сигнала (2026)
- Release candidate (Q1 2026)
- Сокращение объёма логов (зрелые orgs, 5 лет)
- 40–60%
- Модель Collector DaemonSet
- 1 на узел, 4 пайплайна
- 01Объясни, почему trace-id является несущим идентификатором для всех четырёх observability-сигналов.
- 02Какова роль processor'а tail_sampling в OTel Collector'е, и каков канонический production-policy?
- 03Как работает смена вендора observability в OTel-first-сетапе по сравнению с pre-OTel-подходом?
Production-стек на OpenTelemetry — это три слоя: код приложения, эмитирующий четыре сигнала через один OTel SDK; локальный агент Collector, применяющий tail sampling и маршрутизацию; и взаимозаменяемые бэкенды, принимающие OTLP. Trace-id, propagated W3C traceparent header’ом, — join-ключ, позволяющий всем четырём сигналам отвечать на один запрос; без него стек — четыре разрозненных хранилища. Tail sampling требует буферизации spans до закрытия трейса, чтобы сохранить 100% ошибок и медленных трейсов, отбросив 90%+ baseline; head sampling в одиночку отбрасывает интересные трейсы ещё до того, как узнаёт, что они интересны. К 2026 году OTel profile-сигнал достиг release candidate, завершив четырёхсигнальную историю и сделав профилирование таким же переносимым, как метрики или трейсы. Смена бэкенда в OTel-first-сетапе — изменение конфига collector’а, а не проект по повторной инструментации.
встречается в202
- Federation и lookahead: батчинг за пределами DataLoadermiddle
- Senior GraphQL API: scheduling-контракт, изоляция арендаторов, наблюдаемостьsenior
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Инвалидация, dirty-биты и containmiddle
- Слои композитора: продвижение, перекрытие и память GPUmiddle
- Observability в проде: LoAF, INP и полная поверхность атакиsenior
- Hidden classes, деревья переходов и расположение в памятиmiddle
- V8 в production: Isolates, сжатие указателей и реальные аварииsenior
- Что такое воркеры и зачем они нужныjunior
- Механика web workers: dedicated, shared и OffscreenCanvasmiddle
- Structured clone и transferablesmiddle
- SharedArrayBuffer, Atomics и cross-origin isolationsenior
- Пулы воркеров, Comlink и наблюдаемость в продакшенеsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Лок и single-flight: ограничение параллельных rebuildmiddle
- Stale-while-revalidate и CDN request coalescingmiddle
- Детектирование stampede и дизайн TTL для продакшенаmiddle
- Метастабильный сбой, fencing-токены и production-постмортемыsenior
- Что такое отношение: таблицы, строки, ключи и ограниченияjunior
- Ограничения, ключи и типы данных Postgresmiddle
- JSONB, массивы и когда side table побеждаетmiddle
- Целостность схемы: deferral, версионирование и сбои в продакшнеsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Где происходит data fetching — и почему это решает LCPjunior
- React Server Components и Suspense streamingmiddle
- Senior internals: RSC payload, слои кэша и production паденияsenior
- Биты в проводеjunior
- Математика задержкиmiddle
- Bufferbloat и перегрузкаsenior
- Граница физического уровняsenior
- Конверт IPjunior
- Читаем IP-заголовокmiddle
- Номера последовательности и состояние соединенияmiddle
- Управление потоком и перегрузкойmiddle
- BBR, производственная наблюдаемость и за пределами TCPsenior
- Что делает TLS и зачем он нуженjunior
- Расписание ключей, SNI, ALPN и расширенияsenior
- Защита 0-RTT, ECH, гибридный PQ и продакшн TLSsenior
- CDN: контент по соседствуjunior
- Anycast и GeoDNS: маршрутизация к ближайшему edgemiddle
- Многоуровневый кеш и Cache-Controlmiddle
- Заголовок Vary и cache keysmiddle
- Stale-while-revalidate и cache stampedesenior
- Edge workers и edge-side compositionsenior
- CDN: операции и observabilitysenior
- WebSocket: HTTP-апгрейд до постоянного соединенияjunior
- WebSocket vs SSE vs long-polling: выбор правильного транспортаmiddle
- Backpressure в WebSocket: когда клиенты не успеваютmiddle
- Реконнект: jittered backoff, thundering herd, восстановление сообщенийsenior
- WebSocket в масштабе: HTTP/2 мультиплексирование, permessage-deflate, C10Msenior
- WebSocket в production: прокси, безопасность и распределённая архитектураsenior
- Что делают обратные проксиjunior
- Алгоритмы балансировки: от round-robin до power-of-two-choicesmiddle
- L4 vs L7 балансировка и сохранение IP клиентаmiddle
- Health checks, connection draining и slow startmiddle
- Retry-бури, circuit breakers и load sheddingsenior
- Устойчивая архитектура LB: anycast, zone-aware маршрутизация и observabilitysenior
- Почему QUIC, а не TCP+TLSjunior
- QUIC-потоки и head-of-line blockingjunior
- Объединённое рукопожатие и 1-RTTmiddle
- Connection ID и миграция сетиmiddle
- Обнаружение потерь и управление перегрузкойmiddle
- Возобновление 0-RTT и шифрование пакетовsenior
- Развёртывание и стоимость CPUsenior
- DDoS: что это и почему работаетjunior
- Атаки усиления и истощение состоянияmiddle
- Ограничение скорости: алгоритмы и архитектураmiddle
- WAF, межсетевые экраны, mTLS и HSTSmiddle
- Отравление DNS-кэша и BGP-перехватsenior
- Эшелонированная защита и экономика атакsenior
- Двенадцать слоёв: один URL, семь действующих лицjunior
- DNS, TCP, TLS по очереди: куда уходят миллисекундыmiddle
- Критический путь рендеринга и Core Web Vitalsmiddle
- Перехват прокси и шлюзы безопасности: rate limiter, WAF, mTLSmiddle
- Альтернативные пути: QUIC 0-RTT, WebSocket upgrade, миграция соединенияmiddle
- Наблюдаемость: распределённые трейсы, USE/RED и семплированиеsenior
- Устойчивость: каскадные повторы, circuit breakers и error budgetsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior
- At-most-once, at-least-once, exactly-once: три контракта доставкиjunior
- Consumer-side dedup: самый дешёвый путь к exactly-once processingmiddle
- Exactly-once в production: impossibility-доказательство, гибридные паттерны и реальные инцидентыsenior
- Что такое OAuth и почему пароли — не ответjunior
- Authorization code flow с PKCEmiddle
- Sender-constrained токены: DPoP и mTLSsenior
- OAuth в production: audience атаки, observability и реальные провалыsenior