Сети и протоколы
Математика задержки
В тикете написано: «задержка выросла с 30 мс до 500 мс». Это база данных? Сеть? CDN? Прежде чем открыть хоть один лог — нужны предельные числа: задержки, которые физика навязывает каждому маршруту. Зная их, аномалии становятся очевидны.
Формула задержки
Односторонняя задержка распространения = расстояние / скорость сигнала.
Свет в вакууме: 300 000 км/с. Свет в стеклянном волокне: ~200 000 км/с (стекло замедляет примерно на 33%). Эти числа дают нижние пределы задержки, которые никакое программное обеспечение не может побить.
- Нью-Йорк → Лондон (5 500 км)
- 28 мс мин → 70–90 мс реальный RTT
- Нью-Йорк → Сидней (16 000 км)
- 80 мс мин → 200–220 мс реальный RTT
- Один континент (2 000 км)
- 10 мс мин → 20–30 мс RTT
- LAN (100 м, Cat6)
- <0.5 мкс распространения
- LEO-спутник (высота 550 км)
- ~20–50 мс RTT итого
- GEO-спутник (высота 36 000 км)
- ~600 мс RTT итого
Задержка по технологиям
| Технология | Типичный RTT | Пропускная способность | Примечания |
|---|---|---|---|
| GEO-спутник | ~600 мс | 25–100 Мбит/с | Физика: 36 000 км высота |
| LEO-спутник (Starlink) | 20–50 мс | 50–300 Мбит/с | Намного ближе орбита |
| DOCSIS (нагрузка) | 50–200 мс | 100–500 Мбит/с | Bufferbloat при насыщении |
| 4G LTE | 30–60 мс | 10–100 Мбит/с | Планировщик добавляет к распространению |
| 5G sub-6 ГГц | 15–30 мс | 100 Мбит/с – 1 Гбит/с | Лучший планировщик |
| FTTH оптоволокно | 2–10 мс | 1 Гбит/с симметрично | До узла провайдера |
| Гигабитная LAN | <1 мс | 1 Гбит/с | Внутри здания |
Реальный RTT всегда выше предела распространения — маршрутизация увеличивает расстояние, каждый роутер добавляет небольшую задержку обработки (~1 мкс для современного оборудования), а очередизация добавляет миллисекунды под нагрузкой.
Почему реальный RTT превышает предел
Возьмём Нью-Йорк → Лондон (теоретический предел: 55 мс RTT при 200 000 км/с). Реальный RTT — 70–90 мс, то есть на 30–60% выше предела. Избыток объясняется:
- Накладные расходы маршрутизации: кабельные маршруты — не прямые линии; реальный путь кабеля длиннее ортодромического расстояния.
- Обработка в роутере: каждый промежуточный роутер читает IP-заголовок и делает поиск в таблице маршрутизации (~микросекунды каждый, десятки хопов).
- Задержка сериализации: время для передачи полного пакета (1500 байт) на канал при данной скорости. При 1 Гбит/с: 1500 × 8 / 10⁹ = 12 мкс. Пренебрежимо для высокополосных каналов, значительно на 10 Мбит/с.
- Задержка очередизации: на любом узком месте пакеты ждут за другими. Под нагрузкой это может добавить десятки миллисекунд — рассматривается в уроке 04.
Подводный магистральный кабель Интернета
~500 подводных кабелей соединяют континенты. Ключевые факты:
- Каждый кабель несёт 10–30 Тбит/с через DWDM (плотное мультиплексирование по длине волны): десятки длин волн на одной паре волокон, каждая длина волны ~100–400 Гбит/с.
- EDFA (усилители на основе эрбиевого волокна) регенерируют оптический сигнал каждые ~80 км без конвертации в электрический.
- Повреждения кабелей (якоря кораблей, подводные оползни, намеренный саботаж) происходят ежемесячно; избыточность и перемаршрутизация BGP поддерживают трафик.
- Гиперскейлеры (Google, Meta, Microsoft) владеют частными кабелями (MAREA, Dunant, Curie) для гарантии ёмкости.
Разработчик говорит: «Мы только что обновили канал Нью-Йорк → Сидней до 100 Гбит/с, а задержка не улучшилась». Почему?
Практическая диагностика на канальном уровне
Когда сетевой путь ведёт себя неожиданно, эти инструменты помогут найти уровень:
# Linux: статистика интерфейса — ошибки, отброшенные, переполнения
ip -s link show eth0
# Настройки NIC: скорость, дуплекс, автосогласование
ethtool eth0
# Счётчики вендора NIC: ошибки CRC, перезапуски канала
ethtool -S eth0 | grep -E "rx_crc|rx_error|tx_error"
# Сигнал Wi-Fi и скорость
iw dev wlan0 link
# Traceroute с временными метками ICMP (RTT на хоп)
traceroute -I 8.8.8.8
mtr --report 8.8.8.8Интерпретация:
- rx_crc_errors > 0: кадры прибывают повреждёнными — плохой кабель, загрязнённый SFP или слабый сигнал. Сначала замените кабель или трансивер.
- Автосогласование на 100 Мбит/с вместо ожидаемого 1 Гбит/с: проблема кабеля или порта вынудила откат. Замените кабель.
- Прыжок RTT в traceroute на хопе N: задержка добавилась на этом роутере или канале между N-1 и N. Но это не обязательно вина роутера — ограничение скорости ICMP может сделать его похожим на медленный.
- Wi-Fi «подключено на 54 Мбит/с»: клиент использует legacy-скорости 802.11g — очень далеко от точки доступа, или старое устройство.
Упорядочите технологии соединений от наибольшей к наименьшей типичной реальной задержке:
- 1 GEO-спутник (~600 мс RTT — орбита 36 000 км)
- 2 DOCSIS-модем под нагрузкой с bufferbloat (~100–200 мс RTT)
- 3 LEO-спутник Starlink (~20–50 мс RTT — орбита всего 550 км)
- 4 4G LTE (~30–60 мс RTT)
- 5 FTTH оптоволокно домашнее (~5–10 мс RTT до узла провайдера)
- 6 Гигабитный LAN Ethernet (<1 мс RTT в здании)
Расчёт задержки распространения
1/3Почему это работает
Почему traceroute лжёт. Многие роутеры ограничивают скорость ICMP-пакетов, используемых traceroute — вы можете видеть хопы * * * или аномально высокий RTT на хопе, хотя путь за ним в порядке. Используйте mtr (Matt’s Traceroute) для живого просмотра с агрегированными пробами, или traceroute -T (режим TCP), который ACL роутеров реже блокируют. Никогда не делайте вывод «проблема на хопе N» только потому, что traceroute показывает там высокий RTT — только если всё за ним тоже сломано.
- 01Свет в стекле движется ~200 000 км/с. Нью-Йорк → Сидней ~16 000 км. Какова теоретическая односторонняя задержка и почему реальный RTT 200–220 мс, а не 160 мс?
- 02Как DWDM умножает ёмкость волокна без дополнительных волокон?
- 03rx_crc_errors не равно нулю на NIC 10G. Что это значит и что делать?
Задержка распространения = расстояние ÷ скорость сигнала (~200 000 км/с в стекле). Нижние пределы: 28 мс в одну сторону через Атлантику, 80 мс через Тихий океан, ~4 мс до LEO-спутника, ~120 мс до GEO. Реальный RTT превышает предел на 25–60% из-за геометрии маршрутизации, обработки в роутерах и очередизации. Магистраль Интернета — ~500 подводных кабелей с DWDM (десятки длин волн на волокно) и усилители EDFA каждые 80 км. Основные инструменты диагностики: ip -s link show, ethtool -S (ошибки CRC, состояние канала), mtr (traceroute с агрегированными пробами). Когда traceroute показывает высокий RTT на одном хопе, но путь за ним здоров — обычно это ограничение скорости ICMP, а не реальное узкое место.
встречается в162
- Путь запроса: семь остановок от сокета до ответаjunior
- Accept и парсинг: от очереди ядра до типизированного запросаmiddle
- Маршрутизация и middleware: что выполняется и в каком порядкеmiddle
- Обработчик и ответ: от бизнес-логики до байтов на проводеmiddle
- Стриминг и backpressure: когда клиент читает медленнее, чем вы пишетеsenior
- Таймауты и хвостовая задержка: бюджеты, дедлайны и ловушка fan-outsenior
- Middleware и DI: два паттерна, формирующие любой backendjunior
- Пишем middleware: сигнатуры, next() и три модели фреймворковmiddle
- Инверсия управления: как зависимости добираются до классаmiddle
- Скоупы и время жизни DI: singleton, request, transientmiddle
- DI как шов для тестов: фейки, моки и граница, которая важнаsenior
- DI-контейнеры в продакшене: графы разрешения, циклы и когда не стоитsenior
- Блокирующий vs неблокирующий I/O: два способа ждатьjunior
- Event loop: один поток, упорядоченные фазыmiddle
- Что блокирует цикл: CPU-работа и синхронные вызовыmiddle
- Вынос CPU-работы: worker threads и пул libuvmiddle
- Backpressure и ограниченная конкурентностьsenior
- Пропускная способность под нагрузкой: хвостовая задержка и насыщениеsenior
- Зачем пул: цена создания соединенияjunior
- Размер пула: почему больше не значит быстрееmiddle
- Взятие и таймауты: очередь ожидания — настоящий дроссель задержкиmiddle
- Стратегии retry: backoff, jitter и thundering herdmiddle
- Наблюдаемость, production-инциденты и дизайн для глобального масштабаsenior
- Задачи, микрозадачи и scheduler.yield()middle
- Точность таймеров, троттлинг и фоновая работаmiddle
- Event loop Node.js: фазы, nextTick и задержка циклаsenior
- Стратегии рендеринга: SSG, SSR, ISR, streaming и гидратацияjunior
- SSG, SSR, ISR, streaming и RSC — как работает каждая стратегияmiddle
- Цена гидратации: selective, progressive, острова, resumabilitymiddle
- Core Web Vitals: что измеряют LCP, INP и CLSjunior
- LCP: четыре фазы, одна доминирующая стоимостьmiddle
- INP: input delay, processing, presentationmiddle
- Lab vs field: почему они расходятся и как использовать каждыйmiddle
- Трейдоффы метрик, RUM-атрибуция и цикл CI+полеsenior
- Общая картина: от URL до LCP до INP как эстафетаjunior
- Восемь слоёв трассировки: от service worker до второй навигацииmiddle
- Пять канонических поломок: где производство стабильно ломаетсяsenior
- Метод трёх треков: чтение трасс и построение системы мониторингаsenior
- Что такое индекс и как он ускоряет запросыjunior
- Leading-column rule: почему порядок столбцов в composite-индексе важенmiddle
- Partial, expression и covering-индексыmiddle
- Типы индексов: GIN, GiST, BRIN, Hash, Bloom и HOT-обновленияmiddle
- Index-only scan, Visibility Map и INCLUDEsenior
- Типичные сбои в продакшне и аудит индексовsenior
- Упражнение по проектированию индексов: стратегия полнотекстового поискаsenior
- EXPLAIN и планы выполнения: что решает планировщик и почемуjunior
- Типы сканирования: Seq, Index, Bitmap, Index-Onlymiddle
- Алгоритмы соединения и каскад ошибок оценки строкmiddle
- pg_statistic, ANALYZE и производственная наблюдаемостьmiddle
- Расширенная статистика: исправление ошибок оценки для коррелированных колонокsenior
- Кеш планов, настройка константных стоимостей и внутренности планировщикаsenior
- Производственные режимы отказа и стабильность плановsenior
- Connection pool: зачем амортизировать стоимость backend Postgresjunior
- Режимы PgBouncer: session, transaction и statementmiddle
- Размер пула: формула (ядра × 2) + шпинделей и двухуровневый стекmiddle
- Исчерпание пула и idle-in-transaction: сценарий отказа в 3 ночиmiddle
- Миграция на transaction mode: план развёртывания и prepared statements в PgBouncer 1.21middle
- Процессная модель Postgres и почему увеличение max_connections снижает производительностьsenior
- Ландшафт пулеров 2026, serverless connection storms и полная таксономия отказовsenior
- ADD COLUMN: мгновенно в PG 11+ против перезаписи в старом Postgresjunior
- Режим отказа очереди блокировок: почему мгновенный DDL может заморозить базуmiddle
- Безопасные DDL-паттерны: NOT VALID, CONCURRENTLY и исправления небезопасных операцийmiddle
- Таксономия сбоев миграций и дисциплина продакшнаsenior
- Выбор ключа шарда: стратегии hash, range, list и directorymiddle
- Ко-локация и Citus: инвариант, делающий шардирование пригодным к использованиюmiddle
- Режим отказа hot shard: обнаружение, изоляция и долгосрочная политикаmiddle
- Онлайн-решардинг, 2PC и операционная стоимость шардированияsenior
- Семь актов: от CREATE TABLE до Citusjunior
- Акты 1–3 в глубину: схема, индексы и статистика планировщикаmiddle
- Акты 4–6 в глубину: MVCC bloat, connection pooling и безопасные миграцииmiddle
- Акт 7 в глубину: шардинг, co-location и семиуровневый каскад трейдоффовmiddle
- Наблюдаемость, антипаттерны и производственный триажsenior
- Что такое три сигнала: метрики, логи, трейсыjunior
- Метрики и cardinality: cost-модель time-series databasemiddle
- Логи и объём: cost-модель структурного логированияmiddle
- Трейсы и сэмплирование: cost-модель distributed tracingmiddle
- Join-ключи и exemplar''''ы: как три сигнала становятся компонуемымиmiddle
- Observability 2.0: широкие события и сдвиг стоимостиsenior
- Режимы сбоя и инженерная практика: cardinality budget''''ы, PII и сэмплированиеsenior
- Зачем нужны структурные логи: дневник против таблицыjunior
- Схема продакшн-лога: поля, которые несёт каждая строкаmiddle
- Log levels и маршрутизация алертовmiddle
- Стратегии sampling и стоимость логовmiddle
- PII-редакция и log injectionsenior
- Propagation trace-контекста в логахsenior
- OTel Logs Data Model и audit-логи как подсистемаsenior
- Сигналы OTel, Semantic Conventions и проводной формат OTLPmiddle
- Авто-инструментирование и ручные спаны: правило 80/20 в OTelmiddle
- Collector OTel: receivers, processors, exporters и паттерны развёртыванияmiddle
- Стратегии сэмплирования: head, tail и parent-basedmiddle
- Vendor-нейтральность, eBPF-инструментирование, Operator и OTel в браузере и serverlesssenior
- Эксплуатация OTel Collector: надёжность, version skew, режимы отказа и управлениеsenior
- RED и USE: два чек-листа, одна дисциплина триажаjunior
- Инструментация RED в Prometheus: счётчики, гистограммы и дисциплина cardinalitymiddle
- USE на Linux: CPU, память, диск, сеть и PSImiddle
- Golden signals, структура дашборда и auto-RED в service meshmiddle
- Cardinality как драйвер затрат: label, PII, exemplars и семплированиеmiddle
- Native histograms, SLO и паттерны production-сбоевmiddle
- Выбор SLI и SLO-целей: отношения, не ощущенияmiddle
- Multi-window multi-burn-rate-алертинг: почему AND лучше ORmiddle
- Error budget policy, latency SLO и составные journeysmiddle
- Iceberg SLI, математика составного SLO и SLA vs SLOsenior
- Flame graph: читаем картинку, которая показывает, куда ушло времяjunior
- Sampling vs instrumentation profiling: почему 99 Гц побеждает в productionmiddle
- Типы профилей: CPU, память, off-CPU, mutex — какой когда братьmiddle
- Continuous profiling: always-on flame graphs с eBPF и корреляцией trace-idmiddle
- Как flame graph строится из сэмплов и как использовать его в productionmiddle
- Linux perf, внутренности eBPF, PGO и ограничения sampling''''аsenior
- Profiling в production: безопасность, war stories, OTel profiles и дизайн инфраструктурыsenior
- Debugging-воронка: SLO → RED → trace → profilejunior
- Архитектура OTel: один SDK, четыре сигнала, один wire-форматmiddle
- Экономия на observability: удерживаем затраты в пределах 5% inframiddle
- Масштаб, безопасность и ROI наблюдаемых системsenior
- Сначала профиль: измерь куда реально уходит времяjunior
- Закон Амдала и self-time: потолок любого ускорения, которое ты можешь выпуститьmiddle
- Измерительный цикл: микробенч, макробенч, prod-профиль, эффект наблюдателяmiddle
- Чтение флейм-графов: формы, профайлеры по языкам и 60-секундный сканmiddle
- Статистические baseline''''ы: почему один запуск — не измерениеmiddle
- История профайлеров и ловушки микробенчей: от Кнута до GWPsenior
- Hardware counters, профили холодного старта и безопасность профилейsenior
- Непрерывное профилирование в масштабе: затраты, CI-гейты, корреляция с трейсами и антипаттерныsenior
- Что делает путь горячим: симптом против причиныjunior
- Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscallmiddle
- Чтение parent и child chains: где применять правкуmiddle
- JIT deopt, цикл fix-and-verify и PR-time профилированиеmiddle
- Аппаратные счётчики и Intel TMA: диагностика подкатегорийsenior
- False sharing и горячие пути нативных мостовsenior
- Горячие пути в production: безопасность, хвостовая латентность и происхождение инструментовsenior
- Иерархия памяти: почему расстояние важнее числа операцийjunior
- Row-major vs column-major: порядок доступа и разрыв в 9xjunior
- Branch prediction: 10–30 циклов штрафа за неожиданный ifmiddle
- Hardware prefetcher, TLB и memory-level parallelismsenior
- Основы GC: за что рантайм берёт налогjunior
- Алгоритмы GC: поколенческая гипотеза, concurrent marking и write barriermiddle
- GC tradeoffs: пауза, throughput, память и давление аллокацийmiddle
- Настройка GC: пейсинг, форма кучи и наблюдаемость аллокацийmiddle
- Внутреннее устройство GC: tri-color инвариант, write barriers и глубокое погружение в рантаймыsenior
- GC в production: наблюдаемость, безопасность, edge cases и управление флотомsenior
- N+1: одна логическая операция, много round-trip''''овjunior
- Семейства фиксов: JOIN, IN, preload и DataLoadermiddle
- Обнаружение N+1: query logs, APM traces и CI gatesmiddle
- DataLoader: батчинг по дереву резолверовmiddle
- Кросс-протокольный N+1: HTTP fan-out и Redis MGETmiddle
- N+1 в масштабе: исчерпание пула, изменения планов и денормализацияsenior
- Batching: амортизируй фиксированную цену каждой операцииjunior
- Окно батчинга: размер и время ожиданияmiddle
- Batching в Kafka и Postgresmiddle
- io_uring и наблюдаемость пакетированияmiddle
- От Nagle до io_uring: эволюция пакетированияmiddle
- Backpressure, изоляция сбоев и безопасность батчей в продакшенеsenior
- Что на самом деле стоит bundle: download, parse, compile, executejunior
- Core Web Vitals: LCP, INP и CLSmiddle
- Code splitting: route-level, component-level, vendor splittingmiddle
- Tree shaking и compression: удаляем то, что не используемmiddle
- Third-party scripts: тихий убийца бюджетаmiddle
- CI enforcement и RUM: делаем бюджеты рабочимиmiddle
- V8 JIT-пайплайн, HTTP-приоритеты и безопасность bundlesenior
- Цикл performance: дисциплина, а не проектjunior
- Классификация и исправление: сопоставление family bottleneck с методамиmiddle
- Observability-стек и CI gates: ловить регрессии до выпускаmiddle
- От инцидента к enforcement: SLO burn до верифицированного исправления за 35 минутmiddle
- Культура, экономика и масштаб performancesenior