Пять форм hotspot''''а: CPU, аллокации, кэш, лок, syscall

Два широких leaf’а во flame graph на первый взгляд выглядят одинаково. Один требует лучшего алгоритма. Второй требует переиспользования буферов. Применить лучший алгоритм к allocation-bound-пути — значит получить 1,05x вместо предсказанных 3x. Два часа работы ради пяти процентов. Категория определяет toolbox.

Пять категорий

Широкий leaf подходит под одну из пяти категорий. Прочтение второго слоя профиля — не только «какая функция», но «что функция делает» — даёт классификацию.

1. CPU-bound алгоритмический

Функция исполняет много инструкций. CPU исполняет алгоритм.

Сигнатура: большой self-time, узкие children, высокий instructions-per-second, IPC в диапазоне 2–4. В CPU flame graph leaf занимает настоящую ширину без GC или kernel-фреймов рядом.

Семейство правок: лучший алгоритм, векторизация (SIMD), inline-pragma, специализация hot-path’а для частого случая.

2. Allocation-bound

Функция (или её caller) так много аллоцирует, что сборщик мусора доминирует над wall-time.

Сигнатура: runtime.scanobject, gc, mallocgc или malloc появляются широкими рядом с горячим leaf’ом. CPU-профиль винит GC-machinery, не application-логику. Переключись на allocation-профиль, чтобы найти аллокатор на стороне приложения.

Семейство правок: пулинг объектов, переиспользование буферов (sync.Pool), in-place мутация, struct-of-arrays, предварительное выделение контейнеров нужного размера.

3. Cache-bound

Функция трогает память по паттерну, который аппаратный prefetcher не может предсказать. CPU стопорится, ожидая данные из RAM вместо L1/L2.

Сигнатура: низкий IPC (<1), высокий cache-miss rate (15%+), низкий instructions-per-second несмотря на широкий CPU-фрейм. Аппаратные счётчики подтверждают тип stall (L3 miss, DRAM stall).

Семейство правок: смена data-layout’а (contiguous arrays вместо pointer-chased linked lists, struct-of-arrays вместо array-of-structs), смена порядка итерации для улучшения spatial locality, prefetch-подсказки.

4. Lock-bound

Функция тратит время в ожидании mutex’а или канала.

Сигнатура: широкая в mutex/block/off-CPU профиле, узкая в CPU-профиле. Функция off-CPU, не работает. Wall-clock time высокий; CPU time низкий.

Семейство правок: lock-free структуры данных, более гранулярные локи, шардированное состояние, read-write локи для read-heavy-путей, eventual consistency для устранения shared state.

5. Syscall-bound

Функция тратит время в ядре — чтение, запись, сетевой I/O или ожидание на futex.

Сигнатура: kernel-фреймы (read, write, recv, futex) видны во flame graph с поддержкой kernel-символов. Доминирует off-CPU время. Может проявляться как частые узкие kernel-entry вместо одного широкого leaf’а.

Семейство правок: батчинг syscall’ов (один writev вместо десяти write), большие I/O-буферы, io_uring для async kernel I/O, memory-mapped I/O, полное устранение syscall’а там, где данные могут оставаться в user space.

Классификация hotspot’а на практике