Четырёхуровневый JIT-конвейер V8 и профилированная тиеризация

Страница ощущается отзывчивой через 200мс после загрузки. Через несколько секунд становится ещё быстрее. Третье ускорение появляется после тысяч взаимодействий. Это не магия — V8 перемещает горячий код выше по уровням, оставляя холодный дешёвым.

Четырёхуровневый конвейер

V8 имеет четыре режима выполнения, упорядоченных по соотношению стоимость компиляции / скорость выполнения.

Ignition — интерпретатор байткода. Парсер создаёт AST; Ignition преобразует его в компактный регистровый байткод и выполняет на виртуальной машине. При интерпретации Ignition записывает type feedback в FeedbackVector функции — слоты для каждой «интересной» точки (загрузка свойства, вызов функции, арифметика, сравнение). Дёшево входить (без затрат на компиляцию), ~10× медленнее на инструкцию по сравнению с оптимизированным нативным кодом.

Sparkplug — базовый JIT, добавлен в 2021 году. Sparkplug генерирует неспециализированный машинный код за один линейный проход по байткоду — без SSA, без реальной оптимизации, просто точный перевод каждого байткода в небольшой блок машинных инструкций плюс хвостовой вызов. Стоимость компиляции практически нулевая (~1 мс/кБ байткода); ускорение по сравнению с Ignition — 1.5–2×.

Maglev — оптимизирующий компилятор среднего уровня, добавлен в 2023 году. Maglev использует наблюдаемые типы из FeedbackVector и SSA-оптимизации для генерации специализированного машинного кода, но пропускает тяжёлые проходы TurboFan. ~10× медленнее компиляция, чем Sparkplug, ~10× быстрее, чем TurboFan; код примерно на полпути между ними по скорости выполнения.

TurboFan — тяжёлый оптимизирующий компилятор. Агрессивный инлайнинг, escape-анализ, анализ диапазонов, специализация на основе hidden class, спекулятивные оптимизации с возможностью deopt. Высокая стоимость компиляции (десятки-сотни мс для сложных функций); выдаёт самый быстрый код.

Профилированная тиеризация

Функции попадают в Ignition. При превышении порогов счётчика выполнения (для каждой функции, динамически) V8 продвигает на следующий уровень. FeedbackVector отслеживает не только типы, но и частоты веток, поэтому TurboFan может расположить горячий путь с оптимальным предсказанием ветвления. Продвижение происходит вне потока (concurrent compilation) — JS основной поток продолжает работать на текущем уровне, пока рабочий поток компилирует следующий.

Функции могут пропускать уровни: очень горячая функция, увиденная при старте, может прыгнуть с Ignition прямо в Maglev. Функции с нестабильным feedback (частые переходы IC) откладываются или пропускаются — TurboFan на нестабильной функции произведёт код, который немедленно deopt’нется, потратив 100 мс работы по компиляции впустую.

Операционные рычаги

Восемь шаблонов, удерживающих код на быстром уровне V8:

1. Шаблон конструктора — объявляйте все свойства объекта в одном месте, чтобы hidden classes были стабильными.
2. Избегайте delete — используйте присвоение null или undefined; delete принудительно переводит в dictionary mode.
3. Держите функции monomorphic — не передавайте разные формы на одну точку вызова.
4. Избегайте arguments в старом коде; используйте rest-параметры.
5. Предварительно выделяйте массивы с известной ёмкостью, чтобы избежать изменения размера.
6. Переиспользуйте пулы объектов для короткоживущих нагрузок (canvas, анимация) вместо создания новых объектов на каждый кадр.
7. Избегайте огромных объектных литералов в горячих путях — они быстро становятся megamorphic.
8. Для горячих числовых циклов используйте TypedArrays — V8 имеет высокоточные пути для Uint32Array и других, которые полностью обходят IC-слой.