Замыкания, feedback-векторы и полиморфизм точки вызова

Общий код, приватная обратная связь

Почему одно и то же тело функции иногда оптимизируется хорошо в одном месте и остаётся медленным в другом? Ответ в том, что каждый экземпляр замыкания ведёт свою приватную запись того, что видел во время работы — и именно по ней TurboFan компилирует. Когда вы создаёте много экземпляров одной функции — каждую стрелку, возвращённую из фабрики, каждое замыкание, запушенное в цикле — они не несут каждый свою копию байт-кода. Они делят один SharedFunctionInfo (SFI): байт-код, ScopeInfo (информацию об областях видимости), метаданные исходника. Что каждый экземпляр замыкания несёт отдельно — это его feedback vector (вектор обратной связи): массив на экземпляр, куда движок записывает наблюдения за типами во время работы для точек вызова и доступов к свойствам этого экземпляра.

Это разделение важно для производительности. Общий SFI держит память низкой и позволяет оптимизатору скомпилировать тело один раз. Feedback vector на экземпляр означает, что два замыкания из одной фабрики могут специализироваться по-разному, если им скармливают разные типы — и означает, что замыкание начинает собирать полезную обратную связь лишь после того, как этот экземпляр выполнился достаточно раз.

Точки вызова тоже образуют inline cache

Вы уже знаете, что чтения свойств образуют inline cache, ключуемые по hidden class (см. урок про mono/poly/mega в юните о hidden-классах). Вызовы делают то же. Выражение вызова вида fn(x) — где fn это переменная или свойство, держащее функцию — это точка вызова со своим IC-слотом в feedback vector. Этот слот фиксирует, какая функция (какая идентичность callee) здесь вызывалась:

• Monomorphic — точка вызывала только одну идентичность функции. V8 может спекулировать жёстко: он знает точную цель и может заинлайнить её тело.
• Polymorphic — небольшое число (до ~4) различных callee. V8 держит маленькую таблицу и ветвится между ними.
• Megamorphic — слишком много различных callee. V8 перестаёт отслеживать идентичности и выпускает общий косвенный вызов через то, что fn держит сейчас.

Почему инлайнинг — это вся игра

Инлайнинг — это оптимизация, которая открывает остальные. Когда TurboFan инлайнит monomorphic callee в вызывающего, он затем может свернуть константы через границу, устранить накладные расходы на передачу аргументов и специализировать слитый код по наблюдаемым типам. Megamorphic точка вызова блокирует всё это: TurboFan не знает, какая функция выполнится, поэтому обязан выпустить косвенный вызов — положить аргументы, прыгнуть через указатель на функцию, без инлайнинга, без оптимизации через границу. На горячем цикле диспетчеризации эти расходы ложатся на каждую итерацию.

// Megamorphic: одна точка, много идентичностей callee.
const registry = { click: onClick, hover: onHover, /* …ещё 38 */ };
function dispatch(type, ev) {
  return registry[type](ev);   // эта точка видит десятки идентичностей -> megamorphic
}

// Дружелюбно к monomorphic: маршрутизируй на несколько стабильных, отдельно скомпилированных путей.
function dispatchFast(type, ev) {
  switch (type) {
    case 'click': return onClick(ev);  // у каждой точки вызова ОДНА идентичность
    case 'hover': return onHover(ev);  // monomorphic, инлайнится
    default:      return onOther(ev);
  }
}

Версия со switch имеет много точек вызова, каждая monomorphic, вместо одной megamorphic точки. Каждая становится инлайнимой по отдельности. «Элегантная» версия с единой диспетчеризацией концентрирует всё разнообразие идентичностей на одной строке и отравляет её.

Функции высшего порядка: держите колбэки единообразными

Тот же эффект бьёт по map/filter/reduce и любому хелперу высшего порядка. Общий хелпер, вызываемый каждый раз с другим колбэком, имеет внутри одну точку вызова (cb(item)), которая видит много идентичностей — megamorphic. Он всё ещё работает, но не может заинлайнить колбэк. Паттерны, которые держат его быстрым:

• Передавайте ту же идентичность колбэка, когда можете, а не свежую инлайн-стрелку на каждый вызов. Литерал arr.map(x => f(x)) создаёт новую идентичность функции каждый вызов; arr.map(f) переиспользует одну.
• Специализируйте горячие хелперы. По-настоящему горячая свёртка над числами может быть рукописным циклом с заинлайненной операцией, а не общим reduce(fn), чья точка fn(acc, x) megamorphic.
• Держите формы аргументов единообразными тоже. Даже точки с monomorphic callee деоптятся, если аргументы дико меняют hidden class; важны и единообразные callee, и единообразные формы аргументов.