open atlas
↑ К треку
Внутренности движка JavaScript JSE · 03 · 04

Inline cache в глубину: feedback-слоты и handlers

IC живёт в слоте feedback vector у функции; load IC кэширует {map → handler}. Handler — это Smi-кодированный field index для простого in-object-load или более богатый handler-объект для accessor-, prototype- или dictionary-load. У store'ов свои IC

JSE Middle ◷ 15 min
Уровень
ОсновыJuniorMiddleSenior

Обзор в browser/03-v8-internals/04-inline-caches сказал вам, что inline cache «записывает hidden class и смещение». Верно — но где он записывает это и что за штуку хранит рядом с map? Это не буквально впатчено в поток инструкций, как намекает название «inline cache» из 1990-х. В современном V8 кэш живёт в боковой таблице, прикреплённой к функции, а значение рядом с map — это handler, иногда единственное целое, иногда маленькая программа. Этот урок вскрывает ту таблицу.

Feedback vector: где IC живут на самом деле

Когда увидишь вывод --trace-ic или запись в deopt-логе с фразой «wrong map» или «feedback changed», ты читаешь отпечаток того, что хранится здесь. Понять FeedbackVector — значит превратить непрозрачный вывод JIT в диагноз.

Каждая функция, однажды выполнившись, получает FeedbackVector (вектор обратной связи) — объект кучи, прикреплённый к замыканию функции, который держит один или несколько слотов, аллоцированных при компиляции, по одному на каждую несущую IC операцию байт-кода (каждый load свойства, каждый store, каждый вызов, каждый бинарный оператор). «Inline cache» для p.x — это не байты, переписанные внутри машинного кода; это содержимое слота этой операции в FeedbackVector.

Это разделение важно: один и тот же байт-код может разделяться между замыканиями, а feedback (наблюдённые типы и формы) живёт на FeedbackVector. Поэтому же feedback переживает смены ярусов — когда Ignition собирает feedback, а TurboFan позже компилирует, TurboFan читает именно эти слоты. FeedbackVector — это канал между интерпретатором и оптимизирующим компилятором. (Этот канал мы прослеживаем вперёд в 04-the-jit/02-type-feedback.)

Load IC кэширует {map → handler}

Для load свойства monomorphic-слот IC держит две вещи: map, который он ожидает (hidden class из урока 01), и handler, который говорит, как получить значение, как только map совпал. Быстрый путь:

загрузить указатель map объекта
сравнить с закэшированным map слота
если равно: применить handler  -> значение
если не равно: miss -> уйти в рантайм промаха IC, обновить слот

Handler — интересная часть. Он бывает двух широких форм:

  • Smi-кодированный handler (частый, быстрый случай). Для простого load поля у объекта с этим map handler — это просто малое целое, кодирующее «загрузить поле по in-object-индексу N» (или «PropertyArray индекс N»). Это tagged Smi — без отдельной аллокации. Применить его — единственный load по закодированному смещению. Это handler за тем «1 MOV», что вы видели в обзоре.
  • Handler-объект (сложный случай). Когда load — это не простое чтение поля, handler — это объект кучи LoadHandler, описывающий маленький рецепт: вызови этот getter (accessor-handler), или иди к прототипу и грузи там (prototype-chain handler, с validity cell — урок 05), или сделай поиск по словарю (для объектов в dictionary mode), или верни константу из map. Они стоят дороже Smi-handler’а, но всё ещё намного дешевле полностью общего поиска, потому что проверка map уже сузила случай.
// Концептуально, для monomorphic load `p.x`, где x — in-object-поле по индексу 0:
//   slot = { map: M_point, handler: Smi(encode(in_object, 0)) }
// Для `p.size`, где size — getter:
//   slot = { map: M_point, handler: LoadHandler{ kind: accessor, getter: fn } }

У store’ов свои IC — и они вызывают переходы

Обзор сосредоточился на load’ах. Store’ы (p.x = v) получают свои слоты StoreIC, и они сложнее, потому что store может изменить форму. Store IC записывает не только map и смещение, но, когда store добавляет свойство, и переход, который надо взять: «из map M1, добавляя x с этими attributes, иди в map M2 и пиши значение в новое поле». Так что store IC — это место, где переходы форм из урока 02 на самом деле запускаются на горячем пути, и где обнаруживается обобщение representation (Smi → Double), когда хранимое значение не помещается в текущий representation поля.

Store IC также различает «store в существующее поле» (просто пиши по смещению) и «store, создающий новое поле» (возьми переход, возможно нарасти PropertyArray). Store, переключающий representation или constness поля, инвалидирует оптимизированный код, предполагавший старое.

BinaryOp и Compare IC собирают feedback по числам

Не все IC про форму объекта. У арифметических операций и сравнений есть слоты BinaryOpIC и CompareIC, записывающие историю числовых типов своих операндов: видели ли мы тут только Smi? Smi и HeapNumber (то есть Number)? BigInt? String (для +)? Или смесь (Any)?

Этот feedback и позволяет TurboFan выпустить распакованную целочисленную арифметику для счётчика цикла или одну инструкцию с плавающей точкой для свёртки Number вместо общего рантайм-вызова «сложить что угодно с чем угодно». Цикл, который всегда складывал только Smi, строит Smi-feedback; в день, когда значение переполняется в HeapNumber, feedback расширяется, и любой код, специализированный на Smi, должен деоптнуться (классический деопт переполнения из 02-values-and-memory). Так что BinaryOp IC одновременно ускоряет интерпретатор и записывает профиль типов, которому JIT будет доверять.

Внутренности IC и feedback (V8)
Где живёт IC
слот в FeedbackVector функции
Monomorphic load-слот
map + handler
Простой handler
Smi-кодированный field index (1 load)
Сложный handler
объект LoadHandler (accessor/proto/dictionary)
Дополнение store IC
записывает переход map, который надо взять
BinaryOp feedback
None/Smi/Number/BigInt/String/Any
Осмотр
%DebugPrintFeedbackVector(fn), --trace-ic
Викторина

Monomorphic load IC для `p.x` читает `x` как getter (accessor-свойство). Как выглядит handler в слоте?

Викторина

Почему StoreIC нужно записывать больше, чем map и смещение, в отличие от простого LoadIC?

Расставь шаги по порядку

Расставьте по порядку, что происходит в monomorphic load IC для `p.x`, когда приходит объект ожидаемой формы.

  1. 1 Прочитать слот FeedbackVector для этой операции load
  2. 2 Загрузить указатель map объекта и сравнить с закэшированным map слота
  3. 3 При совпадении взять handler слота
  4. 4 Применить handler — для простого поля загрузить по Smi-кодированному смещению
  5. 5 Вернуть значение без сравнения имени или поиска по хешу
Почему это работает

Зачем хранить handler отдельно, а не просто смещение? Потому что «как достать свойство» — это не всегда «загрузи по смещению N». Это может быть: вызови getter, иди по цепочке прототипов к другому объекту и грузи там, прочитай константу, свёрнутую в map, или хеш-зондируй словарь. Кодирование всего этого как единообразного «handler» позволяет IC оставаться одной формой слота ({map, handler}), поддерживая каждый вид доступа — и позволяет V8 поменять Smi-handler на более богатый без изменения структуры слота, когда доступ оказывается сложнее простого чтения поля.

Вспомните перед уходом
  1. 01
    Где физически живёт inline cache в современном V8 и почему это место важно?
  2. 02
    Что такое handler в load IC и каковы две основные формы?
  3. 03
    Чем store IC и BinaryOp IC отличаются от простого load IC?
Итог

В современном V8 inline cache — это не впатченный машинный код; это данные в FeedbackVector функции, объекте кучи с одним слотом на каждую несущую IC операцию, аллоцированным при компиляции. Monomorphic load-слот спаривает ожидаемый map (hidden class) с handler. Handler — это либо Smi-кодированный field index — tagged целое, применяемое одним load’ом, быстрый путь «1 MOV», — либо объект LoadHandler, кодирующий рецепт для accessor-, prototype-chain-, dictionary- или константных load’ов, каждый всё ещё за дешёвой проверкой map. Store IC идут дальше: они записывают переход map, который берёт запись при добавлении свойства, так что store горячего пути и есть место, где срабатывают переходы и обобщение Smi -> Double. BinaryOp и Compare IC записывают feedback по числовым типам (None/Smi/Number/BigInt/String/Any) своих операндов. Поскольку всё это живёт пер-замыкание в FeedbackVector и переживает смены ярусов, это в точности канал, который Ignition заполняет, а TurboFan читает — тема урока type-feedback в юните JIT. Осматривайте через %DebugPrintFeedbackVector и —trace-ic. Теперь, когда встретишь в deopt-отчёте «wrong map» или строку --trace-ic, где точка переходит из MONO в POLY, ты знаешь, что именно изменилось в слоте FeedbackVector — и что это означает для яруса JIT выше.

Практика

Начни сверху. Задачи идут от простого к сложному: вспомнить факт, применить к случаю, затем senior-уровень. Открой, попробуй, потом открой ответ.

вспомнитьприменитьуглубить0 из 7 завершено
Связанные уроки
встречается в184

Что-то непонятно?

Задай вопрос по этому уроку. Вопросы анонимны и попадают напрямую автору — урок станет лучше.

хоткеи развернуть
поиск
K
пред. пьеса
k
след. пьеса
j
тиры
t
это меню
?
sources3
expand
  1. 01
  2. 02
  3. 03

Trademarks belong to their respective owners. Editorial reference only.