open atlas
↑ К треку
Внутренности движка JavaScript JSE · 06 · 04

Write barriers: цена инкрементального и поколенческого GC

Каждая запись указателя в объект кучи запускает write barrier. Он служит двум господам: поколенческий барьер записывает указатели old→young в remembered set, чтобы minor GC не сканировал old space, а барьер в стиле Дейкстры держит трёхцветный инвариант

JSE Senior ◷ 15 min
Уровень
ОсновыJuniorMiddleSenior

obj.next = node выглядит как одна запись — записать указатель, готово. Но у GC есть два открытых вопроса, которые эта запись может обесценить. Если obj живёт в old space, а node молодой, то minor GC, сканирующий только young space, пропустит эту совсем новую ссылку и освободит живой объект. Если в полёте конкурентная разметка и obj уже black, то эта запись может протащить белый объект мимо маркера. Поэтому это одно присваивание — не одна инструкция: V8 тихо оборачивает его в проверку под названием write barrier, и она выполняется почти на каждой записи указателя в вашей программе.

Почему запись не бесплатна

Прошлые два урока оставили два долга по корректности, оба порождённые одним и тем же — указателем, изменённым между сборками или во время них:

  1. Поколенческий долг. Minor GC сканирует только young space (плюс корни), потому что сканировать гигабайты old space при каждом Scavenge уничтожило бы весь смысл поколенческого GC. Но старые объекты могут держать ссылки на молодые (oldArray.push(youngObj)). Если бы V8 их игнорировал, он освободил бы молодой объект, на который old space всё ещё ссылается.
  2. Долг разметки. Конкурентная/инкрементальная разметка даёт JS изменять граф посреди трассировки. Запись может заставить чёрный (просканированный) объект указать на белый (недостигнутый), нарушив трёхцветный инвариант, так что маркер завершится, не посетив живой объект, и sweep его соберёт.

Write barrier — это небольшой кусок кода, который компилятор выпускает вокруг почти каждой записи указателя в объект кучи. Он выполняется в момент obj.field = ptr и делает любой учёт, нужный, чтобы оба вопроса оставались закрыты. Один барьер — две работы.

Работа 1: поколенческий барьер и remembered set

Чтобы не сканировать old space на minor GC, V8 поддерживает remembered set (реализованный через store buffer, позже обрабатываемый в наборы слотов по страницам): запись каждого слота в old space, держащего указатель в young space. Когда вы пишете oldObj.field = youngObj, поколенческий write barrier замечает, что запись пересекает old→young, и записывает этот слот.

При следующем Scavenge V8 трактует remembered set как дополнительные корни: он сканирует эти записанные слоты, чтобы найти молодые объекты, удерживаемые живыми ссылками old space, без обхода old space вообще. После того как Scavenge обновляет адреса перемещённых молодых объектов, именно remembered set позволяет починить указатели old space.

const cache = [];          // promoted to old space over time
function handle(req) {
  const entry = { req };   // young
  cache.push(entry);       // OLD-массив теперь ссылается на YOUNG-запись
  //                          ^ барьер записи поколений фиксирует этот слот
}

Барьер срабатывает только для направления old→young. Записи young→young и young→old неинтересны minor GC (young всё равно полностью сканируется; old→? — забота major GC), поэтому V8 убирает барьер в этих случаях.

Работа 2: барьер инкрементальной разметки (стиль Дейкстры)

Во время конкурентной разметки тот же хук записи защищает трёхцветный инвариант. V8 использует insertion-барьер в стиле Дейкстры: когда мутатор записывает указатель на white-объект в любой объект во время разметки, барьер серит белую цель (кладёт её в marking worklist). Это гарантирует, что маркер в итоге её просканирует, поэтому её нельзя оставить белой и ошибочно собрать. (Классическая альтернатива — Yuasa snapshot-at-the-beginning барьер, серящий перезаписываемого старого референта; дизайн V8 использует insertion в стиле Дейкстры для конкурентного маркера. В любом случае цель идентична: ни один живой объект не ускользает от трассировки.)

Поскольку обе работы запускаются одним событием — записью указателя в слот кучи — V8 сливает их в единый путь барьера, проверяющий нужные условия (активна ли разметка? пересекает ли запись old→young?) и делающий минимум работы.

Почему записи Smi пропускают барьер

Барьер существует только для отслеживания указателей между объектами кучи. Smi (small integer — 31-битное целое в 64-битном V8) — это не указатель: он закодирован прямо внутри tagged-значения с нулевым младшим tag-битом, поэтому он вообще не может ссылаться на объект кучи. Запись Smi в поле — obj.count = 42 — не создаёт межобъектной ссылки, поэтому V8 не выпускает write barrier для неё. То же верно для записи других immediate. Это ещё одна причина, почему различие Smi/HeapNumber из юнита 02 важно для производительности: записи полей с большим числом целых барьерны-свободны, тогда как записи, кладущие указатели на объекты или упакованные double, платят за проверку барьера.

Стоимость и где она кусает

Каждый барьер дёшев по отдельности — несколько инструкций: загрузить метаданные страницы цели или проверить флаг разметки, ветвление, а в медленном случае положить в worklist или store buffer. Назовём это горсткой циклов на запись указателя. Это невидимо в обычном коде. Это становится измеримым на горячих путях с большим числом аллокаций и мутаций: плотные циклы, строящие большие графы объектов, многократно переуказывающие поля или кладущие миллионы ссылок на объекты в долгоживущие контейнеры. Там накладные расходы барьера реальны, и это одна из скрытых стоимостей «просто положить объекты в массив» против работы с типизированными массивами или Smi-кодированными данными.

Факты о write barrier
Выполняется на
~каждой записи указателя в кучу
Поколенческая работа
записать слот old→young
Работа разметки (V8)
Дейкстра insertion: серить цель
Remembered set через
store buffer → наборы слотов
Запись Smi / immediate
без барьера
Типичная стоимость
несколько циклов / запись
Викторина

Зачем minor GC (Scavenge) вообще нужен remembered set?

Викторина

`obj.count = 42` против `obj.child = someObject`. Какая запись(и) выпускает write barrier и почему?

Расставь шаги по порядку

Расставьте по порядку, что происходит, когда JS исполняет `oldObj.field = youngWhiteObj` во время активной конкурентной разметки.

  1. 1 Запись попадает в инлайновый write barrier вместо прямой записи
  2. 2 Барьер проверяет: разметка активна, значит серить белую цель в marking worklist
  3. 3 Барьер проверяет: запись пересекает old→young, значит записать слот в remembered set
  4. 4 Фактический указатель записывается в поле
  5. 5 Позже маркер сканирует ставшую серой цель, чтобы её не собрали ошибочно
Почему это работает

Почему вставлять барьер на записи, а не на чтения? Потому что записи в типичном коде гораздо реже чтений и являются единственными операциями, которые могут изменить достижимость или нарушить трёхцветный инвариант, — чтение указателя не может создать новое ребро в графе объектов. Read barrier (используемый некоторыми сборщиками, например для перемещения в ZGC/Shenandoah) дороже именно потому, что чтения доминируют. V8 выбирает write barriers как более дешёвое место платить, поэтому стоимость концентрируется на коде с большим числом мутаций.

Вспомните перед уходом
  1. 01
    Какие две проблемы корректности решает write barrier и как?
  2. 02
    Почему записи Smi пропускают write barrier и почему это важно для производительности?
  3. 03
    Где накладные расходы write barrier реально становятся измеримыми и почему барьеры на записях, а не на чтениях?
Итог

Write barrier — это код, который V8 выпускает вокруг почти каждой записи указателя в объект кучи, и он гасит два долга по корректности из прошлых уроков. Поколенчески: поскольку minor GC сканирует только young space, указатели old→young были бы ему невидимы; барьер записывает слот каждой такой записи в remembered set (опирающийся на store buffer), и Scavenger использует эти слоты как дополнительные корни, чтобы находить молодых выживших без сканирования old space. Для разметки: поскольку конкурентная/инкрементальная разметка даёт JS менять граф посреди трассировки, запись может заставить чёрный объект сослаться на белый и нарушить трёхцветный инвариант; insertion-барьер V8 в стиле Дейкстры серит белую цель в worklist, чтобы маркер её всё же посетил и никогда не собрал живой объект. Обе работы делят один триггер — запись указателя, — поэтому V8 их сливает. Запись Smi или другого immediate не создаёт межобъектного указателя, поэтому пропускает барьер, отчего накладные расходы барьера концентрируются на горячих путях с большим числом аллокаций и мутаций и являются реальной, пусть и малой, скрытой стоимостью текучки указателей на объекты. Теперь, когда в flamegraph вы замечаете неожиданную стоимость барьера — плотный цикл, кладущий объекты в долгоживущий массив, — вы знаете, что делать: переключитесь на типизированные массивы или Smi-кодированные данные, и барьер исчезнет.

Практика

Начни сверху. Задачи идут от простого к сложному: вспомнить факт, применить к случаю, затем senior-уровень. Открой, попробуй, потом открой ответ.

вспомнитьприменитьуглубить0 из 8 завершено
Связанные уроки
встречается в208

Что-то непонятно?

Задай вопрос по этому уроку. Вопросы анонимны и попадают напрямую автору — урок станет лучше.

хоткеи развернуть
поиск
K
пред. пьеса
k
след. пьеса
j
тиры
t
это меню
?
sources3
expand
  1. 01
  2. 02
  3. 03

Trademarks belong to their respective owners. Editorial reference only.