7,0% при лёгкой загрузке. 34,6% при тяжёлой. Речь не о пике потребления, а о скорости, с которой кластер набирает мощность.
Пан Ли, Ицзе Чэнь, Ся Мяо и Дай Ван прогнали реальные трассы мощности GPU через планировщики инференса. Препринт вышел в arXiv 27 октября 2026 года. Главный герой — chunked prefill (нарезка длинного запроса на части). Приём применяют ради задержки, и он уже стоит по умолчанию в продакшн-серверах. Побочный эффект — управляемая скорость набора мощности. Пик при этом остаётся на месте.
Мощность снимали через NVML с шагом 50 мс, частоты GPU фиксировали, чтобы убрать шум драйвера. Энергия на 1000 выходных токенов держалась около 701,7 кДж. Планировщик меняет не количество работы, а её распределение по времени.
Резерв покупают по скорости
Пиковая мощность задаёт, сколько трансформаторов и линий строить. Скорость набора задаёт, сколько быстрого резерва держать в сети. Вторая величина дешевле только на бумаге: ошибка в рампе — не штраф, а риск отключения.
В работе резерв описан как задача с шансовым ограничением и решён бутстрэпом по измеренным трассам. При тяжёлой загрузке потребность в быстром резерве падает на 24% (95%-й интервал 13–34%). При умеренной — на 12%. Диапазон надёжности от 95% до 99,9% вывод не меняет.
Снижение требования при тяжёлой загрузке
Оценка для независимо работающих серверов · arXiv:2608.01250v2, 2026
Длинные запросы дают амплитуду
Эффект растёт вместе с загрузкой. По конкуренции запросов снижение рампы идёт от 7,0% к 34,6%. Доля «китов» — длинных запросов — разгоняет его почти с нуля до 39,6%. Чем плотнее набит сервер, тем полезнее расписание.
Здесь и прячется практический смысл. Пустой кластер гасить нечего. Загруженный кластер — единственный, где диспетчеру есть что сглаживать.
Где выигрыш исчезает
На двух GPU с параллельным разбиением модели цифры расходятся: около 36% для плотной модели на 14 млрд параметров и всего 10% для разреженной смеси экспертов. Синхронизация нагрузок между серверами срезает эффект до 16–20%. Рампы медленнее двух секунд регулятор уже не различает.
Синхронизация — главный риск. Дата-центры редко колеблются вразнобой: утренний пик приходит ко всем сразу. Если планировщики настроены одинаково, они гасят рампу синхронно и возвращают её агрегату.
Скорость важнее цены киловатт-часа
Вторая работа, arXiv 2611.17098 от 12 ноября, объясняет, почему этот эффект вообще имеет цену. Авторы сравнили подключение к сети и автономные микросети для ЦОД в США. Связка на постоянном токе экономит 18% затрат энергии за срок службы — $0,09 за кВт·ч. Если учитывать упущенное вычисление, такие микросети оказываются дешевле в 85% локаций. При ускоренных сроках газовой генерации — в 55%.
Как мы писали в ноябре, собственная генерация упёрлась в предел: 110 ГВт газа на площадке — это не решение, а перенос очереди. Обе работы указывают в одну сторону. Сеть перестаёт быть местом, где покупают электричество, и становится местом, где торгуют формой нагрузки.
Цифра 24% — не скидка, а измерение. Она получена на независимых серверах. В реальном кампусе планировщик один на тысячи GPU, и синхронизация съедает часть выигрыша. Сколько именно — зависит от того, кто и как выставит приоритеты. Этот параметр пока никто не измерял публично.