> ## Content Index
> Fetch the complete content index at: https://eclibra.com/llms.txt
> Use this file to discover other available public pages before exploring further.

# OpenRelay и сеть доставки инференса: GPU по публичному прайс-листу
- URL: https://eclibra.com/openrelay-inference-delivery-network-2026/
- Published: 2026-08-24T10:12:52.000Z
- Updated: 2026-08-24T10:12:52.000Z
- Description: H100 SXM за $2,60 в час с почасовым биллингом — так выглядит тариф открытой сети доставки инференса от YC-стартапа OpenRelay. Разбираем, откуда берётся экономия до 20%, чем грозит обещание «минус 90%» и переживёт ли нейтральный слой маршрутизации натиск гиперсейлеров.
- Author: ByteMaster
- Tags: ИИ-инфраструктура и энергия, #mode-1, #hook-number, #track-E, #smm

$2,60 в час — столько стоит H100 SXM на 80 гигабайт HBM3\. $3,20 — H200 на 141\. Игровая RTX 3090 — $0,18\. Это не прайс серого брокера, а публичный тариф сети, которая вышла из летнего батча Y Combinator. Тезис статьи уместится в одну строку: инференс перестал быть проектом закупки железа и стал товарной сетью с доставкой.

Сеть называется OpenRelay, до августа — VectorLay. Продукт основатели называют Inference Delivery Network (сеть доставки инференса): логика CDN, только вместо видео между дата-центрами ездят запросы к моделям. Один эндпоинт, совместимый с API OpenAI, внутри — роутинг между ускорителями NVIDIA, TPU, Trainium и AMD.

Как мы писали в августе, инференс уже вытесняет обучение как главный потребитель AI-мощностей: ElastixAI собрала стойку для вывода моделей на FPGA — та же проблема, решённая со стороны железа. OpenRelay решает её со стороны маршрутизации. Подходы соревнуются за один бюджет.

## Прайс-лист как манифест

Открытый тариф — не маркетинговая деталь, а декларация позиции. Почасовой биллинг без резерваций, без квот и без годовых коммитов против стандартной для гиперсейлеров схемы «забронируй кластер за три месяца до запуска проекта». Для команд с рваным профилем нагрузки разница между этими двумя моделями — это разница между счётом за простой и счётом за работу.

$2,60 в час, H100 SXM 

#### Флагманский ускоритель в открытом тарифе

Публичный тариф с почасовым биллингом; H200 предлагается за $3,20, RTX 5090 — за $0,44\. · *openrelay.inc, 2026*

22 локации, 4 континента 

#### География распределённого GPU-облака

Для сравнения: инференс-облако Akamai к ноябрю 2025 покрывало 17 городов. Заявку на большее делает компания с десятью сотрудниками. · *Dealroom, 2026*

## Анатомия сети доставки

Архитектурно продукт состоит из двух слоёв. Нижний — распределённое GPU-облако: собственные мощности плюс подключённые поставщики, от дата-центров до зарезервированных флотов, которые простаивают. Верхний — роутер: рабочая нагрузка приходит на единственный адрес, система выбирает, где её исполнить дешевле и быстрее, при сбое узла переключает трафик. Разработчик меняет одну строку — базовый URL в существующей интеграции.

> Пришлите нам нагрузку — мы снизим ваши затраты до 20%, прогоняя её через нашу сеть и подбирая лучший доступный ускоритель среди облаков, а назад отдадим единый эндпоинт.— Prashant Patel и Jaden Wang, основатели OpenRelay, пост о запуске в Y Combinator

Формула «до 20%» выглядит скромно на фоне описания компании в LinkedIn, где фигурирует экономия «до 90% против AWS, Azure и GCP». Обе цифры принадлежат самой компании, и обе требуют оговорок.

#### Почему цифры экономии расходятся в шесть раз

−20% — это заявка роутера: выигрыш от балансировки между ускорителями и провайдерами при сопоставимых ценах.  
  
−90% — это сравнение почасового тарифа за потребительские карты вроде RTX 4090 с ценой H100 по запросу (on-demand) у гиперсейлера. Число честное, но сравнивает разные классы оборудования и разные профили надёжности.  
  
**Критерий проверки:** независимый бенчмарк token SLA (гарантированной скорости генерации токенов) на одинаковой модели и одинаковом профиле нагрузки. До его появления обе цифры — маркетинг. 

Экономический фон объясняет, почему категория вообще возникла. По отраслевым оценкам, инференс даёт 80–90% совокупной стоимости владения производственной AI-системой: обучение платят однажды, вывод моделей оплачивается каждый день. Gartner ждёт, что в 2026 году 55% расходов на AI-оптимизированную инфраструктуру придётся именно на инференс, к 2029-му — 65%. При этом сроки ожидания H100 у дистрибьюторов доходят до 36–52 недель. Компании резервировали мощности впрок — и часть этого резерва простаивает. Открытая сеть монетизирует именно этот простой.

🎯

OpenRelay переносит логику CDN на рынок инференса: единый эндпоинт, роутинг между чипами разных вендоров, почасовой биллинг.  
  
Категорию подтверждают чужие деньги: Akamai строит инференс-облако, Zero Latency — «CDN для AI» на краевых площадках.  
  
Ключевой риск для клиента — зависимость от маржи нейтрального слоя ровно в тот момент, когда гиперсейлеры научатся роутить сами. 

## Команда из Amazon Bedrock и Voltage Park

Основательская пара пришла к одной проблеме с противоположных сторон. Prashant Patel входил в число создателей Amazon Bedrock и довёл функцию импорта кастомных моделей от нуля до многомиллионного ARR; до этого в Voltage Park он управлял инференсом для кластеров свыше 10 000 GPU, а его бессерверный слой выдерживал 10 млн исполнений в месяц. Jaden Wang отвечал в Voltage Park за виртуализацию и HPC, до того работал в TensorDock.

Отступление, которое многое объясняет: в двадцать лет Wang построил дата-центр на половину мегаватта из пустующего складского здания. Человек, который знает цену каждому киловатту и каждой недели простоя, вряд ли изобретал роутер из любопытства.

Компания подняла pre-seed на стандартных условиях YC — $125 тысяч в июне 2026-го. Полный расклад батча инвесторы увидят на Demo Day 10 сентября.

## Кто ещё строит этот слой

OpenRelay выходит на поле, где уже плотно. OpenRouter маршрутизирует доступ к самим моделям, Replicate упаковал их запуск в простой API, Together AI держит хостинг открытых весов, Vast.ai и RunPod торгуют GPU-мощностью маркетплейсами. Akamai ещё в ноябре 2025 развернула инференс-вычисления в 17 городах и с тех пор расширяет программу. Отдельная ставка — Zero Latency с её «CDN для AI»: три краевые площадки в Калифорнии и Флориде, планы удвоить сеть до конца года.

Различие — в уровне абстракции. Перечисленные игроки роутят либо между моделями, либо между провайдерами одного класса карт. IDN претендует на слой глубже: выбор между архитектурами ускорителей — GPU против TPU против Trainium — внутри одного запроса. Если эта претензия подтвердится бенчмарками, нейтральный слой станет заметно дороже для обхода.

| Параметр               | Гиперсейлер                  | Открытая IDN-сеть                  |
| ---------------------- | ---------------------------- | ---------------------------------- |
| **Биллинг**            | ◐ Резервации и коммиты       | ✔ Почасовой, без обязательств      |
| **Выбор ускорителя**   | ✗ Фиксированный флот вендора | ✔ NVIDIA, TPU, Trainium, AMD       |
| **Точка входа**        | ◐ Свой стек под каждого      | ✔ Один OpenAI-совместимый API      |
| **Источник мощностей** | ◐ Собственные ДЦ             | ✔ Открытая сеть плюс чужие резервы |

Источники: openrelay.inc, launch-пост Y Combinator, 2026

## Что это значит для CTO

IDN-подход оправдан там, где профиль нагрузки рваный: пакетная обработка, ночные очереди, мультимодельный портфель, где часть задач тянет маленькую карту, а часть — флагманскую. Экономия 15–20% на инфраструктуре инференса для стартапа, который тратит на неё треть бюджета, — это не округление, а лишние месяцы взлётной полосы.

Грубая арифметика на типовой конфигурации. Приложение выдаёт 10 млн токенов в день на модели среднего размера. Вариант первый: управляемый API по рыночному тарифу — порядка $1800 в месяц. Вариант второй: аренда A100 в спотовом сегменте открытой сети за $0,80 в час — около $580 за тот же объём при круглосуточной загрузке. Разница — $1200 ежемесячно с одной рабочей нагрузки; у команды с десятком таких нагрузок это годовой бюджет ещё двух инженеров. Цифры приводятся в материалах провайдера Spheron и, как любые цифры провайдера, требуют собственной проверки — но порядок разрыва подтверждается и независимыми обзорами стоимости стеков инференса.

Противоположный случай тоже очевиден. Жёсткие требования к локализации данных, латентность реального времени, самые крупные модели со специфическими требованиями к памяти — всё это пока территория выделенных кластеров у крупного облака с договором и SLA. Слой маршрутизации добавляет и новую зависимость: тарифы нейтрального оператора никто не регулирует.

### Переживёт ли нейтральный слой маршрутизации своё детство?

🔮

**К концу первого квартала 2027 года как минимум две крупные облачные платформы представят нативный мультичиповый роутер инференса — сервис выбора между собственными и сторонними ускорителями внутри одного эндпоинта.**  
  
Вероятность: 60% — Microsoft, Google и Amazon уже выпускают собственные чипы (Maia, TPU, Trainium) и заинтересованы заполнять их мощностями любой ценой. 

#### ✅ Аргументы за

Дефицит HBM и очереди на упаковку CoWoS сохраняются минимум до 2027 года — спрос на чужие резервы не исчезнет.  
  
Гиперсейлерам выгоднее роутить трафик к своим дешёвым чипам, чем терять клиентов целиком.  
  
**Критерии подтверждения:** анонс сервиса на re:Invent или Next в 2026 году. 

#### ❌ Аргументы против

Облака исторически выдавливают нейтральные слои: управляемые Kubernetes-сервисы похоронили часть дистрибьюторов.  
  
Enterprise-клиенты не хотят, чтобы производственные запросы уходили за периметр облака.  
  
**Критерии опровержения:** к апрелю 2027 ни одно крупное облако не анонсировало мультичиповый роутинг. 

### Сценарии развития

#### 🟢 Оптимистичный сценарий (25%)

Независимые бенчмарки подтверждают экономию, IDN становится стандартным слоем между приложением и железом, OpenRelay поднимает раунд А.  
  
**Последствия:** цены на инференс продолжают падать, гиперсейлеры вынуждены конкурировать тарифами, а не контрактами. 

#### 🟡 Базовый сценарий (55%)

Категория живёт как ниша оптимизации затрат: команды берут IDN для пакетных и некритичных нагрузок, крупнейшие модели остаются у больших облаков.  
  
**Последствия:** OpenRelay вырастает до устойчивого среднего бизнеса без статуса платформы; консолидация через поглощение. 

#### 🔴 Пессимистичный сценарий (20%)

Гиперсейлеры и модельные лаборатории встраивают роутинг в собственные SDK, маржа нейтрального слоя схлопывается.  
  
**Последствия:** технология выживает, но внутри корпораций; команда OpenRelay становится целью поглощения. 

📊

**Ключевые сигналы для отслеживания**  
  
Demo Day YC S26 10 сентября: раскрытые метрики нагрузки и выручки OpenRelay  
  
Ответ Akamai и Cloudflare — расширение инференс-сетей или мультичиповый роутинг  
  
Публикация независимого бенчмарка token SLA для IDN-маршрутизации  
  
Первые российские интеграторы, перекладывающие открытые GPU-сети в свои предложения 

[ OpenRelay — страница компании в Y Combinator Пост о запуске «The Inference Delivery Network» с биографиями основателей и описанием архитектуры роутинга. Y Combinator ](https://www.ycombinator.com/companies/openrelay?ref=eclibra.com) 

Первоисточник всех ключевых заявлений продукта, включая формулу экономии «до 20%».

[ OpenRelay выходит из YC S26 с распределённым GPU-облаком Сводка запуска: 22 локации на четырёх континентах, поддержка четырёх семейств ускорителей, раунд pre-seed от YC. Dealroom.co ](https://app.dealroom.co/news/note/openrelay-launches-from-yc-s26-with-distributed-gpu-cloud-for-ai-inference?ref=eclibra.com) 

Единственный датированный источник запуска — середина августа 2026 года.

[ Открытый прайс-лист GPU-облака OpenRelay Почасовые тарифы от RTX 3090 за $0,18 до H200 за $3,20, каталог моделей и калькулятор стоимости. OpenRelay ](https://openrelay.inc/?ref=eclibra.com) 

Публичный тариф — редкость на рынке, где большинство цен живёт в переговорах.