$240 млн. IBM и Together AI договорились о строительстве крупного inference-кластера (кластера для инференса) на Nvidia HGX B300 в IBM Cloud. Первые мощности — около 2000 чипов Blackwell — должны выйти в Q1 2027. Это ставка на open-source модели и экономику токена, а не на закрытые frontier-системы.
• $240 млн multi-year deal между IBM и Together AI
• ~2000 Nvidia Blackwell 300 на IBM Cloud, Spectrum-X Ethernet
• Цель — production inference для open-source моделей (DeepSeek, MiniMax, Kimi, GLM и др.)
• Together AI уже обрабатывает ~400 трлн токенов в месяц
• Кластер рассчитан на sold-out за 2–3 месяца до запуска
Сдвиг заметен: расходы на инференс в 2026 году уже обгоняют затраты на обучение. Gartner оценивает рынок инференса в $23,3 млрд против $19 млрд на training. Предприятия ищут не самый «умный» модель, а самый дешёвый и контролируемый токен. Together AI после $800 млн Series C (оценка $8,3 млрд) и IBM с Nvidia отвечают именно на этот запрос.
Цифры сделки
$240 млн — объём multi-year соглашения
~2000 Nvidia Blackwell 300 в стартовом кластере
Q1 2027 — ожидаемый старт доступности на IBM Cloud
400 трлн токенов в месяц уже обслуживает Together AI
30× заявленный прирост AI-factory output у HGX B300 vs предыдущие поколения (по данным Nvidia)
Почему открытый инференс, а не очередной закрытый кластер
Together AI позиционирует платформу как способ запускать DeepSeek, Nemotron, MiniMax, Kimi и GLM с 6–20× меньшей стоимостью токена по сравнению с закрытыми API. Клиенты вроде Decagon уже зафиксировали шестикратное снижение расходов на инференс после перехода. IBM даёт enterprise-grade cloud, compliance и сетевую связность Spectrum-X. Nvidia — чипы, оптимизированные именно под инференс (Blackwell).
Как мы писали в августе про ElastixAI и FPGA-rack, экономика инференса уже расходится с экономикой обучения. Один и тот же GPU-парк всё чаще делится на prefill (compute-heavy фаза обработки промпта) и decode (memory-bandwidth фаза генерации токенов). Кластер IBM–Together AI пока остаётся гомогенным Blackwell, но сама логика «дешёвый токен open-source» совпадает с общим трендом рынка.
«Enterprises want the performance of the best frontier models without the closed-model price tag, and that only works if the infrastructure underneath is fast and reliable at scale.»
— Vipul Ved Prakash, CEO Together AI
Перевод: предприятия хотят производительности лучших frontier-моделей без наценки закрытых систем, и это работает только если инфраструктура под ними быстрая и надёжная на масштабе.
Что получают инженеры и CTO
Платформа Together AI уже поддерживает fine-tuning, training и agentic workflows поверх open-weights. Новый кластер добавляет выделенную ёмкость под production inference. Billing — metered по токенам, без оплаты простаивающих GPU. Для команд, которые уже уперлись в стоимость Claude/GPT API или в latency закрытых endpoint’ов, это прямой путь к собственному контролируемому стеку.
Практический эффект для команды: можно взять открытую модель, дообучить на своих данных через LoRA или full fine-tune, развернуть на выделенной ёмкости и платить только за реально потреблённые токены. Нет необходимости держать собственный Kubernetes-парк с H100/B200 и бороться с occupancy. IBM Cloud закрывает вопросы compliance, сетевой изоляции и SLA.
Сколько реально экономит открытый стек
По данным Together AI, переход на open-weights даёт 6–20× снижение cost-per-token при сопоставимом качестве на многих задачах. Decagon зафиксировал 6×. Ключевые рычаги: KV-cache оптимизация, mixture-of-experts маршрутизация, отсутствие наценки за «бренд модели». Минус — необходимость собственной экспертизы по serving, мониторингу и safety-фильтрам. Для компаний с сильной ML-командой это выгодно. Для тех, кто привык к «чёрному ящику» API, переход требует инвестиций в людей.
Контекст рынка: от обучения к инференсу
В 2026 году глобальные расходы на AI-инфраструктуру продолжают расти, но структура меняется. Hyperscalers закладывают сотни миллиардов долларов в CAPEX, при этом доля inference-нагрузок внутри AI-оптимизированного IaaS уже превышает 50 % и продолжает расти. Gartner прямо фиксирует перелом: inference ($23,3 млрд) обогнал training ($19 млрд). Это меняет приоритеты закупок — от максимального FLOPS на обучение к cost-per-token и latency в production.
Neocloud-провайдеры вроде Together AI, Fireworks и Baseten заняли нишу между hyperscaler-ами и собственными GPU-фермами компаний. Они предлагают специализированный serving, оптимизированные ядра и billing без idle-ёмкости. Сделка с IBM добавляет к этому enterprise-обвязку: compliance, гибридные схемы, гарантированную ёмкость. Для российских и европейских команд, которые не могут или не хотят полностью зависеть от американских frontier-API, такие кластеры становятся одним из рабочих вариантов.
Технически HGX B300 с Spectrum-X — это восемь Blackwell GPU в одном боксе, NVLink внутри и Ethernet-fabric между боксами. Это не wafer-scale и не LPU, а классический dense GPU-rack, заточенный под throughput. Together AI поверх него крутит собственный inference-стек с поддержкой mixture-of-experts, оптимизацией KV-cache и OpenAI-совместимым API. Для инженера это означает: можно мигрировать существующие клиенты с минимальными изменениями кода, сохранив при этом контроль над моделью и данными.
Риски и ограничения сделки
Кластер стартует только в Q1 2027. До этого Together AI продолжает работать на арендованных мощностях (включая AWS и других). Sold-out за 2–3 месяца до запуска — оптимистичный сценарий, но он же создаёт очередь. Open-source модели по-прежнему требуют собственной red-teaming и compliance-обвязки; IBM Cloud снимает часть операционной нагрузки, но не юридическую ответственность за вывод модели.
Ещё один нюанс: HGX B300 — уже не новейший Blackwell Ultra, а «last-gen» в терминологии отраслевых обзоров. Для чистого throughput это не критично, для latency-sensitive decode могут потребоваться дополнительные memory-centric решения (типа LPU от Groq или RDU от SambaNova), которые Together AI уже тестирует в других партнёрствах. Гомогенный Blackwell-кластер хорош для предсказуемой нагрузки, но не закрывает весь спектр agentic-сценариев, где decode доминирует.
Отдельный риск — концентрация. Если Together AI становится основным каналом open-source inference для mid-market, любой сбой или изменение ценовой политики бьёт по большому числу клиентов одновременно. Диверсификация провайдеров (Fireworks, Baseten, собственные rack’и) остаётся разумной страховкой.
A (45 %) — кластер заполняется по плану, open-source inference становится дефолтом для mid-market и части enterprise. Together AI наращивает token volume >1 квадриллиона/мес. Стоимость токена продолжает падать.
B (35 %) — спрос превышает ёмкость, очередь растягивается, IBM и Together AI ускоряют следующую фазу расширения. Параллельно появляются европейские и азиатские аналоги на локальном железе и суверенных облаках.
C (20 %) — frontier-модели резко снижают цены или выкатывают «enterprise open» варианты; open-source преимущество сужается, сделка остаётся инфраструктурным, но не рыночным переломом.
Сигналы, на которые стоит смотреть
Следующие маркеры: фактическая дата включения кластера, occupancy rate в первые 90 дней, появление аналогичных сделок IBM/Google/Oracle с другими neocloud-провайдерами, динамика cost-per-token у Together AI vs OpenAI/Anthropic API. Если sold-out действительно случится до запуска — это будет самым сильным подтверждением, что рынок уже голосует рублём и долларом за open-source inference.
Дополнительный сигнал — поведение крупных enterprise-клиентов. Если банки, ритейл и промышленность начнут массово переносить production-нагрузки с закрытых API на open-weights через такие кластеры, это изменит не только unit-экономику, но и переговорную силу frontier-лабораторий.
Ещё один практический маркер — скорость, с которой крупные интеграторы и системные интеграторы начнут включать Together AI / IBM Cloud в стандартные RFP по AI-инфраструктуре. Если это произойдёт до конца 2026 года, сделка перестанет быть точечной и станет частью отраслевого стандарта де-факто. Параллельно стоит отслеживать, появятся ли аналогичные соглашения с европейскими облаками (OVH, Deutsche Telekom, Яндекс или Selectel в локальном контуре) — это будет индикатором суверенного давления на рынок.
