Маршрутизация AI-запросов стала отдельной категорией инфраструктуры. OpenRouter привлёк $113 млн при оценке $1,3 млрд, Concentrate AI вышла из стелса с $5 млн. А Conifer, участник летнего набора Y Combinator 2026, предлагает принципиально другой подход: сначала локально, потом в облаке.
Большинство запросов выполняются бесплатно на собственном оборудовании пользователя, сокращая счёт за AI на ~80%.
Компания входит в летний набор Y Combinator 2026 — сфокусирована на B2B-сегменте и безопасности данных.
Что такое маршрутизация AI-запросов
Задача простая: у вас есть несколько моделей — OpenAI GPT, Claude Anthropic, открытые Llama, локально запущенные Mistral. Каждая имеет свою стоимость, скорость и качество. Одни запросы требуют топовой модели (анализ контракта, генерация кода), другие можно отдать маленькой открытой модели (суммаризация, классификация). Третьи вообще не должны покидать устройство пользователя.
Маршрутизатор решает эту задачу автоматически. Он оценивает сложность запроса, требования к конфиденциальности и отправляет его на оптимальную модель. Это не балансировка нагрузки — это intelligent routing (интеллектуальная маршрутизация) на уровне семантики запроса.
Рынок уже сформирован. OpenRouter обрабатывает 25 трлн токенов в неделю и насчитывает 8 млн разработчиков. За полгода объём вырос в 5 раз. CapitalG (Alphabet), NVentures (NVIDIA), Snowflake Ventures вошли в раунд Series B — что сигналит: гиперскейлеры видят в слое маршрутизации стратегический актив.
OpenRouter: $113M Series B, $1,3 млрд оценка, 8 млн пользователей
Concentrate AI: $5M seed, выход из стелса в июне 2026
IDC: к 2028 году 70% AI-компаний будут использовать multi-tool архитектуры
Conifer: маршрутизация с приоритетом локального выполнения
Conifer отличается от OpenRouter и Concentrate AI принципиально: он начинается с локального выполнения. Если запрос может быть обработан на устройстве пользователя — он обрабатывается там. Бесплатно. Без передачи данных. Только когда локальная модель не справляется, запрос уходит в облачные API.
Продукт состоит из двух компонентов: Juniper — пользовательское приложение для работы с моделями, и Conifer Gateway — корпоративный слой для команд. Juniper уже доступен, Gateway в раннем доступе.
Команда — Майкл Джеффордс и Чарльз Мюльбергер. Первый ранее запускал HeartCheck Foundation, скрининг гипертонии в 20+ барбершопах, и строил ML-пайплайны для ранней диагностики ALS и болезни Паркинсона. Второй — инженер-исследователь Принстона, ускорял мультимодальный инференс на edge-устройствах.
«Conifer — это одно приложение, которое подключает вас ко всем AI-моделям (локальным и облачным) и автоматически направляет каждый запрос на самую дешёвую модель, способную выполнить задачу».— Y Combinator, профиль Conifer, лето 2026
Почему приоритет локального выполнения меняет правила
Большинство AI-маршрутизаторов на рынке — это облачные шлюзы. Они перенаправляют трафик между разными cloud API. Conifer переворачивает модель: первый приоритет — локальный инференс.
Это совпадает с более широким трендом. По данным Deloitte, в 2026 году 80% AI-инференса будет выполняться локально. Qualcomm, Apple, Intel и AMD встраивают NPU в каждый чип. Sub-1B модели (Llama 3.2 1B, Qwen2.5 0.5B) достигают 12-15 токенов/сек на NPU — интерактивная скорость.
Локальный инференс решает три ключевые проблемы облачной архитектуры: задержка (50-200ms на токен против суб-20ms локально), приватность (данные не покидают устройство) и стоимость (бесплатно после покупки оборудования).
Локальный инференс не заменяет облачный. Для сложных рассуждений, длинного контекста и редких запросов облачные API (GPT-5.6, Claude Opus 4.8, Gemini 2.5 Pro) остаются необходимыми. Маршрутизатор Conifer решает это автоматическим выбором между local и cloud.
Конвергенция двух трендов
Маршрутизация и локальный инференс — два независимых тренда, которые сходятся в одной точке. Маршрутизация решает проблему выбора модели. Локальный инференс решает проблему стоимости и приватности. Вместе они создают новый слой AI-инфраструктуры: операционную систему для распределённого инференса.
IDC прогнозирует, что к 2028 году 70% компаний с продвинутым AI будут использовать динамическую multi-tool архитектуру. Conifer — один из первых продуктов, который реализует это видение с local-first приоритетом.
Кто ещё в игре
OpenRouter остаётся доминирующим игроком. 8 млн разработчиков, 400+ моделей, поддержка image, audio, video и speech. Компания выросла с $547 млн оценки в 2025 году до $1,3 млрд в 2026-м. Инвесторы раунда — CapitalG (фонд Alphabet), NVentures (NVIDIA), ServiceNow Ventures, MongoDB Ventures — что показывает: весь стек enterprise-инфраструктуры видит в маршрутизации стратегический слой.
Concentrate AI вышла из стелса в июне 2026 года с $5 млн и фокусом на enterprise-сегмент. CEO Ари Джакоби называет главную проблему клиентов: «ландшафт моделей настолько фрагментирован, что за ним невозможно уследить».
Amazon (Bedrock), Microsoft (Azure AI) и Google (Vertex AI) уже встроили базовый routing в свои облачные платформы. Но их решения работают внутри одного cloud-провайдера. Независимые маршрутизаторы дают доступ ко всем моделям сразу, включая open-source и self-hosted.
Conifer отличается от всех троих: он единственный, кто начинает с локального выполнения. Это не просто фича — это архитектурное решение, которое меняет экономику. Если 80% запросов выполняются на собственном оборудовании, счёт за API снижается на порядок.
Вопрос не в том, выживет ли категория. Вопрос — кто займёт нишу доверенного слоя между моделями и приложениями. У OpenRouter — масштаб. У Conifer — архитектура. У гиперскейлеров — дистрибуция.
Что будет через год
Вероятность: 75% — концентрация венчурного капитала, стратегические инвестиции гиперскейлеров и взрывной рост токенов создают фундамент для нового инфраструктурного слоя.
✅ Аргументы за
Гиперскейлеры вкладываются (CapitalG, NVentures) — видят стратегическую ценность
Local-first подход Conifer закрывает нишу, которую не покрывают OpenRouter и Concentrate AI
Критерии подтверждения: Conifer и аналоги привлекут посевные/Series A раунды в ближайшие 6 месяцев
❌ Аргументы против
NPU-экосистема всё ещё фрагментирована — каждая платформа (Qualcomm QNN, Apple CoreML, MediaTek NeuroPilot) требует отдельной интеграции
Критерии опровержения: AWS Bedrok или Azure AI встроят local-first routing как нативную функцию
Сценарии развития
🟢 Оптимистичный (50%)
Последствия: Conifer занимает нишу приватного/локального инференса, OpenRouter — облачного мульти-модельного шлюза
🟡 Базовый (35%)
Последствия: Conifer может быть приобретён одним из гиперскейлеров для закрытия пробела в локальном инференсе
🔴 Пессимистичный (15%)
Последствия: Conifer и Concentrate AI закрываются или продаются за стоимость команды
Ключевые сигналы для отслеживания
Conifer привлекает посевной/Series A раунд — индикатор доверия рынка к local-first подходу
AWS Bedrok или GCP Vertex AI запускают local-first routing — платформенная угроза
Доля локального инференса в общем объёме достигает 50%+ — структурный сдвиг
Появление стандарта NPU-интеграции (кросс-платформенная абстракция) — упрощение для стартапов
Рынок AI-маршрутизации всё ещё в ранней фазе. Но концентрация капитала — $118 млн только за два месяца — и интерес гиперскейлеров указывают: это не временный хайп, а формирование нового инфраструктурного слоя.
