Freesolo Flash: пост-тренинг для маленьких языковых моделей

Маленькая модель за 44 цента решает задачу, за которую большая берёт $12. И делает это за 120 миллисекунд вместо 2,4 секунды. Разрыв в стоимости между frontier-LLM (большая языковая модель на границе возможностей) и специализированной моделью узкого профиля давно перестал быть линейным — он достиг двух порядков. И всё же большинство инженерных команд продолжают стучать по гигантским API, потому что обучить «свою» маленькую модель исторически стоило дороже, чем арендовать чужую большую.

Парадокс в том, что технология для решения уже существует — post-training (пост-тренинг на реальных данных). Компании вроде Together и Fireworks построили на этом бизнес, но их продукты остаются инструментами для ML-инженеров, а не для продакт-команд. Freesolo, стартап из Y Combinator (Spring 2025), запустил сегодня платформу Flash, которая переворачивает эту логику: обучение специализированной модели становится действием из одной команды в терминале — с фиксированной ценой за весь ран.

Почему маленькие модели требуют большого инженерного труда

Логика post-training обманчиво проста: берётся open-weight база (Llama, Qwen, Gemma, Phi), дообучается на данных конкретной задачи, и результат часто превосходит frontier-модель на этой задаче при в разы меньшем размере. На практике pipeline включает сбор данных, SFT (supervised fine-tuning), RL-выравнивание, оценку, деплой — и каждая стадия требует инженера, который понимает, как работают LoRA-адаптеры, что такое GRPO и почему модель «забывает» на второй итерации.

Как мы писали в июле, инфраструктурный потолок AI-агентов упирается не в качество больших моделей, а в стоимость их вызова на каждом шаге агентного цикла. Специализированная маленькая модель решает именно эту проблему — но её создание остаётся элитарным навыком.

Мы построили Flash из собственной фрустрации существующими managed-решениями для post-training, особенно для SLM. Мы верим, что раскрытие frontier-способности на узкую задачу в маленькой модели — это лучшее улучшение UX агентных продуктов.— Том Чжэн, сооснователь Freesolo

Что именно делает Flash

Flash — это CLI-инструмент, который принимает TOML-конфиг, запускает тренировочный ран на managed-инфраструктуре и возвращает готовый к деплою LoRA-адаптер за OpenAI-совместимым эндпоинтом. Платформа поддерживает три алгоритма:

SFT (Supervised Fine-Tuning) — классическое дообучение на парах промпт-ответ. Подходит, когда у команды уже есть датасет правильных ответов. GRPO (Group Relative Policy Optimization) — RL-алгоритм, который оценивает собственные завершения модели через среду с функцией награды, без необходимости в эталонных ответах. OPD (On-Policy Distillation) — дистилляция от managed-учителя (по умолчанию GLM 5.2), когда большая модель уже решает задачу, а маленькая должна научиться так же без ручного сбора данных.

Экономика одной команды: почему фиксированная цена меняет правила

Существующие managed-решения для post-training — Tinker, Modal, RunPod — биллинг по GPU-часам. Клиент запускает ран, не зная финальной стоимости, и часто получает счёт в 2–3 раза выше ожидаемого из-за простоев, повторных запусков и неоптимального распараллеливания. Flash вводит модель quoting: команда пишет flash train config.toml --cost и видит точную цену рана до его запуска.

Механизм прост: инфраструктура Freesolo оптимизирована под конкретные комбинации базовой модели, алгоритма и размера датасета. Поскольку Flash запускает тысячи однотипных ранов в неделю, он может предсказывать стоимость с точностью до ~5% и агрегировать GPU-ресурсы эффективнее, чем каждый клиент по отдельности.

Разница с альтернативами — не просто цена. Tinker остаётся платформой для ML-инженеров: глубокие гиперпараметры, кастомные образы, ручное управление GPU-пулом. Together и Fireworks — enterprise-платформы с контрактами от $50K/год. Distil Labs ориентирован на ноутбучные эксперименты, а не на production-пайплайны. Flash занимает нишу между ними: управляемый post-training для инженерной команды, которая хочет обучить модель, а не управлять инфраструктурой обучения.

Рынок SLM-инструментов: кто есть кто

Сравнение платформ для post-training маленьких языковых моделей, июль 2026

Главное различие — не в функциональности, а в точке входа. Together и Fireworks строят платформу для инфраструктурных команд, которые уже управляют десятками моделей. Flash строит продукт для команды, которая сегодня вызывает GPT-4 через API, а завтра хочет обучить свою модель под конкретную продуктовую фичу. Это принципиально разные сегменты, и стартап Чжэна и Мао выбрал тот, где нет доминирующего игрока.

Риск — в том, что Together или Fireworks могут добавить quoting и CLI-интерфейс как функцию. С другой стороны, у них нет культуры upfront-биллинга, а переход на неё требует перестройки всей финансовой модели. Flash может выиграть 12–18 месяцев форы, чтобы закрепиться в сегменте.

Что это значит для инженерных команд

Flash решает задачу, которая стала критической в середине 2026 года: экономика AI-агентов упирается в стоимость инференса, и специализация моделей — единственный путь к её снижению без потери качества. Каждая продакт-команда, строящая агентный AI, рано или поздно придёт к необходимости обучить маленькую модель под свою задачу. Вопрос только в том, насколько безболезненным будет этот процесс.

Freesolo Flash делает его безболезненным впервые. Осталось убедиться, что рынок готов платить за upfront pricing, а не за иллюзию контроля над GPU-часами.

Сценарии развития

Источники