ZeroGPU не строит дата-центры. Не покупает GPU. И не запускает фундаментальные модели. Компания из Остина собирает инфраструктуру AI-инференса из того, что уже существует: idle-вычислители на edge-устройствах, игровых ноутбуках и серверах, объединённые в распределённую сеть. Её тезис — 70–80% production-запросов к LLM не требуют frontier-модели. Их можно выполнить на специализированных small language models (SLM, компактные языковые модели для узких задач) в 10 раз быстрее и вдвое дешевле.

🎯
ZeroGPU запустила распределённый слой инференса на nano-моделях, который offload-ит 70–80% routine-запросов с frontier LLM на edge-устройства — с заявленной экономией 50%+ стоимости и ускорением до 10× для классификации и извлечения сигналов.

Стартап основан в 2025 году, вышел на Product Hunt 9 июня 2026 года (#2 дня, 345 upvotes) и уже работает с production-клиентами через OpenAI-совместимый API.

Ключевой вопрос: станет ли ZeroGPU прослойкой, которая меняет экономику инференса, или останется нишевым слоем для задач adtech и модерации?