Революция искусственного интеллекта и его влияние на бизнес и общество
Парадокс AI-инференса: чем дешевле становится стоимость токена, тем больше компании тратят на инференс. Разбираем четыре техники, которые снижают cost-per-token в 5–10×: квантизация, continuous batching, speculative decoding и KV-cache-оптимизация.
SambaNova закрыла first close серии F на $1 млрд при оценке $11 млрд. Процессор SN50 RDU утверждает 5-кратное превосходство над NVIDIA B200. JPMorganChase разворачивает RDU-инфраструктуру для корпоративного инференса.
ZeroGPU строит compute efficiency layer для AI: специализированные nano-модели на edge-устройствах, OpenAI-совместимый API и 50%+ экономии против GPU-облаков.
Инференс подешевел в 1000× за три года, но бюджеты компаний на него только растут. Разбираем четыре техники оптимизации, ключевые стартапы и сценарии развития — от квантования до model routing.
AIBrix, open-source проект под управлением vLLM, выпустил версию 0.7.0. Management Console для data scientists, self-hosted Batch API и KV-centric P/D Disaggregation без RDMA на GPU уровня L20.
Парижский стартап ZML при поддержке Яна Лекуна выпустил LLMD — бесплатный сервер для запуска LLM на любых чипах: Nvidia, AMD, Google TPU, Apple Metal и Intel Arc. $20 млн seed-раунда.
OpenAI запускает GPT-5.6 Sol на wafer-чипах Cerebras — 750 токенов в секунду, контракт на $10+ млрд и регуляторная проверка правительства США
General Compute привлёк $400 млн от Upper90 под залог ASIC-чипов SambaNova SN50. Первый кредит, обеспеченный специализированным оборудованием для инференса — сигнал фрагментации монополии Nvidia.
LinkedIn, Walmart и Zendesk сошлись на VB Transform 2026: модели достаточно хороши, инфраструктура — нет. 79% компаний внедряют AI-агентов, но только 2% развернули их в масштабе.
Open-source библиотека FlashTensors стримит веса LLM напрямую с NVMe в VRAM, минуя CPU RAM. Cold start сокращён до 2 секунд, одна H100 обслуживает 100+ моделей. Подход, который переворачивает экономику serverless inference.
NeoCognition вышла из тени с $40 млн на self-learning агентов, специализирующихся на рабочем месте. Intel CEO и сооснователь Databricks — среди инвесторов. Команда из Ohio State утверждает: текущие агенты проваливают 50% задач.
Стартап Tensormesh привлёк $20 млн seed extension от Nvidia и AMD. LMCache — система управления KV-кэшем — сокращает затраты на инференс ИИ до 10 раз за счёт переиспользования вычислений между запросами.
