TeRAM собрала $37 млн на 3D SRAM: память стала узким местом ИИ

Чарли Ченг начал карьеру системным инженером в IBM. Дальше — четыре десятилетия процессоров и памяти: несколько поколений ускорителей Meta MTIA с 2019 года, Kilopass с лицензиями для SK hynix и Samsung, SoC-проекты для гиперскейлеров. В 2018-м, после продажи Kilopass компании Synopsys, он вывел из неё новую команду. Восемь лет она работала без публичных пресс-релизов.

В сентябре 2026 года TeRAM вышла из стелса с $37 млн. Раунд закрылся 10 сентября, объявили о нём 15-го. Лид — Primary Venture Partners, вместе с B Capital, Hyperion и SemiAnalysis Capital. Alumni Ventures и Lightscape Partners вошли следом.

Компания делает память нового типа: 3D SRAM (статическая память с произвольным доступом), которую ставят прямо на кристалл ИИ-ускорителя. Первые поставки заказчикам — в 2029 году.

Ставка простая по формулировке и тяжёлая по исполнению. Генерация каждого токена требует пройти через все триллионы параметров модели. Скорость упирается в то, как быстро память отдаёт веса. Число тензорных ядер в этой арифметике вторично.

Почему узкое место переехало с вычислений на память

С середины 2025 года агентские нагрузки обогнали обучение по объёму вычислений. Это меняет профиль трафика. Обучение читает данные батчами и прощает задержки. Инференс выдаёт токен за токеном, и каждый следующий требует нового прохода по весам.

Отсюда сдвиг, который TeRAM продаёт инвесторам: при обучении не хватало ёмкости HBM — памяти с высокой пропускной способностью — при инференсе не хватает пропускной способности. Модель на два триллиона параметров в FP8 занимает около 2 ТБ. Чтобы выдать один токен, эти 2 ТБ нужно прочитать целиком.

Посчитаем по нижней границе. При 8 ТБ/с на стек HBM один проход занимает 250 мс. Это четыре токена в секунду на поток, без кеша и батчинга. Реальные системы выжимают больше за счёт повторного использования весов, но потолок остаётся физическим.

SRAM стоит ближе к вычислениям и тратит меньше энергии на передачу бита. Плата — площадь кристалла и ёмкость. Каждый мегабайт SRAM занимает место, которое иначе ушло бы под логику. Поэтому отрасль годами выбирала компромисс: небольшая SRAM на кристалле плюс большая HBM рядом.