AIBrix v0.7.0: открытая инфраструктура для GenAI-инференса
AIBrix, open-source проект под управлением vLLM, выпустил версию 0.7.0. Management Console для data scientists, self-hosted Batch API и KV-centric P/D Disaggregation без RDMA на GPU уровня L20.