开源项目 DeepInfer：DeepSeek 开源的生产级推理框架，上线 9 天 2.2 万 Star
DeepInfer 驱动 DeepSeek 大规模生产服务的推理引擎首次开源，站在 vLLM 肩膀上再做强化的”官方定制版” 项目速览 项目 内容 仓库 deepseek-ai/DeepInfer 语言 Python Stars 22,186（2026-10-25），F…
阅读全文 →标签 · LLM推理
开源项目 colibri：4.4 万 Star 的纯 C 巨模型引擎，8GB 内存跑 744B MoE
colibri Tiny engine, immense model——把激活的专家常驻内存，剩下的权重需要时从磁盘”流”进来 项目速览 项目 内容 仓库 JustVugg/colibri 语言 C（每个模型家族一个文件） Stars 43,792（2026-10-25…
阅读全文 →