JustVugg/colibri
A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.
阅读原始来源
来源记录
指标快照
daily_stars · 802 stars today
2026-11-04 06:15:22.667Z
GitHub daily Trending window; attention only
研究分析
项目记录
仓库：JustVugg/colibri。 来源描述：A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.
采用记录与比较对象
来源当日窗口 Star: 802 stars today (2026年11月4日 UTC; GitHub daily Trending window; attention only)；前次同口径记录为 802（2026年11月4日 UTC），两个观测值不等于需求增长。 可供比较的近期同类记录：“FareedKhan-dev/kimi-k3-in-c” (GitHub Trending, 2026年11月5日)；“Open source AI is booming. Hugging Face explains who profits.” (TechCrunch, 2026年11月4日)。主题相近仅用于导航，未核验其是否属于同一需求或独立证据。
采用判断
应与它要替代的工具或人工流程比较。现有记录支持发现项目，尚不能确认可靠性、运行成本优势或商业采用。
尚未核验的门槛
尚未核验：许可证权限、硬件要求、安装步骤、维护状态，以及包含失败样例的代表性任务。
下一步试验
选择一个真实任务和现有替代方案，记录 commit、环境、输入、输出、耗时与失败行为；保留结果后再给出采用建议。