WeWorkBuddy

[分享创造] 让你的 Jev 模型最高加速 9 倍,决策推理引擎 Flide 开源

Flide V 站的朋友们大家好,我们开发了一个面向本地部署的决策模型的推理引擎,相比于 vLLM 和 SGLang 等 LLM 框架,在决策任务上可最高加速 9.5 倍。目前已经支持三十多款 Jev 模型,更多模型还在陆续接入中。 代码已经开源,可直接 pip 下载 pip install flide 文档: https://docs.flide.org 代码: https://github.com/OmniJev/flide 网站: https://flide.org 安装包: https://pypi.org/project/flide/ 欢迎大家关注、试用和并提建议!

阅读原始来源
原始网页截图: [分享创造] 让你的 Jev 模型最高加速 9 倍,决策推理引擎 Flide 开源
原始网页截图 · www.v2ex.com

来源记录

研究分析

项目记录

来源描述:Flide V 站的朋友们大家好,我们开发了一个面向本地部署的决策模型的推理引擎,相比于 vLLM 和 SGLang 等 LLM 框架,在决策任务上可最高加速 9.5 倍。目前已经支持三十多款 Jev 模型,更多模型还在陆续接入中。 代码已经开源,可直接 pip 下载 pip install flide 文档: https://docs.flide.org 代码: https://github.com/OmniJev/flide 网站: https://flide.org 安装包: https://pypi.org/project/flide/ 欢迎大家关注、试用和并提建议!

采用记录与比较对象

可供比较的近期同类记录:“D4Vinci/Scrapling” (GitHub Trending, 2026年11月5日);“garrytan/gstack” (GitHub Trending, 2026年11月5日)。主题相近仅用于导航,未核验其是否属于同一需求或独立证据。

采用判断

应与它要替代的工具或人工流程比较。现有记录支持发现项目,尚不能确认可靠性、运行成本优势或商业采用。

尚未核验的门槛

尚未核验:许可证权限、硬件要求、安装步骤、维护状态,以及包含失败样例的代表性任务。

下一步试验

选择一个真实任务和现有替代方案,记录 commit、环境、输入、输出、耗时与失败行为;保留结果后再给出采用建议。