WeWorkBuddy

[程序员] 在 MacBook 上跑了一套个人 AI 网关:本地 4B 路由 + 多渠道聚合

我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门

阅读原始来源
来源参考:[程序员] 在 MacBook 上跑了一套个人 AI 网关:本地 4B 路由 + 多渠道聚合。暂未取得截图。
来源记录 · 预览待采集 · www.v2ex.com打开来源查看完整网页。

来源记录

研究分析

来源记录

来源描述:我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门

现有背景

可供比较的近期同类记录:“Shotoku – local authorization layer for AI agents” (Hacker News, 2026年11月5日);“Mistral Studio adds managed agents, workflows and apps” (Hacker News, 2026年11月5日)。主题相近仅用于导航,未核验其是否属于同一需求或独立证据。

研究状态

这条记录尚不能可靠归入主类,未生成商业或性能结论。

缺失证据

需要核验主要事件、受影响对象与原始证据。

下一步

阅读原文,明确它支持什么决策,再选择对应分析框架。