[程序员] 在 MacBook 上跑了一套个人 AI 网关:本地 4B 路由 + 多渠道聚合
我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门
阅读原始来源来源记录
研究分析
来源记录
来源描述:我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门
现有背景
可供比较的近期同类记录:“Shotoku – local authorization layer for AI agents” (Hacker News, 2026年11月5日);“Mistral Studio adds managed agents, workflows and apps” (Hacker News, 2026年11月5日)。主题相近仅用于导航,未核验其是否属于同一需求或独立证据。
研究状态
这条记录尚不能可靠归入主类,未生成商业或性能结论。
缺失证据
需要核验主要事件、受影响对象与原始证据。
下一步
阅读原文,明确它支持什么决策,再选择对应分析框架。