[程序员] 在 MacBook 上跑了一套个人 AI 网关:本地 4B 路由 + 多渠道聚合
我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门
Read original sourceSource record
Research analysis
Source record
Source account: 我自己做 B2B GTM 与战略营销,平时几乎所有工作流都挂在 LLM 上。大家都在晒各种复杂的 Agent ,但我发现自己真正在主力跑、每天离不开的,其实是一套跑在 MacBook Pro 上的 个人 AI 网关 。 它现在接管了我本机全部的 LLM 调用——Cursor 、Codex CLI 、Claude Code ,还有我自己的 Agent 内容管线。 为什么要做 2026 年中,我的调用环境彻底失控了:手头十几个模型订阅和 API Key ( DeepSeek 、NVIDIA NIM 、DashScope 、Gemini 等),各个客户端和脚本直连模型,endpoint 写死在代码里。结果就是每个月都在焦虑额度,钱花在哪儿完全是一笔糊涂账。 问题不在模型,在调用失控。我要的其实就三样: 一个入口 :所有客户端只配一次; 路由智能 :打杂分诊走便宜的本地小模型,硬骨头再上顶级云端模型; 全程可审计 :每次调用留痕,哪个渠道挂了随时无感替换。 架构 :8081 —— 决策网关(自研) :FastAPI 服务, launchd 守护进程。在请求真正碰到模型之前干五件事:出站安全守门
Available context
Recent records to compare: “Shotoku – local authorization layer for AI agents” (Hacker News, Nov 5, 2026); “Mistral Studio adds managed agents, workflows and apps” (Hacker News, Nov 5, 2026). Shared themes are navigation hints; they have not been verified as the same need or independent corroboration.
Research status
This record has not been assigned a sufficiently supported main content category. No commercial or performance conclusion is generated.
Missing evidence
The main event, affected audience and supporting primary source need review.
Next step
Read the original and identify the decision it supports before choosing an analysis framework.