接着 log #05 说的”从自己身边、解决自己的需求下手”——这一篇,就是一个活生生的例子。
这两天我给自己搭了一个 LLM API 中转站。
🔗 仓库:github.com/survivorff/llm_api 🔗 站点:llmapi.frankfu.cloud
为什么做它:我的 token 焦虑
我在《站在 2026 年中看 AI》那篇里写过一个判断:token 对个人会越来越便宜,但对整个文明会越来越贵。 这半年我自己就是最好的注脚。
我每天写代码、整理笔记、做工具、跑各种 agent,全都在烧 token。模型单价确实在跌,但架不住我用得越来越多——副业 log #03 里我就承认过,几十个项目同时跑,token 账单在悄悄变大。
更烦的是碎:这个工具用 OpenAI 的 key,那个用 Claude 的,DeepSeek 又是另一套,每个平台单独充值、单独看账单、单独担心额度。我想要的很简单——一个统一的入口,把我所有的模型调用收拢到一处,一个 key 打天下,用量和花费一目了然。
市面上这类中转站不少,但我是做后端的,与其把自己的 key 和用量托管给一个我不了解的第三方,不如自己搭一个——数据在自己手里,成本自己可控。这正是 #05 说的:解决自己的需求,是验证成本最低、也最不会骗自己的起点。
现在到哪一步了
前置框架搭好了,能用了。
目前它是一个跑起来的中转框架:统一的 API 入口、把请求转发到不同上游模型、基本的 key 管理和用量记录。我自己的几个工具已经切过来走它了——从”每个工具连各自的厂商”变成”都连我这一个站”,清爽了很多。
这一步的价值不在于多完备,而在于:我日常用 AI 的入口,现在归我自己管了。
接下来真正的重点:把成本压下去
框架只是地基。这个项目后面真正要啃的硬骨头,是成本优化——也就是我最初那点 token 焦虑的正面回答。方向有两条:
- 找便宜又优质的模型。 同样能力档位的模型,不同渠道的价格能差很多。持续地评测、比价、把性价比高的接进来,是一门要长期跟进的功课。
- 自建开源模型基建。 对于一些不需要顶尖能力的场景,自己跑开源 LLM 可能比调 API 更划算。这块涉及推理部署、显卡成本、吞吐权衡——正好是能发挥我工程优势的地方。
这两条都不是一蹴而就的,我会在后面的 log 里慢慢跟进。这一篇先立个地基,把”为什么做、做到哪”记下来。
和我的方法论对得上吗
用 #04 那套章法照一照,这个项目有意思的地方在于:
- ✅ 不公平优势:后端 + 基建,是我的主场
- ✅ 解决真实需求:我自己就是那个天天被 token 账单和多平台碎片烦到的用户
- ⚠️ “先卖”这一条暂时不适用:因为它现在是纯自用工具,不是要卖的产品——就像我之前的 job-radar。
第三点我得对自己诚实:自用工具很爽,但它不自动等于”有人会付钱的生意”。如果哪天我想把它变成产品,那还得老老实实回到”先验证有没有人愿意付费”那道闸。现阶段,我就把它当成一个既解决自己问题、又能练手基建的项目,不给它强加商业目标。
下一步
- 把用量和成本的看板做出来——我得先能清楚看到”每天到底烧了多少、花在哪个模型”
- 开始做模型比价评测,接入 1-2 个高性价比渠道
- 调研自建开源模型的可行性和成本临界点
- log #07:汇报接入更便宜模型后,我的 AI 使用成本到底降了多少(有真实数字最好)
从”焦虑 token 贵”到”自己搭个站把它管起来”——这大概就是工程师面对问题时最自然的反应:与其焦虑,不如动手把它变成一个自己能掌控的系统。
📌 副业 log 系列:边写代码挣工资,边偷偷给自己开口子,把每一步认真记下来。
📍 进度:#01 为什么做 · #02 套利探索 · #03 铺开项目 · #04 定章法 · #05 先找用户 · #06 自用 LLM 中转站 · #07 成本到底降了多少。