九月初,我点开Claude的账单详情页,手指不自觉地抖了一下。上一个自然月,仅AI编程这一块的API开销就达到了12746元人民币,折合大约1800美元。作为一个单打独斗的独立开发者,手上只有一个项目,这个数字已经完全超出了"咬咬牙能扛"的范围——它意味着再不做出改变,我就得开始砍功能了。
但比花钱更让我焦虑的是:钱是花出去了,产出效率却完全没跟上。很多任务其实用DeepSeek跑一次就能搞定,我却总是不假思索地交给Claude Opus去死磕,一个中等难度的需求就能烧掉200万token,而且生成的代码我还得回头返工三成左右。那一刻我突然想通了一件事:根源不在于模型能力不行,而在于我把高配模型当成了万能工具,好比拿一把屠龙刀去削苹果。
想明白这点之后,我花了整整两周时间做了两件事:其一,把同一份真实需求分别投喂给四套不同的模型进行对比实测,攒出一手数据;其二,根据实测结果重新设计了一套"模型路由"工作流。下面这篇文章就是整个过程的完整复盘,文中每一个数字都是从我自己账单里一条条扒出来的。
在动手优化之前,我先做了一轮归因分析,把上个月12746元的账单按照任务类型逐一拆解:
看到问题了吗?真正需要顶级模型出手的任务,可能只占前两类的一半,甚至更少。 测试生成、文档编写、格式化、简单CRUD这些活儿,对模型来说不过是"及格线"级别的难度,而我一直拿顶配模型在干。
更让人哭笑不得的是,我还揪出了一个隐性浪费的大头:上下文反复重传。我每次新开一个会话,就习惯性地把整个仓库的README和关键文件全部粘贴一遍,Claude Code一次会话光在上下文输入上就要消耗40到60万token。Anthropic明明提供了prompt caching功能,缓存命中的部分能便宜90%,但我之前根本没开启过,等于每次都在按全价付费。单这一项,一个月就白白扔掉了将近2000元。
先把结论摆出来:成本优化的真正空间不在于"换一个更便宜的模型",而在于任务分级 + 缓存利用 + 减少无效上下文这三件事。
我挑选了三个真实任务作为基准测试,难度依次递增:
参与测试的模型阵容:Claude Opus 4.6(顶配)、Claude Sonnet 4.6、GPT-6(Codex CLI)、DeepSeek V4、Kimi K3。每个任务重复跑3次取平均值,统一使用相同的system prompt和仓库上下文,通过脚本统计token消耗,代码质量采用人工盲评(评测时不知道是哪家模型写的)。
数据直接列出来:
| 模型 | T1耗时 | T2耗时 | T2输入token | T2输出token | T2成本(¥) | 代码一次通过率 |
|---|---|---|---|---|---|---|
| Opus 4.6 | 3分10秒 | 11分40秒 | 18.2万 | 5.6万 | 21.3 | 83% |
| Sonnet 4.6 | 2分50秒 | 9分20秒 | 17.8万 | 5.2万 | 8.9 | 75% |
| GPT-6 / Codex | 3分30秒 | 10分10秒 | 19.5万 | 6.1万 | 11.7 | 72% |
| DeepSeek V4 | 2分20秒 | 8分40秒 | 16.9万 | 5.8万 | 1.6 | 61% |
| Kimi K3 | 2分40秒 | 9分50秒 | 18.0万 | 5.9万 | 2.1 | 64% |
几个跟直觉相反的发现:
首先,顶配模型的优势远没有价格差距那么悬殊。 Opus 4.6的一次通过率比DeepSeek高出22个百分点,但成本却贵了13倍。换算成"每通过一次测试的总花费":Opus大约25.7元/次,DeepSeek大约2.6元/次。即便DeepSeek多失败两次需要重跑,总成本依然便宜一个数量级。当然,返工的代价不只体现在token上,还有我自己的时间和精力——这正是后文路由策略需要平衡的矛盾。
其次,像T1这类简单任务,五个模型的通过率差距不到8%,耗时差距不到1分钟。 用Opus去写单元测试,纯粹是行为艺术。这类任务实测下来DeepSeek最划算,而Kimi K3在长上下文仓库理解方面反而给了我惊喜(它的上下文窗口利用率是几个模型里最实在的),不过在写代码的"听话程度"上略逊一筹。
第三,在T3架构任务上,Opus确实是断层式领先。 依赖分析准确率方面,Opus约92%,Sonnet 81%,GPT-6 78%,而DeepSeek只有63%——它漏掉了两个循环依赖,给出的迁移顺序会直接导致编译失败。这个任务上我认了:该花的钱就得花。"省成本"的本质不是"用最便宜的",而是"把最贵的用在最关键的地方"。
踩过的坑也一并记录:
context_compaction调得更激进一些pip install验证,失败则自动重试基于实测数据,我把工作流拆成了三层路由结构:
核心思路用一句话概括:按照任务难度和失败代价来分派模型,而不是凭感觉。 具体规则如下(可以直接照搬):
任务分级规则(写入项目的 AGENTS.md):
L1 机械任务:测试补全、格式化、rename、commit信息、文档
→ DeepSeek V4(成本0.02-0.05元/次)
L2 常规编码:CRUD、接口实现、小功能、bug修复
→ Kimi K3 或 Sonnet 4.6(成本0.5-3元/次)
L3 架构任务:模块拆分、并发设计、技术选型、复杂重构
→ Opus 4.6(成本5-25元/次),Sonnet做初稿、Opus做评审可省40%
兜底规则:L2/L3任务失败后自动升级模型重试一次,再失败才转人工
工程实现方面,我没有自己造轮子,而是组合了现有工具:
.claude/settings.json里配置了subagent分流,让Sonnet子agent处理L1/L2任务,主agent(Opus)只负责处理被升级上来的任务另外一个大杀器是减少上下文投喂。以前我的做法是"整个仓库塞进去",现在改为:先跑一遍repomix生成结构化仓库摘要(只带关键文件的全文,其余文件只保留签名),一次会话的输入token从45万降到了12万左右,降幅达73%。信息密度反而更高了,因为模型不用在一堆无关文件里大海捞针。
9月17日我拉了新账单,改造上线满30天:
关于什么值得折腾、什么是智商税,我的态度很明确:
值得折腾的:prompt caching(配置一次永久受益,这是纯捡钱)、任务分级路由(两周搭建成本,一个月回本)、上下文瘦身(repomix这类工具十分钟上手)。这三招组合拳贡献了我降本成果的90%。
智商税/别碰的:所谓的"万能Agent编排平台",卖你几百刀一个月,底层就是帮你调几个API,规则还不透明——路由逻辑写成markdown规则文件,免费且你自己可控;某些"自动评估模型质量"的付费服务,自己拿20个真实任务做基准,一小时搞定,数据还更贴合你的场景;以及盲目囤各家订阅会员,实测下来按需API + 两个订阅(Claude Pro + 一家便宜的)是最优组合,全订等于给五家公司同时交月租但只用其中两家。
清单时间,直接抄:
repomix或类似工具给仓库瘦身,把单次会话输入token压到15万以内说明:文中成本、token消耗、耗时及通过率等数据来源于本人项目API账单统计与个人基准测试记录,结合公开行业报告综合整理,部分数值为估算仅供参考。