本文是 LoopRouter 的原创选型方法论,不针对某家某刻的具体报价(单价会变,请以各厂商官网为准),而是给一套不会过期的成本核算框架。
一句话结论:比较大模型 API 成本时,只看「每百万 token 多少钱」几乎一定会做错决策。真实成本是 7 个变量的乘积,单价只是其中之一。把这 7 项拆开算清楚,再叠加「按请求路由」的策略,才是企业级降本的正解。
真实成本的 7 个变量,少算一个就失真
| 变量 | 为什么影响成本 | 容易被忽略的点 |
|---|---|---|
| 输入/输出分别定价 | 输出 token 单价通常高于输入 | 生成型任务(写作、代码)由输出主导,别用输入价估算 |
| 推理(reasoning)token | 带思考档位的模型会产生大量计费但不可见的中间 token | 默认高档位可能把成本放大 5–10 倍(见下例) |
| 上下文膨胀 | 每轮把历史/文档全量重发,输入 token 线性增长 | 长对话、RAG 全量塞入是账单黑洞 |
| 缓存命中折扣 | prompt/context caching 对重复前缀大幅降价 | 没开缓存 = 重复前缀每次全价 |
| 重试与失败 | 超时、限流、格式不合规触发重试,每次都计费 | 低质量模型「便宜但要多试几次」综合可能更贵 |
| 并发/限流 | 限流导致排队,间接推高延迟与超时重试 | 免费/低档位的 RPM/TPM 上限常被忽略 |
| 数据合规成本 | 数据出域、跨境、审计的隐性成本 | 对国内企业往往是硬约束,不是纯价格问题 |
核算口径应该是:「在你的真实任务集上,达到可接受质量所需的端到端总 token × 分档单价 × (1 + 重试率) − 缓存折扣」,而不是一个漂亮的单价数字。
一个把「便宜模型」算贵的真实机制
推理档位是最隐蔽的成本放大器。以我们此前拆解过的一个案例:同一个生成任务,把推理档位从最高降到关闭,耗时从约 21 分钟降到约 2 分钟,燃烧的推理 token 从两万多降到几乎为零(详见:Qwen 3.8 27B 选型拆解)。
也就是说,同一个模型、同一个请求,配置不同,成本能差一个数量级。所以「模型 A 比模型 B 贵」这句话,不指定档位和配置根本不成立。选型第一步不是换模型,是把现有模型的档位、缓存、上下文治理干净。
一张可复用的选型对比表(自己填,别抄榜单)
做横向对比时,把候选模型拉成这张表,用你自己的任务集实测填入——空着的价格列去各家官网查当期报价:
| 维度 | 模型 A | 模型 B | 模型 C |
|---|---|---|---|
| 输入单价(/百万 token) | |||
| 输出单价(/百万 token) | |||
| 缓存命中折扣 | |||
| 是否有错峰/阶梯折扣 | |||
| 上下文上限 | |||
| 达标所需平均总 token(实测) | |||
| 重试率(实测) | |||
| P95 延迟(实测) | |||
| 并发上限 RPM/TPM | |||
| 数据是否出域 / 合规 | |||
| 综合单请求成本(算出来) |
关键在最后一行:综合单请求成本才是决策依据。前面每一行都是它的输入,任何一行缺失都会让结论偏。
官方定价页(查当期真实数字,别用本文或任何博客的转述价下单):
- OpenAI:https://openai.com/api/pricing/
- Anthropic:https://www.anthropic.com/pricing
- DeepSeek:https://platform.deepseek.com/(注意其错峰时段折扣)
- 通义千问 / 阿里云百炼:https://help.aliyun.com/zh/model-studio/
- 智谱 GLM:https://open.bigmodel.cn/pricing
- Moonshot / Kimi:https://platform.moonshot.cn/
国产 vs 国外:别用单价一刀切
对国内企业,结构性事实大致是:
- 国产主力模型(DeepSeek / Qwen / GLM / Kimi) 每 token 单价通常显著低于前沿闭源模型,部分还有错峰折扣,且数据不出域,合规上天然占优。
- 前沿闭源模型(GPT / Claude / Gemini) 在最难的推理、长链路任务上仍常有质量优势,但单价高、数据出域,适合少量高价值请求。
所以理性做法不是二选一,而是按请求分层:
- 大量简单/结构化任务 → 便宜的国产模型;
- 少量高价值/高难度请求 → 更强的模型;
- 某一路限流或故障 → 自动切到备份路由,不阻塞业务。
LoopRouter 视角:降本的最大杠杆在「路由」,不在「换模型」
前面所有变量的治理——分档、缓存、上下文压缩——都是单模型内的优化,天花板有限。真正的量级降本来自按请求在多个模型间智能路由:让统一接入层根据任务复杂度、实时价格、延迟和可用性,自动决定这一条请求走哪个模型,并在限流/故障时自动切换。
这也正是把上面那张对比表产品化的意义:与其让工程师为每个模型手写一套调用和降级逻辑,不如在网关侧统一治理档位、缓存、上下文与路由策略——成本对比不再是一次性选型,而是每个请求实时做的决策。