把稠密模型改造成 MoE 来省钱:量化、剪枝、蒸馏、MoE 化怎么选
自托管模型想降本,常见四条路:量化、剪枝、蒸馏、把稠密模型改造成 MoE。一份 ACL 论文用同一个 Qwen2-7B 做横评显示:MoE 化能在几乎不掉分的前提下提速 2–2.5 倍,蒸馏最快但精度损失最大。从接入与成本治理视角看,「模型内压缩」和「接入层路由」是两条互补的降本路线。
最新文档32
分类5
标签55
内容路线：模型机制 · 接入实践 · 成本治理
精选文档
GPT-6 Astra 定价与 Claude Fable 5 完全对标:同为 $10/$50,该怎么选?
GPT-6 Astra API 定价为输入 10 美元、输出 50 美元每百万 token,与 Claude Fable 5/5.1 完全一致。本文整理基准数据与适用边界,给出同价位选型思路。
最新文档
持续沉淀模型接入、路由策略、成本控制与 AI 工程实践。
谁最懂中文网络热梗?一份 3001 词基准告诉你选型别靠直觉
选模型做中文内容,很多人默认「国产模型更懂中文梗」。但一份覆盖 3001 个中文网络热梗、6 个主流模型、3 类任务的基准显示:全面领先的是 Gemini 3.1 Pro,GPT-5.5、Claude 在「理解梗的含义」上明显偏弱,而检测「用梗包装的有害内容」几乎所有模型都不及格。从接入与路由视角看,中文选型该按任务拆开做。
长上下文推理越跑越贵?On-Demand Attention 让模型「需要时才回看历史」
长上下文和 Agent 推理贵,根因之一是全注意力每生成一个 token 都要重读不断变长的历史。arXiv 新论文 On-Demand Attention(ODA)默认用局部注意力,靠一个轻量『召回头』预测『这一步要不要回看全局』,只在有用时才触发全局读取。从接入方视角看,它是同档模型下不同供应商『每 token 成本/延迟』会拉开差距的隐性变量。
Claude Code 开始支持 AGENTS.md:配置可移植性,和模型可移植性一样值钱
Claude Code 2.1.277 起,目录里没有 CLAUDE.md 时会回退读取通用的 AGENTS.md。真正的意义不是少写一个文件,而是把『你怎么让 AI 干活』存成厂商中立格式——换工具、换模型时,迁移成本从『重写』降到『改配置』。
xAI、OpenAI、Anthropic 联署 AEF-1 第三方评测标准:企业选型到底该信谁的评测?
AI Evaluator Forum(2025 年 12 月成立)发布 AEF-1——第三方独立评测的基线标准,规范访问权限、利益冲突、资金关系、回避与透明度五件事,三家头部实验室联署。但同期就有人质疑评测机构与实验室的资金牵连。对做选型的企业,结论很实在:第三方评测在变可信,却仍不能把选型外包给任何单一榜单。
用模型「自报置信度」决定要不要换更强模型?受控测试:能用,但别全信
想靠模型自己报的置信度来决定「这条查询要不要升级到更贵的模型」?一份受控测试显示:直接口头报的置信度出奇地准(AUROC 0.956),比三次采样投票(约 0.77)强得多;但它很脆——换个问法,4%–9% 的路由决策就翻了。给置信度路由的落地建议。
选大模型别漏掉「合规」这条维度:20 个模型的中国 AIGC 合规基准说了什么
企业选模型常盯着价格、延迟、跑分,却漏了一条硬约束:能不能过中国 AIGC 内容合规要求。一份覆盖 20 个模型、2303 道题、6 个维度的基准显示:连国际模型在标准中文问题上的合规度也很高,模型间的差异主要落在少数几个维度上。从接入与选型视角看合规该怎么纳入。
评估一个 Agent 模型要烧 1 万美元、跑 2.7 天:20 个任务的迷你集把选型成本压到 1/40
在 APEX-Agents 上评估一个前沿模型约花 1.09 万美元、跑 2.7 天,让'持续选型'贵到做不起。DualViewEval 用 20 个任务的迷你集加 6 个过程信号,把 Agent 评估压缩 24–40 倍、误差还更低。本文拆解方法,并给出 LoopRouter 的选型与路由落地视角。
为省钱剪枝的小模型,还能可靠调工具吗?先看架构再决定
剪枝能压低大模型部署成本,却会先削弱工具调用里最具体的部分(设备、参数、取值)。一项跨 4 个模型、1.95 万条实例的研究显示:稠密模型剪枝「安全区窄、掉得急」,MoE 能扛更多剪枝;剪太狠还会让模型系统性拒答。从 Agent 接入与模型路由视角给出选型建议。