本章进度 8 / 19
42%
正文已完成
L046判断模型更大是否真的更适合
从任务质量、延迟、成本、上下文与部署边界比较模型，而不是只看参数规模。
把“参数与能力”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。
建议先理解同主题上一课的核心概念，再完成本课判断练习。
- 无需安装新工具
- 准备一个可对照的真实问题或样本
参数规模是一个属性，不是采购结论。真实产品还受训练质量、推理设置、工具系统和任务分布影响。
能为两个规模不同的模型建立任务级比较表并识别规模之外的变量。
核心概念
先把关键判断说清楚
在目标任务上比较
通用榜单不能替代你的样本，应在真实难例、格式和风险标准上评测。
算端到端代价
质量之外记录延迟、吞吐、Token成本、硬件与失败重试，避免只比单次报价。
系统设计会改变结果
检索、工具、提示和后处理可能让较小模型在受控任务上达到更好性价比。
案例拆解
大模型在标签分类上更慢却没有更准
团队把简单工单分类全部路由到最大模型，但真实样本准确率只高0.3%，延迟与成本翻倍。
- 01
固定同一200条代表性样本
- 02
同时测准确率、拒绝率、P95延迟和单单成本
- 03
将复杂含混样本升级，大多数样本走小模型
案例结果
总体质量保持，成本与等待时间下降，规模只在需要时使用。
提交前练习
现在轮到你
设计一张大小模型的任务级比较表。
完成本课需要：完成以下内容用于本课收口。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
用200条真实工单含20条含混样本；测标签准确、schema通过、P95延迟和每千单成本；小模型置信不足或高风险类再升级。
评分标准
- 样本含真实难例
- 质量与运行指标并重
- 决策规则可执行
本课收口 · 应用检查
完成一次应用，再检查理解
完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- Evals↗official-docs · 核对日期 2026-08-23
- Monitoring Distributed Systems↗reference · 核对日期 2026-08-23
- Transformers Quantization Overview↗official-docs · 核对日期 2026-08-23