课程 346 / 365
95%
正文已完成
L346用总拥有成本而不是单次价格做部署判断
比较硬件、调用、能耗、维护、峰值、停机和迁移成本,识别错误的便宜结论。
本地没有按次账单,不代表免费;云端无需买机器,也不代表总成本更低。采购、折旧、能耗、运维工时、峰值容量、故障和迁移都应进入同一时间范围。
能为本地与云端方案建立同口径的总拥有成本模型。
核心概念
先把关键判断说清楚
固定成本与可变成本分开
硬件和基础运维偏固定,云端调用随用量变化;使用率决定哪种成本结构更合适。
人的时间是真实成本
升级模型、排查驱动、值守和安全补丁占用团队能力,不能因不出现在账单就忽略。
迁移与退出也要计入
供应商切换、模型格式变化或硬件淘汰都会产生成本,方案应保留导出和替代路径。
案例拆解
低利用率下本地大机器更贵
团队因云端每月账单明显,计划购买高配设备,但实际只在工作日每天使用一小时。
- 01
按三年计算硬件、能耗、维护工时和预计残值。
- 02
云端按真实Token与峰值调用计算,并加入网络与供应商风险缓冲。
- 03
发现低利用率下云端总成本更低,先用云端并设置用量达到阈值后重评本地。
案例结果
决策从单月账单转向三年总成本与利用率触发条件。
提交前练习
现在轮到你
为本地与云端两个方案建立一年或三年成本表。
内容会自动保存在当前设备
查看参考答案与评分标准
参考答案
月均2亿输入Token、峰值3倍;本地按设备3年折旧+电费+每月8小时维护;云端按输入输出、缓存和网络;若月调用连续3月使云成本超过本地摊销30%,且质量门槛通过,则重评。
评分标准
- 需求包含峰值和增长
- 本地计入人工维护
- 重评阈值基于连续证据
本课收口 · 学习证据
完成,不等于随手打一个勾。
确认阅读、保存练习,再用 30 秒检查和一句话总结留下真实学习证据。
02完成本课练习0 / 4 项必填内容已填写
03通过理解检查约 30 秒
你现在更接近哪一种状态?
完成上面三项后,才能把本课记为已验证。
资料来源
继续核对与延伸阅读
本课内容最近更新于 。
- Monitoring Distributed Systems↗reference · 核对日期 2026-08-23
- NIST AI Risk Management Framework↗standard · 核对日期 2026-08-23
- llama.cpp↗official-docs · 核对日期 2026-08-23