课程 346 / 365
95%
开源模型与本地部署·判断·13 分钟
正文已完成

用总拥有成本而不是单次价格做部署判断

比较硬件、调用、能耗、维护、峰值、停机和迁移成本,识别错误的便宜结论。

L346

本地没有按次账单,不代表免费;云端无需买机器,也不代表总成本更低。采购、折旧、能耗、运维工时、峰值容量、故障和迁移都应进入同一时间范围。

这一课的结果

能为本地与云端方案建立同口径的总拥有成本模型。

核心概念

先把关键判断说清楚

01

固定成本与可变成本分开

硬件和基础运维偏固定,云端调用随用量变化;使用率决定哪种成本结构更合适。

02

人的时间是真实成本

升级模型、排查驱动、值守和安全补丁占用团队能力,不能因不出现在账单就忽略。

03

迁移与退出也要计入

供应商切换、模型格式变化或硬件淘汰都会产生成本,方案应保留导出和替代路径。

案例拆解

低利用率下本地大机器更贵

团队因云端每月账单明显,计划购买高配设备,但实际只在工作日每天使用一小时。

  1. 01

    按三年计算硬件、能耗、维护工时和预计残值。

  2. 02

    云端按真实Token与峰值调用计算,并加入网络与供应商风险缓冲。

  3. 03

    发现低利用率下云端总成本更低,先用云端并设置用量达到阈值后重评本地。

案例结果

决策从单月账单转向三年总成本与利用率触发条件。

提交前练习

现在轮到你

为本地与云端两个方案建立一年或三年成本表。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

月均2亿输入Token、峰值3倍;本地按设备3年折旧+电费+每月8小时维护;云端按输入输出、缓存和网络;若月调用连续3月使云成本超过本地摊销30%,且质量门槛通过,则重评。

评分标准

  • 需求包含峰值和增长
  • 本地计入人工维护
  • 重评阈值基于连续证据

本课收口 · 学习证据

完成,不等于随手打一个勾。

确认阅读、保存练习,再用 30 秒检查和一句话总结留下真实学习证据。

0 / 3
02完成本课练习0 / 4 项必填内容已填写
03通过理解检查约 30 秒
本地部署成本表中最容易被遗漏但应计入的是哪项?
你现在更接近哪一种状态?
完成上面三项后,才能把本课记为已验证。

资料来源

继续核对与延伸阅读

本课内容最近更新于