AI 成本计算器如何工作 | How Much To Run AI

计算器把几项部署选择组合成一份规划估算，当前流程如下：

模型 + 精度 + 部署方式 + 使用强度 + 汇率
                         ↓
                 显存估算 + 有价格硬件匹配
                         ↓
                  价格记录 + 运行时假设
                         ↓
              一次性成本 + 月度拆分 + 结论

这是简化估算。更多信息集中说明了范围和限制。

第一步：选择模型与精度

每条模型记录包含模型 ID、名称、系列、展示参数量和 MoE 标记。种子记录还可能包含 Hugging Face model ID。选定精度后，计算会使用以下每参数字节常数：

部分 MoE 记录还包含 active parameters。计算仍使用总参数量 paramSizeB，不会用 active parameters 替换。本页不会计算许可证、context window、checkpoint 文件大小或框架兼容性。

第二步：估算显存并匹配硬件

服务端按以下公式计算所需显存：

所需显存（GB）= paramSizeB × bytesPerParam × 1.2

1.2 是固定的运行时预留。在当前实现中，它表示权重驻留和基础运行时开销的简化系数，不会测量 KV cache、激活值、上下文长度或并发量。

下面是按当前公式计算的示例：

7B FP16：  7 × 2 × 1.2   = 16.8 GB
7B INT4：  7 × 0.5 × 1.2 = 4.2 GB
32B FP16：32 × 2 × 1.2  = 76.8 GB
32B INT4：32 × 0.5 × 1.2 = 19.2 GB

这些示例只展示公式，不能保证实际部署一定能装下。KV cache、激活值、未量化层、框架工作区、复制或分片、上下文长度、并发和安全余量，都可能让实际显存更高。对于 MoE，计算按总参数量处理，因为它假设所有专家权重都需要常驻。

匹配器按以下顺序工作：

1. 如果模型-硬件推荐映射的精度匹配、记录显存足够且当前有已发布价格，优先使用该映射。
2. 否则，在当前有价格记录的硬件中选择记录显存足够的最小档位。
3. 云端请求所需显存超过当前 640 GB 单个有价格实例上限时，返回无匹配。

640 GB 是当前目录和匹配逻辑的聚合显存边界。多张 GPU 不会自动变成一块共享显存，匹配器也不会验证张量并行、专家并行、分片、拓扑或互联。

第三步：应用部署方式与价格数据

云端

云端部署会使用匹配硬件当前已发布的价格记录，并计算：

云端月度算力成本 = 每小时价格 × 选择的月运行小时数

价格区间使用货币换算后的最低观测下限和最高观测上限。云端电费视为已包含在租金中，月度结果仍会包含固定的运维人力估算。

本地

本地部署会使用已发布的本地硬件价格区间，并应用当前整机附加系数：

本地一次性整机估算 = 观测到的硬件价格 × 1.4

1.4 是在没有完整 BOM 时，为 GPU、机箱、CPU、内存、电源等项目预留的预算系数，不是已确认的集群拓扑或供应商报价。目录中的多卡条目也可能只是线性推算，不一定对应可以直接购买的完整系统，请先阅读价格条件。

第四步：应用使用和运维假设

使用预设代表以下月运行时长：

这些小时数只会缩放成本模型，不用于建模 QPS、token 数、batch、利用率、延迟或容量。

本地部署当前使用以下电费公式：

GPU TDP（kW）× 月运行小时 × 0.65 元/kWh × PUE 1.2

页面展示的电费区间约为公式结果的 90%–110%。GPU TDP 只是功耗代理，不是墙上实测功率。CPU、内存、存储、风扇、网络、电源效率、平均负载和机房条件都不在此公式中。这里的 PUE 是简化的规划系数，不是完整的系统级机房能耗模型。

运维人力计算为：

15,000–25,000 元/月 × 0.15 FTE
= 2,250–3,750 元/月

本地折旧参考使用一次性成本区间的最高值除以 36 个月。它用于比较，不是会计折旧，也没有建模残值。默认汇率为 1 USD = 7.2 CNY；计算器可以在 API 接受的范围内修改。

第五步：阅读结果

根据部署方式和数据是否完整，结果可能显示：

• 预计显存和推荐的硬件记录。
• 本地部署的一次性成本。
• 月度算力、电费、运维人力和总成本。
• 本地折旧参考，以及数据允许时的云端对比。
• 价格来源/供应商、资源标识、地区、币种、计费单位、更新时间、条件和可用时的来源链接。
• 基于已发布价格记录的时效徽标。
• 当前场景的结论。

服务会先以 CNY 汇总月度总成本，再提供两种支持币种的显示值。如果没有价格记录或云端档位不可用，就返回不可用，不会自行编造价格。

价格来源标签与推算标记

每条已发布的价格记录现在都会带上 sourceType 来源类型和 isEstimate 是否为推算值。计算器结果中会展示这两项，方便你判断每条价格的可靠程度：

当结果中出现“推算值”标记时，说明该价格是外推或参考值，不是厂商直接报价。本地多卡条目尤其常见为线性推算，不代表已经验证可以直接购买的完整系统，也不保证拓扑、供电、散热和支持条件。

结果还会展示供应商、资源标识、地区、币种、计费单位、更新时间、条件和可用时的来源链接。在把区间数字用于预算或采购前，请先阅读条件并点击来源链接核实。

价格数据边界与时效

只有标记为 published、未过期且数据源启用的价格记录，才能进入公开计算结果。响应会带上来源/供应商、资源标识、地区、币种、计费单位、条件、观测时间、来源类型、推算标记和可选链接。

UI 不会把税费、存储、网络、支持、包年包月、竞价或合同折扣统一标准化展示。把区间当成报价前，请先阅读条件和来源链接。

公式版本与限制

上面的公式对应当前实现的常数和行为，不能替代生产压测或容量规划。完整的范围说明见更多信息。

从计算器开始

打开计算器，选择模型和部署场景，用结果开始预算和架构讨论。