关于本站

这是什么？

我做 How Much To Run AI，想回答一个实际问题：根据自己的任务和预算，自己部署模型还是使用商业 API 更合适？

Token 费用会随着用量累积；算力有限时，能力强的模型也可能跑得很慢。与此同时，开放权重模型不断进步，用来部署它们的软件和基础设施也越来越成熟。自部署如今已是可行选项，不过成本和速度取决于模型、任务、硬件和用量。

我做了成本计算器，比较开放权重模型与闭源模型、自部署与商业 API，也收集公开分享的部署经验。你可以参考这些信息，再结合自己的任务和预算权衡。

你可以用成本计算器、模型比较和公开的部署经验，判断哪种方案适合自己的任务和预算。模型及其运行工具还在进步，成本和性能的取舍也会随之变化。

为什么用思考脸？

Logo 用的是 thinking face 表情（🤔）——因为老板问「部署要花多少钱」的时候，你脸上差不多就是这个表情。

Logo 中的 emoji 图案改编自 Noto Emoji，版权归 Google Inc.，按 Apache 2.0 协议授权使用。

联系我们

有问题、建议或反馈，欢迎发邮件到 hello@howmuchtorunai.com，或在 X 上私信 @YeeJan_neutral。