网页小实验可以直接在课程里做。以后下载项目、准备在本机或云上训练时,再用这节的方法估算设备和费用。
先看任务能不能放下
显存是 GPU 计算时的工作空间。假如同一段训练在较大的卡上实测占用 22 GB,选卡时就能先排除 16 GB,再留一些余量。报价页上的 VRAM 指显存,RAM 指主机内存。
| 型号举例 | 对应版本的显存 |
|---|---|
| RTX 5080、RTX 5090 | 16 GB、32 GB |
| RTX A6000、RTX PRO 6000 | 48 GB、96 GB |
| A100 PCIe、H100 PCIe、H200 | 80 GB、80 GB、141 GB |
同一系列可能有不同板型或显存切分。订单页请再核对完整型号和实际可用容量。 RTX 5080 规格 · RTX 5090 规格 · Runpod 型号列表
显存差一点,先试哪一步?
先减小 batch size(一次送进模型的样本数),再测一次峰值。租多张卡时,程序需要安排模型或数据如何分配,选型时先按实际训练方式核对每张卡的显存。
算算两小时要花多少钱
用 Runpod Pods 的 RTX 5090 公开价 1.39 美元 / 卡小时 做例子。租一张跑 2 小时,计算费是 2.78 美元。假设另计 0.40 美元 的存储和流量,估算总价就是 3.18 美元。
算一次预算 · 把 2 小时改成 1 小时
Python先读绿色注释,再改一个数字,运行后核对结果。
查看错误详情
输入时自动提示 · Ctrl + Space 查看补全 · Ctrl / ⌘ + Enter 运行
还没有运行。先预测结果,再点击运行。
把 hours = 2 改成 hours = 1,重新运行。计算费应变成 1.39 美元,加上练习中固定的其他费用,总预算是 1.79 美元。
查卡价、比较租赁平台
Runpod Pods 的参考时价(2026 年 11 月查阅,美元 / 卡小时)还有 A6000 0.69、RTX PRO 6000 2.69、H100 PCIe 2.89、H200 5.29。不同实例的价格和计费方式以订单页为准。 Runpod 官方报价
- AutoDL 看人民币报价,核对关机后存储如何计费。 计费说明
- Lambda 核对地区、实例卡数,以及报价按每张卡还是每台算。 GPU 实例
- Vast.ai 不同主机有不同报价,核对存储和流量。 公开报价页
想买卡时可参考发布起价。RTX 5080 与 RTX 5090 在 2025 年 1 月公布的美国起价分别为 999 和 1,999 美元。实际购买时核对当地渠道报价和售后。 NVIDIA 发布公告