哪张 GPU 跑哪个模型 · OpenAI gpt-oss
哪张 GPU 能跑 gpt-oss-120b,每小时多少钱
gpt-oss-120b(117B MoE (5.1B active))FP16 权重约占 234 GB 显存,native MXFP4 约 63 GB,还没算上下文窗口的 KV 缓存。下表按显存档列出 cloudgpu.app 在售的卡、显存是否足够、以及实际计费价格(2026-09-15 读取)。
推荐配置:A800 80G(80 GB),每小时 $1.09,是显存充足档中最低价的一张。
| 显存 | 卡型 | 每小时价格 | 显存判定 |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.21 – $0.33/h | 显存不足 does not fit |
| 32 GB | RTX 5090 32G | $0.59/h | 显存不足 does not fit |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.44 – $0.65/h | 显存不足 does not fit |
| 80 GB | A800 80G · A100 80G | $1.09 – $1.49/h | 显存充足 MXFP4 fits with 16k context: the recommended card |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.49/h | 显存充足 MXFP4 with 32k context |
价格为 cloudgpu.app 2026-09-15 读取的零售价,等于账单系统扣的数;显存数据 2026-09-08 核对。库存白天会变。
怎么看这张表
显存判定按 native MXFP4 权重加一个可用的上下文窗口计算;FP16 大约要两倍显存。每个判定下面的小字写的是能给多长上下文。
数据中心卡(80 GB、96 GB)在 cloudgpu.app 上不便宜。模型能在消费级卡上跑,消费级卡就是更划算的选择。这里的价格和账单系统扣的是同一个数。
关于跑 gpt-oss-120b 的常见问题
gpt-oss-120b 需要多少显存?
gpt-oss-120b 有 117B MoE (5.1B active) 参数。FP16 权重约 234 GB;native MXFP4 权重约 63 GB。KV 缓存再加 1 到 8 GB,取决于上下文长度和批大小。
能跑 gpt-oss-120b 的最便宜 GPU 是哪张?
在 cloudgpu.app 上,运行 gpt-oss-120b 推荐的最低价卡是 A800 80G(80 GB),每小时 $1.09(MXFP4 fits with 16k context: the recommended card)。价格 2026-09-15 读取;定价页显示实时库存。
24 GB 的 RTX 4090 能跑 gpt-oss-120b 吗?
不可以。24 GB 卡上:does not fit。至少要 80 GB 的卡;在 cloudgpu.app 上是 A800 80G,每小时 $1.09。
在 cloudgpu.app 上跑 gpt-oss-120b 每小时多少钱?
A800 80G 每小时 $1.09 起,按分钟计费。20 分钟试验约 $0.36;开机时预扣 1 小时,停机时未用分钟退回。更大显存档的卡更贵,上表逐一列了。
怎样在租来的 GPU 上开 gpt-oss-120b?
打开「租 GPU」,选 Ollama 模板和上表中的一张卡。约 100 秒后实例就绪并带公网 HTTPS 端点;然后在终端执行 "ollama pull gpt-oss:120b",或直接通过 API 请求模型 "gpt-oss:120b",Ollama 会在首次调用时下载。
需要信用卡或中国账号吗?
不需要中国账号、手机号或身份证。可以用银行卡(Visa / Mastercard,$5 起任意金额)或 USDT(TRC-20)付款。首次充值满 $10 送 $5,刷卡 $10 就有 $15 的 GPU 时长。