कौन-सा GPU कौन-सा मॉडल चलाता है · OpenAI gpt-oss
कौन-सा GPU gpt-oss-120b चलाता है
gpt-oss-120b (117B MoE (5.1B active)) को FP16 weights के रूप में लगभग 234 GB VRAM और native MXFP4 पर लगभग 63 GB चाहिए, आपकी context window के KV cache से पहले। Table में cloudgpu.app के cards VRAM class के अनुसार दिए गए हैं, मॉडल fit होता है या नहीं, और वह कीमत जो असल में आपसे ली जाएगी, 2026-11-04 को पढ़ी गई।
सुझाया गया card: A800 80G (80 GB), $1.19 प्रति घंटा, इस मॉडल के लिए पर्याप्त VRAM के साथ।
| VRAM | Cards | प्रति घंटा कीमत | Fit |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.29 – $0.39/h | Fit नहीं होता does not fit |
| 32 GB | RTX 5090 32G | $0.69/h | Fit नहीं होता does not fit |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.49 – $0.69/h | Fit नहीं होता does not fit |
| 80 GB | A800 80G · A100 80G | $1.19 – $1.59/h | Fit होता है MXFP4 fits with 16k context: the recommended card |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.79/h | Fit होता है MXFP4 with 32k context |
कीमतें cloudgpu.app की list prices हैं, जो 2026-11-04, बीजिंग समय पर पढ़ी गईं, और billing system जो वसूलता है उसके बराबर हैं; VRAM आँकड़े आख़िरी बार 2026-09-08 को जाँचे गए।
Table को कैसे पढ़ें
"Fit होता है" का आकलन native MXFP4 weights और एक काम लायक context window के लिए किया जाता है; FP16 को लगभग दोगुनी VRAM चाहिए। हर निष्कर्ष के नीचे का note बताता है कि आपको कितना context मिलता है।
cloudgpu.app पर data-centre cards (80 GB और 96 GB) सस्ते नहीं हैं। अगर मॉडल consumer card पर fit होता है, तो consumer card बेहतर सौदा है। यहाँ की कीमतें वही आँकड़े हैं जो billing system वसूलता है।
gpt-oss-120b चलाने से जुड़े प्रश्न
gpt-oss-120b को कितनी VRAM चाहिए?
gpt-oss-120b में 117B MoE (5.1B active) parameters हैं। FP16 weights लगभग 234 GB लेते हैं; native MXFP4 पर weights लगभग 63 GB लेते हैं। Context length और batch size के अनुसार KV cache के लिए 1 से 8 GB और जोड़ें।
gpt-oss-120b चलाने के लिए मुझे कौन-सा GPU किराए पर लेना चाहिए?
cloudgpu.app पर gpt-oss-120b के लिए हमारा सुझाया गया card A800 80G है, 80 GB के साथ $1.19 प्रति घंटा (MXFP4 fits with 16k context: the recommended card)। कीमतें 2026-11-04 को पढ़ी गईं; live stock /deploy पर है।
क्या मैं 24 GB वाले RTX 4090 पर gpt-oss-120b चला सकता/सकती हूँ?
नहीं। 24 GB card पर: does not fit। आपको कम से कम 80 GB वाला card चाहिए; cloudgpu.app पर वह A800 80G है, $1.19 प्रति घंटा।
cloudgpu.app पर gpt-oss-120b चलाने का प्रति घंटा खर्च कितना है?
A800 80G पर $1.19 प्रति घंटा से, प्रति मिनट billing। 20 मिनट का test लगभग $0.40 का पड़ता है; instance चलते समय एक घंटा pre-authorise होता है और instance destroy करने पर इस्तेमाल न हुए मिनट आपके balance में वापस चले जाते हैं। ऊँची VRAM class के cards ज़्यादा महँगे हैं; ऊपर की table में हर एक दी गई है।
किराए के GPU पर gpt-oss-120b कैसे शुरू करें?
Rent a GPU खोलें, Ollama template और ऊपर की table से एक card चुनें। Instance के साथ एक सार्वजनिक HTTPS endpoint मिलता है; फिर terminal में "ollama pull gpt-oss:120b" चलाएँ, या API के ज़रिए model "gpt-oss:120b" request करें और Ollama पहली बार उपयोग पर इसे download कर लेगा।
क्या मुझे credit card या चीनी खाते की ज़रूरत है?
किसी चीनी खाते, फ़ोन नंबर या ID की ज़रूरत नहीं है। आप card (Visa या Mastercard, $5 से कोई भी राशि) या USDT (TRC-20) से भुगतान कर सकते हैं।