कौन-सा GPU कौन-सा मॉडल चलाता है · OpenAI gpt-oss
कौन-सा GPU gpt-oss-20b चलाता है
gpt-oss-20b (21B MoE (3.6B active)) को FP16 weights के रूप में लगभग 42 GB VRAM और native MXFP4 पर लगभग 13 GB चाहिए, आपकी context window के KV cache से पहले। Table में cloudgpu.app के cards VRAM class के अनुसार दिए गए हैं, मॉडल fit होता है या नहीं, और वह कीमत जो असल में आपसे ली जाएगी, 2026-11-04 को पढ़ी गई।
सुझाया गया card: RTX 3090 24G (24 GB), $0.29 प्रति घंटा, इस मॉडल के लिए पर्याप्त VRAM के साथ।
| VRAM | Cards | प्रति घंटा कीमत | Fit |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.29 – $0.39/h | Fit होता है MXFP4 fits comfortably |
| 32 GB | RTX 5090 32G | $0.69/h | Fit होता है MXFP4 fits |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.49 – $0.69/h | Fit होता है fits |
| 80 GB | A800 80G · A100 80G | $1.19 – $1.59/h | Fit होता है fits with batching |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.79/h | Fit होता है fits with batching |
कीमतें cloudgpu.app की list prices हैं, जो 2026-11-04, बीजिंग समय पर पढ़ी गईं, और billing system जो वसूलता है उसके बराबर हैं; VRAM आँकड़े आख़िरी बार 2026-09-08 को जाँचे गए।
Table को कैसे पढ़ें
"Fit होता है" का आकलन native MXFP4 weights और एक काम लायक context window के लिए किया जाता है; FP16 को लगभग दोगुनी VRAM चाहिए। हर निष्कर्ष के नीचे का note बताता है कि आपको कितना context मिलता है।
cloudgpu.app पर data-centre cards (80 GB और 96 GB) सस्ते नहीं हैं। अगर मॉडल consumer card पर fit होता है, तो consumer card बेहतर सौदा है। यहाँ की कीमतें वही आँकड़े हैं जो billing system वसूलता है।
gpt-oss-20b चलाने से जुड़े प्रश्न
gpt-oss-20b को कितनी VRAM चाहिए?
gpt-oss-20b में 21B MoE (3.6B active) parameters हैं। FP16 weights लगभग 42 GB लेते हैं; native MXFP4 पर weights लगभग 13 GB लेते हैं। Context length और batch size के अनुसार KV cache के लिए 1 से 8 GB और जोड़ें।
gpt-oss-20b चलाने के लिए मुझे कौन-सा GPU किराए पर लेना चाहिए?
cloudgpu.app पर gpt-oss-20b के लिए हमारा सुझाया गया card RTX 3090 24G है, 24 GB के साथ $0.29 प्रति घंटा (MXFP4 fits comfortably)। कीमतें 2026-11-04 को पढ़ी गईं; live stock /deploy पर है।
क्या मैं 24 GB वाले RTX 4090 पर gpt-oss-20b चला सकता/सकती हूँ?
हाँ। 24 GB card पर: MXFP4 fits comfortably। cloudgpu.app पर RTX 4090 24 GB $0.39 प्रति घंटा है; RTX 3090 24 GB $0.29 प्रति घंटा पर उतनी ही VRAM देता है, धीमा है लेकिन सस्ता है।
cloudgpu.app पर gpt-oss-20b चलाने का प्रति घंटा खर्च कितना है?
RTX 3090 24G पर $0.29 प्रति घंटा से, प्रति मिनट billing। 20 मिनट का test लगभग $0.10 का पड़ता है; instance चलते समय एक घंटा pre-authorise होता है और instance destroy करने पर इस्तेमाल न हुए मिनट आपके balance में वापस चले जाते हैं। ऊँची VRAM class के cards ज़्यादा महँगे हैं; ऊपर की table में हर एक दी गई है।
किराए के GPU पर gpt-oss-20b कैसे शुरू करें?
Rent a GPU खोलें, Ollama template और ऊपर की table से एक card चुनें। Instance के साथ एक सार्वजनिक HTTPS endpoint मिलता है; फिर terminal में "ollama pull gpt-oss:20b" चलाएँ, या API के ज़रिए model "gpt-oss:20b" request करें और Ollama पहली बार उपयोग पर इसे download कर लेगा।
क्या मुझे credit card या चीनी खाते की ज़रूरत है?
किसी चीनी खाते, फ़ोन नंबर या ID की ज़रूरत नहीं है। आप card (Visa या Mastercard, $5 से कोई भी राशि) या USDT (TRC-20) से भुगतान कर सकते हैं।