कौन-सा GPU कौन-सा मॉडल चलाता है · Mistral
कौन-सा GPU Mistral Small 3 24B चलाता है
Mistral Small 3 24B (24B) को FP16 weights के रूप में लगभग 48 GB VRAM और Q4_K_M पर लगभग 14 GB चाहिए, आपकी context window के KV cache से पहले। Table में cloudgpu.app के cards VRAM class के अनुसार दिए गए हैं, मॉडल fit होता है या नहीं, और वह कीमत जो असल में आपसे ली जाएगी, 2026-11-04 को पढ़ी गई।
सुझाया गया card: RTX 3090 24G (24 GB), $0.29 प्रति घंटा, इस मॉडल के लिए पर्याप्त VRAM के साथ।
| VRAM | Cards | प्रति घंटा कीमत | Fit |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.29 – $0.39/h | Fit होता है Q4 fits with 16k context |
| 32 GB | RTX 5090 32G | $0.69/h | Fit होता है Q4 comfortable with 32k context |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.49 – $0.69/h | Fit होता है Q4 with long context; FP16 is tight |
| 80 GB | A800 80G · A100 80G | $1.19 – $1.59/h | Fit होता है FP16 fits |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.79/h | Fit होता है FP16 fits |
कीमतें cloudgpu.app की list prices हैं, जो 2026-11-04, बीजिंग समय पर पढ़ी गईं, और billing system जो वसूलता है उसके बराबर हैं; VRAM आँकड़े आख़िरी बार 2026-09-08 को जाँचे गए।
Table को कैसे पढ़ें
"Fit होता है" का आकलन Q4_K_M weights और एक काम लायक context window के लिए किया जाता है; FP16 को लगभग दोगुनी VRAM चाहिए। हर निष्कर्ष के नीचे का note बताता है कि आपको कितना context मिलता है।
cloudgpu.app पर data-centre cards (80 GB और 96 GB) सस्ते नहीं हैं। अगर मॉडल consumer card पर fit होता है, तो consumer card बेहतर सौदा है। यहाँ की कीमतें वही आँकड़े हैं जो billing system वसूलता है।
Mistral Small 3 24B चलाने से जुड़े प्रश्न
Mistral Small 3 24B को कितनी VRAM चाहिए?
Mistral Small 3 24B में 24B parameters हैं। FP16 weights लगभग 48 GB लेते हैं; Q4_K_M पर weights लगभग 14 GB लेते हैं। Context length और batch size के अनुसार KV cache के लिए 1 से 8 GB और जोड़ें।
Mistral Small 3 24B चलाने के लिए मुझे कौन-सा GPU किराए पर लेना चाहिए?
cloudgpu.app पर Mistral Small 3 24B के लिए हमारा सुझाया गया card RTX 3090 24G है, 24 GB के साथ $0.29 प्रति घंटा (Q4 fits with 16k context)। कीमतें 2026-11-04 को पढ़ी गईं; live stock /deploy पर है।
क्या मैं 24 GB वाले RTX 4090 पर Mistral Small 3 24B चला सकता/सकती हूँ?
हाँ। 24 GB card पर: Q4 fits with 16k context। cloudgpu.app पर RTX 4090 24 GB $0.39 प्रति घंटा है; RTX 3090 24 GB $0.29 प्रति घंटा पर उतनी ही VRAM देता है, धीमा है लेकिन सस्ता है।
cloudgpu.app पर Mistral Small 3 24B चलाने का प्रति घंटा खर्च कितना है?
RTX 3090 24G पर $0.29 प्रति घंटा से, प्रति मिनट billing। 20 मिनट का test लगभग $0.10 का पड़ता है; instance चलते समय एक घंटा pre-authorise होता है और instance destroy करने पर इस्तेमाल न हुए मिनट आपके balance में वापस चले जाते हैं। ऊँची VRAM class के cards ज़्यादा महँगे हैं; ऊपर की table में हर एक दी गई है।
किराए के GPU पर Mistral Small 3 24B कैसे शुरू करें?
Rent a GPU खोलें, Ollama template और ऊपर की table से एक card चुनें। Instance के साथ एक सार्वजनिक HTTPS endpoint मिलता है; फिर terminal में "ollama pull mistral-small:24b" चलाएँ, या API के ज़रिए model "mistral-small:24b" request करें और Ollama पहली बार उपयोग पर इसे download कर लेगा।
क्या मुझे credit card या चीनी खाते की ज़रूरत है?
किसी चीनी खाते, फ़ोन नंबर या ID की ज़रूरत नहीं है। आप card (Visa या Mastercard, $5 से कोई भी राशि) या USDT (TRC-20) से भुगतान कर सकते हैं।