GPU mana menjalankan model apa · Mistral
GPU mana yang menjalankan Mistral Small 3 24B, dan berapa biayanya per jam
Mistral Small 3 24B (24B) memakai sekitar 48 GB VRAM untuk bobot FP16 dan sekitar 14 GB pada Q4_K_M, belum termasuk KV cache untuk jendela konteks Anda. Tabel di bawah mencantumkan kartu di cloudgpu.app per kelas VRAM, apakah modelnya muat, dan harga yang benar-benar ditagihkan, dibaca pada 2026-09-15.
Kartu yang direkomendasikan: RTX 3090 24G (24 GB) seharga $0.21 per jam, kartu termurah di kelas VRAM yang muat.
| VRAM | Kartu | Harga per jam | Muat? |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.21 – $0.33/h | Muat Q4 fits with 16k context |
| 32 GB | RTX 5090 32G | $0.59/h | Muat Q4 comfortable with 32k context |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.44 – $0.65/h | Muat Q4 with long context; FP16 is tight |
| 80 GB | A800 80G · A100 80G | $1.09 – $1.49/h | Muat FP16 fits |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.49/h | Muat FP16 fits |
Harga adalah tarif ritel di cloudgpu.app yang dibaca 2026-09-15 dan sama dengan yang ditagihkan sistem billing; angka VRAM diperiksa pada 2026-09-08. Stok berubah sepanjang hari.
Cara membaca tabel
"Muat" dinilai untuk bobot Q4_K_M plus jendela konteks yang bisa dipakai; FP16 butuh kira-kira dua kali VRAM. Catatan di bawah tiap penilaian menyebutkan seberapa panjang konteks yang didapat.
Kartu data center (80 GB dan 96 GB) tidak murah di cloudgpu.app. Jika modelnya muat di kartu konsumen, kartu konsumen adalah pilihan yang lebih hemat. Harga di sini adalah angka yang sama dengan yang ditagihkan sistem billing.
Pertanyaan tentang menjalankan Mistral Small 3 24B
Berapa VRAM yang dibutuhkan Mistral Small 3 24B?
Mistral Small 3 24B punya 24B parameter. Bobot FP16 memakai sekitar 48 GB; pada Q4_K_M bobotnya sekitar 14 GB. Tambahkan 1 sampai 8 GB untuk KV cache tergantung panjang konteks dan ukuran batch.
GPU termurah yang bisa menjalankan Mistral Small 3 24B?
Di cloudgpu.app, kartu termurah yang kami rekomendasikan untuk Mistral Small 3 24B adalah RTX 3090 24G dengan 24 GB seharga $0.21 per jam (Q4 fits with 16k context). Harga dibaca 2026-09-15; halaman harga menampilkan stok langsung.
Bisakah menjalankan Mistral Small 3 24B di RTX 4090 24 GB?
Bisa. Di kartu 24 GB: Q4 fits with 16k context. RTX 4090 24 GB seharga $0.33 per jam di cloudgpu.app; RTX 3090 24 GB seharga $0.21 per jam punya VRAM sama, lebih lambat tapi lebih murah.
Berapa biaya per jam menjalankan Mistral Small 3 24B di cloudgpu.app?
Mulai $0.21 per jam di RTX 3090 24G, ditagih per menit. Uji coba 20 menit sekitar $0.07; satu jam diotorisasi saat instance dimulai dan menit yang tidak terpakai dikembalikan saat berhenti. Kartu di kelas VRAM lebih tinggi lebih mahal; tabel di atas mencantumkan masing-masing.
Bagaimana memulai Mistral Small 3 24B di GPU sewaan?
Buka Sewa GPU, pilih template Ollama dan sebuah kartu dari tabel di atas. Instance siap dalam sekitar 100 detik dengan endpoint HTTPS publik; lalu jalankan "ollama pull mistral-small:24b" di terminal, atau minta model "mistral-small:24b" lewat API dan Ollama mengunduhnya saat pertama dipakai.
Apakah perlu kartu kredit atau akun Tiongkok?
Tidak perlu akun Tiongkok, nomor telepon, atau KTP. Anda bisa bayar dengan kartu (Visa atau Mastercard, nominal apa pun mulai $5) atau USDT (TRC-20). Isi saldo pertama $10 atau lebih mendapat bonus $5, jadi bayar kartu $10 memberi Anda $15 waktu GPU.