GPU mana menjalankan model apa · DeepSeek
GPU mana yang menjalankan DeepSeek-R1-Distill-Llama-70B, dan berapa biayanya per jam
DeepSeek-R1-Distill-Llama-70B (70B) memakai sekitar 140 GB VRAM untuk bobot FP16 dan sekitar 40 to 43 GB pada Q4_K_M, belum termasuk KV cache untuk jendela konteks Anda. Tabel di bawah mencantumkan kartu di cloudgpu.app per kelas VRAM, apakah modelnya muat, dan harga yang benar-benar ditagihkan, dibaca pada 2026-09-15.
Kartu yang direkomendasikan: A800 80G (80 GB) seharga $1.09 per jam, kartu termurah di kelas VRAM yang muat.
| VRAM | Kartu | Harga per jam | Muat? |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.21 – $0.33/h | Tidak muat does not fit on one card |
| 32 GB | RTX 5090 32G | $0.59/h | Tidak muat does not fit |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.44 – $0.65/h | Muat pas-pasan Q4 with about 8k context |
| 80 GB | A800 80G · A100 80G | $1.09 – $1.49/h | Muat Q4 comfortable with 32k context |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.49/h | Muat Q4 comfortable; Q8 tight |
Harga adalah tarif ritel di cloudgpu.app yang dibaca 2026-09-15 dan sama dengan yang ditagihkan sistem billing; angka VRAM diperiksa pada 2026-09-08. Stok berubah sepanjang hari.
Cara membaca tabel
"Muat" dinilai untuk bobot Q4_K_M plus jendela konteks yang bisa dipakai; FP16 butuh kira-kira dua kali VRAM. Catatan di bawah tiap penilaian menyebutkan seberapa panjang konteks yang didapat.
Kartu data center (80 GB dan 96 GB) tidak murah di cloudgpu.app. Jika modelnya muat di kartu konsumen, kartu konsumen adalah pilihan yang lebih hemat. Harga di sini adalah angka yang sama dengan yang ditagihkan sistem billing.
Pertanyaan tentang menjalankan DeepSeek-R1-Distill-Llama-70B
Berapa VRAM yang dibutuhkan DeepSeek-R1-Distill-Llama-70B?
DeepSeek-R1-Distill-Llama-70B punya 70B parameter. Bobot FP16 memakai sekitar 140 GB; pada Q4_K_M bobotnya sekitar 40 to 43 GB. Tambahkan 1 sampai 8 GB untuk KV cache tergantung panjang konteks dan ukuran batch.
GPU termurah yang bisa menjalankan DeepSeek-R1-Distill-Llama-70B?
Di cloudgpu.app, kartu termurah yang kami rekomendasikan untuk DeepSeek-R1-Distill-Llama-70B adalah A800 80G dengan 80 GB seharga $1.09 per jam (Q4 comfortable with 32k context). Harga dibaca 2026-09-15; halaman harga menampilkan stok langsung.
Bisakah menjalankan DeepSeek-R1-Distill-Llama-70B di RTX 4090 24 GB?
Tidak. Di kartu 24 GB: does not fit on one card. Anda butuh minimal kartu 80 GB; di cloudgpu.app itu adalah A800 80G seharga $1.09 per jam.
Berapa biaya per jam menjalankan DeepSeek-R1-Distill-Llama-70B di cloudgpu.app?
Mulai $1.09 per jam di A800 80G, ditagih per menit. Uji coba 20 menit sekitar $0.36; satu jam diotorisasi saat instance dimulai dan menit yang tidak terpakai dikembalikan saat berhenti. Kartu di kelas VRAM lebih tinggi lebih mahal; tabel di atas mencantumkan masing-masing.
Bagaimana memulai DeepSeek-R1-Distill-Llama-70B di GPU sewaan?
Buka Sewa GPU, pilih template Ollama dan sebuah kartu dari tabel di atas. Instance siap dalam sekitar 100 detik dengan endpoint HTTPS publik; lalu jalankan "ollama pull deepseek-r1:70b" di terminal, atau minta model "deepseek-r1:70b" lewat API dan Ollama mengunduhnya saat pertama dipakai.
Apakah perlu kartu kredit atau akun Tiongkok?
Tidak perlu akun Tiongkok, nomor telepon, atau KTP. Anda bisa bayar dengan kartu (Visa atau Mastercard, nominal apa pun mulai $5) atau USDT (TRC-20). Isi saldo pertama $10 atau lebih mendapat bonus $5, jadi bayar kartu $10 memberi Anda $15 waktu GPU.