GPU mana menjalankan model apa · OpenAI gpt-oss
GPU mana yang menjalankan gpt-oss-120b, dan berapa biayanya per jam
gpt-oss-120b (117B MoE (5.1B active)) memakai sekitar 234 GB VRAM untuk bobot FP16 dan sekitar 63 GB pada native MXFP4, belum termasuk KV cache untuk jendela konteks Anda. Tabel di bawah mencantumkan kartu di cloudgpu.app per kelas VRAM, apakah modelnya muat, dan harga yang benar-benar ditagihkan, dibaca pada 2026-09-15.
Kartu yang direkomendasikan: A800 80G (80 GB) seharga $1.09 per jam, kartu termurah di kelas VRAM yang muat.
| VRAM | Kartu | Harga per jam | Muat? |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.21 – $0.33/h | Tidak muat does not fit |
| 32 GB | RTX 5090 32G | $0.59/h | Tidak muat does not fit |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.44 – $0.65/h | Tidak muat does not fit |
| 80 GB | A800 80G · A100 80G | $1.09 – $1.49/h | Muat MXFP4 fits with 16k context: the recommended card |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.49/h | Muat MXFP4 with 32k context |
Harga adalah tarif ritel di cloudgpu.app yang dibaca 2026-09-15 dan sama dengan yang ditagihkan sistem billing; angka VRAM diperiksa pada 2026-09-08. Stok berubah sepanjang hari.
Cara membaca tabel
"Muat" dinilai untuk bobot native MXFP4 plus jendela konteks yang bisa dipakai; FP16 butuh kira-kira dua kali VRAM. Catatan di bawah tiap penilaian menyebutkan seberapa panjang konteks yang didapat.
Kartu data center (80 GB dan 96 GB) tidak murah di cloudgpu.app. Jika modelnya muat di kartu konsumen, kartu konsumen adalah pilihan yang lebih hemat. Harga di sini adalah angka yang sama dengan yang ditagihkan sistem billing.
Pertanyaan tentang menjalankan gpt-oss-120b
Berapa VRAM yang dibutuhkan gpt-oss-120b?
gpt-oss-120b punya 117B MoE (5.1B active) parameter. Bobot FP16 memakai sekitar 234 GB; pada native MXFP4 bobotnya sekitar 63 GB. Tambahkan 1 sampai 8 GB untuk KV cache tergantung panjang konteks dan ukuran batch.
GPU termurah yang bisa menjalankan gpt-oss-120b?
Di cloudgpu.app, kartu termurah yang kami rekomendasikan untuk gpt-oss-120b adalah A800 80G dengan 80 GB seharga $1.09 per jam (MXFP4 fits with 16k context: the recommended card). Harga dibaca 2026-09-15; halaman harga menampilkan stok langsung.
Bisakah menjalankan gpt-oss-120b di RTX 4090 24 GB?
Tidak. Di kartu 24 GB: does not fit. Anda butuh minimal kartu 80 GB; di cloudgpu.app itu adalah A800 80G seharga $1.09 per jam.
Berapa biaya per jam menjalankan gpt-oss-120b di cloudgpu.app?
Mulai $1.09 per jam di A800 80G, ditagih per menit. Uji coba 20 menit sekitar $0.36; satu jam diotorisasi saat instance dimulai dan menit yang tidak terpakai dikembalikan saat berhenti. Kartu di kelas VRAM lebih tinggi lebih mahal; tabel di atas mencantumkan masing-masing.
Bagaimana memulai gpt-oss-120b di GPU sewaan?
Buka Sewa GPU, pilih template Ollama dan sebuah kartu dari tabel di atas. Instance siap dalam sekitar 100 detik dengan endpoint HTTPS publik; lalu jalankan "ollama pull gpt-oss:120b" di terminal, atau minta model "gpt-oss:120b" lewat API dan Ollama mengunduhnya saat pertama dipakai.
Apakah perlu kartu kredit atau akun Tiongkok?
Tidak perlu akun Tiongkok, nomor telepon, atau KTP. Anda bisa bayar dengan kartu (Visa atau Mastercard, nominal apa pun mulai $5) atau USDT (TRC-20). Isi saldo pertama $10 atau lebih mendapat bonus $5, jadi bayar kartu $10 memberi Anda $15 waktu GPU.