どの GPU でどのモデルが動くか · DeepSeek
DeepSeek-R1-Distill-Llama-70B を動かせる GPU
DeepSeek-R1-Distill-Llama-70B(70B)は、FP16 の重みで約 140 GB、Q4_K_M で約 40 to 43 GB の VRAM を使用します(コンテキストウィンドウ用の KV キャッシュは別)。下の表では、cloudgpu.app の GPU を VRAM クラス別に並べ、モデルが収まるかどうかと、実際に請求される料金(2026-11-02 時点)を示しています。
おすすめ:A800 80G(80 GB)、1 時間あたり $1.19。このモデルに十分な VRAM があります。
| VRAM | GPU | 1 時間あたりの料金 | 適合 |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.29 – $0.39/h | 収まらない does not fit on one card |
| 32 GB | RTX 5090 32G | $0.69/h | 収まらない does not fit |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.49 – $0.69/h | ぎりぎり収まる Q4 with about 8k context |
| 80 GB | A800 80G · A100 80G | $1.19 – $1.59/h | 収まる Q4 comfortable with 32k context |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.79/h | 収まる Q4 comfortable; Q8 tight |
料金は 2026-11-02(北京時間)時点の cloudgpu.app の表示価格で、課金システムが請求する金額と同じです。VRAM の数値は 2026-09-08 に最終確認しました。
表の見方
「収まる」は、Q4_K_M の重みに実用的なコンテキストウィンドウを加えた条件で判定しています。FP16 ではおよそ 2 倍の VRAM が必要です。各判定の下の注記に、利用できるコンテキスト量を記載しています。
データセンター向け GPU(80 GB と 96 GB)は、cloudgpu.app でも安価ではありません。モデルがコンシューマー向け GPU に収まるなら、そちらのほうがお得です。ここに掲載している料金は、課金システムが請求する金額と同じです。
DeepSeek-R1-Distill-Llama-70B の実行に関するよくある質問
DeepSeek-R1-Distill-Llama-70B にはどれくらいの VRAM が必要ですか?
DeepSeek-R1-Distill-Llama-70B のパラメータ数は 70B です。FP16 の重みは約 140 GB、Q4_K_M では約 40 to 43 GB です。これに加えて、コンテキスト長とバッチサイズに応じて KV キャッシュ用に 1〜8 GB が必要です。
DeepSeek-R1-Distill-Llama-70B を動かすにはどの GPU を借りればよいですか?
cloudgpu.app で DeepSeek-R1-Distill-Llama-70B におすすめの GPU は A800 80G(80 GB)で、1 時間あたり $1.19 です(Q4 comfortable with 32k context)。価格は 2026-11-02 時点のものです。在庫は /deploy で確認できます。
24 GB の RTX 4090 で DeepSeek-R1-Distill-Llama-70B を動かせますか?
いいえ。24 GB の GPU では:does not fit on one card。80 GB 以上の GPU が必要です。cloudgpu.app では A800 80G(1 時間あたり $1.19)が該当します。
cloudgpu.app で DeepSeek-R1-Distill-Llama-70B を動かすと 1 時間あたりいくらかかりますか?
A800 80G で 1 時間あたり $1.19 から、分単位で課金されます。20 分のテストなら約 $0.40 です。インスタンスの稼働中は 1 時間分が事前に確保され、インスタンスを削除すると未使用分が残高に戻ります。上位の VRAM クラスの GPU ほど料金は高くなります。各料金は上の表に記載しています。
レンタルした GPU で DeepSeek-R1-Distill-Llama-70B を起動するには?
「GPU をレンタル」を開き、Ollama テンプレートと上の表の GPU を選択します。インスタンスには公開 HTTPS エンドポイントが付与されます。その後、ターミナルで「ollama pull deepseek-r1:70b」を実行するか、API でモデル「deepseek-r1:70b」をリクエストすると、初回利用時に Ollama がダウンロードします。
クレジットカードや中国のアカウントは必要ですか?
中国のアカウント、電話番号、身分証は不要です。カード(Visa または Mastercard、$5 から任意の金額)または USDT(TRC-20)でお支払いいただけます。