どの GPU でどのモデルが動くか · Mistral
Mistral Small 3 24B を動かせる GPU
Mistral Small 3 24B(24B)は、FP16 の重みで約 48 GB、Q4_K_M で約 14 GB の VRAM を使用します(コンテキストウィンドウ用の KV キャッシュは別)。下の表では、cloudgpu.app の GPU を VRAM クラス別に並べ、モデルが収まるかどうかと、実際に請求される料金(2026-11-02 時点)を示しています。
おすすめ:RTX 3090 24G(24 GB)、1 時間あたり $0.29。このモデルに十分な VRAM があります。
| VRAM | GPU | 1 時間あたりの料金 | 適合 |
|---|---|---|---|
| 24 GB | RTX 3090 24G · RTX 4090D 24G · RTX 4090 24G | $0.29 – $0.39/h | 収まる Q4 fits with 16k context |
| 32 GB | RTX 5090 32G | $0.69/h | 収まる Q4 comfortable with 32k context |
| 48 GB | RTX A6000 48G · RTX 4090 48G | $0.49 – $0.69/h | 収まる Q4 with long context; FP16 is tight |
| 80 GB | A800 80G · A100 80G | $1.19 – $1.59/h | 収まる FP16 fits |
| 96 GB | H20 96G · RTX PRO 6000 96G | $1.29 – $1.79/h | 収まる FP16 fits |
料金は 2026-11-02(北京時間)時点の cloudgpu.app の表示価格で、課金システムが請求する金額と同じです。VRAM の数値は 2026-09-08 に最終確認しました。
表の見方
「収まる」は、Q4_K_M の重みに実用的なコンテキストウィンドウを加えた条件で判定しています。FP16 ではおよそ 2 倍の VRAM が必要です。各判定の下の注記に、利用できるコンテキスト量を記載しています。
データセンター向け GPU(80 GB と 96 GB)は、cloudgpu.app でも安価ではありません。モデルがコンシューマー向け GPU に収まるなら、そちらのほうがお得です。ここに掲載している料金は、課金システムが請求する金額と同じです。
Mistral Small 3 24B の実行に関するよくある質問
Mistral Small 3 24B にはどれくらいの VRAM が必要ですか?
Mistral Small 3 24B のパラメータ数は 24B です。FP16 の重みは約 48 GB、Q4_K_M では約 14 GB です。これに加えて、コンテキスト長とバッチサイズに応じて KV キャッシュ用に 1〜8 GB が必要です。
Mistral Small 3 24B を動かすにはどの GPU を借りればよいですか?
cloudgpu.app で Mistral Small 3 24B におすすめの GPU は RTX 3090 24G(24 GB)で、1 時間あたり $0.29 です(Q4 fits with 16k context)。価格は 2026-11-02 時点のものです。在庫は /deploy で確認できます。
24 GB の RTX 4090 で Mistral Small 3 24B を動かせますか?
はい。24 GB の GPU では:Q4 fits with 16k context。cloudgpu.app の RTX 4090 24 GB は 1 時間あたり $0.39 です。RTX 3090 24 GB(1 時間あたり $0.29)は VRAM が同じで、速度は劣りますが料金は抑えられます。
cloudgpu.app で Mistral Small 3 24B を動かすと 1 時間あたりいくらかかりますか?
RTX 3090 24G で 1 時間あたり $0.29 から、分単位で課金されます。20 分のテストなら約 $0.10 です。インスタンスの稼働中は 1 時間分が事前に確保され、インスタンスを削除すると未使用分が残高に戻ります。上位の VRAM クラスの GPU ほど料金は高くなります。各料金は上の表に記載しています。
レンタルした GPU で Mistral Small 3 24B を起動するには?
「GPU をレンタル」を開き、Ollama テンプレートと上の表の GPU を選択します。インスタンスには公開 HTTPS エンドポイントが付与されます。その後、ターミナルで「ollama pull mistral-small:24b」を実行するか、API でモデル「mistral-small:24b」をリクエストすると、初回利用時に Ollama がダウンロードします。
クレジットカードや中国のアカウントは必要ですか?
中国のアカウント、電話番号、身分証は不要です。カード(Visa または Mastercard、$5 から任意の金額)または USDT(TRC-20)でお支払いいただけます。