RTX 5090 クラウド GPU ベンチマーク：AI 用途で RTX 4090 と比べてどうか

結論： 以下の第三者テストでは、RTX 5090 の LLM トークン生成速度は RTX 4090 の約 1.3〜1.6 倍です。同じ精度では、SDXL と FLUX.1 も約 1.3〜1.6 倍の速さで動きます。プロンプトの読み込み（prefill）の速度はほぼ同じで、あるテストでは遅くなりました。VRAM は 4090 の 24 GB に対して 32 GB です。条件をそろえた第三者による動画生成の比較は見つからなかったため、このページでは 5090 の動画生成速度については何も述べません。代わりに、私たちが RTX 4090 で計測した Wan 2.2 の時間を載せています。

以下の数値はすべて、横に記した出典から引用したものか、2026-11-04 に CloudGPU の RTX 4090 インスタンスで私たちが計測したものです。倍率の列は、公開された数値から私たちが計算したものです。

仕様

RTX 4090 RTX 5090
VRAM 24 GB GDDR6X 32 GB GDDR7
メモリ帯域幅 1,008 GB/s 1,792 GB/s
Tensor コアが対応する精度の下限 FP8 FP4

出典：NVIDIA の製品ページ。メモリ帯域幅が高いと、LLM のトークン生成のように毎ステップすべての重みを読み込む処理で主に効果があります。

画像生成（SDXL、SD 1.5、FLUX.1）

テスト 設定 RTX 4090 RTX 5090 5090 対 4090 出典
SDXL FP16、UL Procyon 1024×1024、100 ステップ、バッチ 1 7.461 秒/枚 5.223 秒/枚 1.43× StorageReview、2025-01-23
SD 1.5 FP16、UL Procyon 512×512、100 ステップ、バッチ 4 1.188 秒/枚 0.763 秒/枚 1.56× StorageReview、2025-01-23
SD 1.5 INT8、UL Procyon 512×512、100 ステップ、バッチ 4 0.503 秒/枚 0.394 秒/枚 1.28× StorageReview、2025-01-23
SDXL Base 1.0、SD.Next 512×512、50 ステップ、バッチ 16 67.19 it/s 85.75 it/s 1.28× Puget Systems、2025-02-21
SDXL Base 1.0、SD.Next 512×512、50 ステップ、バッチ 1 16.78 it/s 16.16 it/s 0.96× Puget Systems、2025-02-21
FLUX.1-dev、TensorRT、両カードとも FP8 30 ステップ（解像度の記載なし） 10,620 ms 6,681 ms 1.59× NVIDIA Technical Blog、2025-05-14
FLUX.1-dev、TensorRT、5090 は FP4、4090 は FP8 30 ステップ（解像度の記載なし） 10,620 ms 3,853 ms 2.76× NVIDIA Technical Blog、2025-05-14

補足：

  • 小さなバッチの SDXL で 5090 がわずかに遅い結果について、Puget Systems は CPU のボトルネックが原因としています。小さな画像 1 枚では、どちらのカードも使い切れません。
  • FLUX.1 の 2.76× は、FP4 の 5090 と FP8 の 4090 の比較です。4090 には FP4 の経路がないため、この伸びの一部はカードそのものではなく精度を下げたことによるものです。同じ FP8 精度では 1.59× です。

LLM 推論

テスト 設定 RTX 4090 RTX 5090 5090 対 4090 出典
トークン生成、llama.cpp b4493 Phi-3-mini-4k-instruct Q4_K_M 245 tok/s 316 tok/s 1.29× Puget Systems、2025-02-21
プロンプト処理、llama.cpp b4493 Phi-3-mini-4k-instruct Q4_K_M 13,697 tok/s 9,967 tok/s 0.73× Puget Systems、2025-02-21
UL Procyon AI Text Generation、Mistral TensorRT 183.3 tok/s 255.9 tok/s 1.40× StorageReview、2025-01-23
UL Procyon AI Text Generation、Llama 3 TensorRT 150.0 tok/s 214.3 tok/s 1.43× StorageReview、2025-01-23
UL Procyon AI Text Generation、Llama 2 TensorRT 92.9 tok/s 134.5 tok/s 1.45× StorageReview、2025-01-23
トークン生成（tg128、flash attention 有効）、llama-bench Llama 2 7B Q4_0 188.96 tok/s 300.40 tok/s 1.59× llama.cpp CUDA スコアボード、コミュニティの結果*
プロンプト処理（pp512、flash attention 有効）、llama-bench Llama 2 7B Q4_0 14,770.63 tok/s 14,970.15 tok/s 1.01× llama.cpp CUDA スコアボード、コミュニティの結果*

* スコアボードの行は、異なるユーザーが異なるマシンと llama.cpp のビルドで投稿したものです。管理されたテストではなく、目安として扱ってください。

5090 の伸びが主に表れるのはトークン生成で、これはメモリ帯域幅の高さと合致します。プロンプト処理の伸びはわずかです。Puget による 2025 年初めの llama.cpp の計測では 5090 のほうが遅く、新しいビルドではこの結果が変わる可能性があります。この 2 枚のカードを比較した第三者による vLLM のテストは見つかりませんでした。

動画生成：RTX 4090 での私たちの計測

この 2 枚のカードについて、条件をそろえた第三者による Wan や HunyuanVideo の比較は見つからなかったため、動画生成での 5090 の速度向上は示しません。示せるのは、私たちが RTX 4090 インスタンスで自分たちで計測した結果です。

モデル（ComfyUI） 出力 設定 1 クリップあたりの時間 VRAM ピーク
Wan 2.2 TI2V-5B、FP16 の重み 1280×704、121 フレーム（24 fps で 5 秒） テキストから動画、20 ステップ、uni_pc、CFG 5 初回 175 秒、2 回目 169 秒 21.7 GB
Wan 2.2 T2V-A14B、FP8 scaled の重み（高ノイズと低ノイズのエキスパート） 832×480、81 フレーム（16 fps で 5 秒） テキストから動画、20 ステップ（エキスパートごとに 10）、euler、CFG 3.5 初回 361 秒、2 回目 354 秒 21.0 GB

計測方法：

  • CloudGPU 上の RTX 4090 24 GB 1 枚、ドライバー 580.105.08、PyTorch 2.14.1 と CUDA 13.0、ComfyUI のネイティブノード、2026-11-04 に計測。
  • テキストエンコーダーは umt5_xxl_fp8_e4m3fn_scaled で、ComfyUI 既定のメモリ管理を使い、TeaCache や Sage Attention などの追加の高速化ノードは使っていません。
  • 1 クリップあたりの時間は、プロンプトをキューに入れてから MP4 が完成するまでの実時間です。
  • 初回はモデルを読み込んでから1 回目の生成です。2 回目は新しいシードで、モデルはすでにメモリ上にありました。
  • モデルのダウンロードとインストールの時間は含みません。

現在の料金では、約 3 分の 5B クリップ 1 本は RTX 4090 の利用時間で約 $0.019 です。約 6 分の 14B クリップ 1 本は約 $0.039 です。RTX 4090 の料金は $0.39/時間、RTX 5090 の料金は $0.69/時間です（料金は 2026-11-07 18:08 (UTC+8) 時点、現在の料金は /pricing）。

どちらのワークフローもピークは約 21 GB で、4090 の 24 GB に近い値でした。5090 の追加の 8 GB があれば、より長いクリップや高い解像度に対応したり、モデルをオフロードせずにより多くをカード上に置いたりできます。

どちらを借りるべきか？

  • トークン生成の速度が重要な LLM のサービングやチャット： 上のトークン生成テストのすべてで 5090 のほうが速い結果でした。32 GB あるので、より大きな量子化モデルや長いコンテキストも収まります。
  • バッチでの画像生成： 上のテストでは 5090 が 1.3〜1.6 倍の速さでした。小さな画像 1 枚では、2 枚のカードはほぼ同じでした。
  • ComfyUI での Wan 2.2 動画生成： 私たちのテストでは、4090 で 5B と 14B FP8 の両方のワークフローが上記の時間で動きました。クリップに 24 GB を超える VRAM が必要なら、5090、48 GB のカード、または 80 GB のカードを借りてください。
  • プロンプト中心の作業（長い文書、RAG）： prefill の速度は両カードで同程度なので、/pricing で料金を比べてください。

課金は 1 分単位で 1 分からなので、同じジョブを両方のカードで動かし、速いほうを残すことができます。今すぐ起動できるカードは /deploy に表示されます。

5090 で PyTorch のビルドが “no kernel image is available” で失敗する場合は、RTX 5090 で CUDA の “no kernel image” を解決する方法（英語）をご覧ください。5090 には CUDA 12.8 以降が必要です。

よくある質問

AI 用途で RTX 5090 は RTX 4090 より速いですか？

LLM のトークン生成とバッチでの画像生成では、速いです。公開されたテストでは約 1.3〜1.6 倍の速さです。LLM のプロンプト処理と小さな画像 1 枚では、公開結果はほぼ同等で、テストによっては 5090 のほうが遅くなります。

Wan の動画生成で RTX 5090 は速いですか？

条件をそろえた第三者のテストが見つからなかったため、数値は示しません。RTX 4090 の ComfyUI では、5 秒・720p の Wan 2.2 TI2V-5B クリップ 1 本あたり 169〜175 秒、5 秒・480p の Wan 2.2 14B FP8 クリップ 1 本あたり 354〜361 秒でした。

Wan 2.2 14B は 24 GB の RTX 4090 に収まりますか？

私たちのテストでは、ComfyUI で FP8 scaled の重みを使い、832×480、81 フレームで動作し、ピークは 21.0 GB でした。公式の Wan2.2 スクリプトは 14B モデルに 80 GB を求めています。

RTX 5090 の VRAM はどれくらいですか？

GDDR7 が 32 GB です。RTX 4090 は GDDR6X が 24 GB です。

RTX 5090 には専用の PyTorch ビルドが必要ですか？

必要です。CUDA 12.8 以降向けのビルドが必要です。それより古いビルドには 5090 のアーキテクチャ向けのカーネルがないためです。

出典