Ollama 用のレンタル GPU はどう選べばよいですか？
結論： レンタル GPU は VRAM で選びます。Ollama では通常 4-bit に量子化したモデル（Q4_K_M）を使うため、モデルの重みに必要な VRAM は 10 億パラメータあたりおよそ 0.6 GB です（llama.cpp quantize README にもとづく推定、2026-10-23 閲覧）。これにコンテキストウィンドウの分が加わります。必要な VRAM はモデル、精度、ワークフローによって変わります。LLM に必要な VRAMもご覧ください。
ステップ 1：モデルサイズから VRAM を見積もる
4-bit 量子化モデル（Q4_K_M、Ollama の一般的な既定）の場合、重みの目安は 10 億パラメータあたり約 0.6 GB です（推定：llama.cpp quantize README（2026-10-23 閲覧）は Q4_K_M を 1 重みあたり約 4.89 ビットとしており、4.89 / 8 で 1 パラメータあたり約 0.61 バイト）。ここに KV キャッシュ（コンテキストウィンドウ）とランタイムのオーバーヘッドの余裕を足します。CloudGPU のモデルページ（VRAM 表は 2026-09-08 時点、ページは 2026-10-23 に再確認）が公開している数値は次のとおりです：
| モデル | FP16 の重み | Q4_K_M の重み |
|---|---|---|
| Llama 3.1 8B | 16 GB | 約 4.9 GB |
| Qwen3 14B | 28 GB | 約 9 GB |
| Gemma 3 27B | 54 GB | 約 17 GB |
| Qwen3 32B | 64 GB | 約 19〜20 GB |
| Llama 3.3 70B | 140 GB | 約 40〜43 GB |
重みだけの数値です。長いコンテキストや複数の並列リクエストでさらに増えます。FP16 列は公称のパラメータ数を使っています。
ステップ 2：VRAM クラスを選ぶ
CloudGPU はカードを 24、32、48、80、96 GB の VRAM クラスで掲載しています。必要な VRAM はモデル、精度、ワークフローによって変わります。上の表の Q4_K_M の重みにコンテキストに必要なメモリを足し、最初の実行で nvidia-smi を使ってピーク VRAM を確認してください。LLM に必要な VRAMもご覧ください。
今起動できるカードは https://cloudgpu.app/deploy で、オープンモデルごとのページは https://cloudgpu.app/run で確認できます。
ステップ 3：Ollama テンプレートを使う
CloudGPU には Ollama テンプレートがあります。最初のモデルのダウンロードにはインスタンスの稼働時間がかかるので、実際に動かすつもりのモデルを選んでください。
インスタンスのストレージには限りがあるため、モデルを取得する前に容量を確認してください。70B モデルの Q4 はおよそ 40〜43 GB あります（CloudGPU モデルページ、2026-10-23 閲覧）。2 つ目の大きなモデルを取得する前に空き容量を確認しましょう。
ステップ 4：OpenAI API と同じように呼び出す
Ollama は OpenAI 互換 API を提供しているため、ベース URL をインスタンスに向ければ、多くの OpenAI SDK やツールがそのまま使えます。https://cloudgpu.app/blog/ollama-cloud-gpu-public-api-2026 のガイド（英語）をご覧ください。
知っておくこと
- 課金は 1 分単位、最低 1 分です。事前承認された 1 時間のうち使わなかった分は、インスタンスを破棄したときに残高へ戻ります。分単位課金の仕組みをご覧ください。
- 残高がゼロになるとインスタンスは自動的に破棄され、破棄されるとインスタンスのストレージも削除されます。必要なものは先にコピーしておいてください。
よくある質問
Ollama で Llama 3.1 8B を動かすのに必要な VRAM はどれくらいですか？
Q4_K_M の重みで約 4.9 GB、FP16 で 16 GB です（CloudGPU モデルページ、2026-10-23 閲覧）。これにコンテキスト用のメモリが加わります。必要な VRAM はモデル、精度、ワークフローによって変わります。
レンタル GPU 1 枚で 70B モデルを Ollama で動かせますか？
必要な VRAM はモデル、精度、ワークフローによって変わります。使う量子化での 70B の重みに、コンテキストに必要なメモリを足して判断してください。LLM に必要な VRAMをご覧ください。
70B モデルはインスタンスのストレージに収まりますか？
70B の Q4_K_M モデルは約 40〜43 GB、16-bit 版は約 140 GB です（CloudGPU モデルページ、2026-10-23 閲覧）。取得する前にインスタンスのストレージ容量を確認してください。
CloudGPU の Ollama は OpenAI のクライアントライブラリで使えますか？
はい。Ollama は OpenAI 互換 API を提供しています。ベース URL をインスタンスのエンドポイントに設定してください。
出典（2026-10-23 閲覧、Asia/Shanghai）
- llama.cpp quantize README（Llama 3.1 8B の Q4_K_M は 1 重みあたり約 4.89 ビット）：https://github.com/ggml-org/llama.cpp/blob/master/tools/quantize/README.md
- Hugging Face のパラメータ数（safetensors メタデータ）。例：Qwen3-14B 14.77B、Qwen3-32B 32.76B、Gemma 3 27B 27.43B、Mistral-Small-24B 23.57B：https://huggingface.co/Qwen/Qwen3-14B 、https://huggingface.co/Qwen/Qwen3-32B 、https://huggingface.co/google/gemma-3-27b-it 、https://huggingface.co/mistralai/Mistral-Small-24B-Instruct-2501
- コミュニティ版 Llama 3.3 70B の Q4_K_M GGUF（ファイル一覧、約 42.5 GB）：https://huggingface.co/bartowski/Llama-3.3-70B-Instruct-GGUF
- Hugging Face 上の gpt-oss のファイル（gpt-oss-20b 約 13.8 GB、gpt-oss-120b 合計約 65.2 GB）：https://huggingface.co/openai/gpt-oss-20b 、https://huggingface.co/openai/gpt-oss-120b
- CloudGPU モデルページ：https://cloudgpu.app/run 、https://cloudgpu.app/run/llama-3-3-70b
- 「推定」と記した数値は計算値で、実測ではありません。ランタイム、コンテキスト長、バッチサイズ、KV キャッシュの精度によって実際の使用量は変わります。
起動できるカードは Deploy ページに一覧があります。料金は https://cloudgpu.app/ja/pricing に掲載しており、ここでは繰り返しません。
最終更新：2026-10-23（Asia/Shanghai）。