Documentation

CloudGPU के साथ शुरुआत करने के लिए ज़रूरी सब कुछ।

rocket_launchक्विक स्टार्ट गाइड

1

खाता बनाएँ

ईमेल या Google से CloudGPU पर sign up करें — card की ज़रूरत नहीं।

खाता बनाएँ →
2

Deploy पर जाएँ

Deploy पेज खोलें और एक मॉडल चुनें — DeepSeek, Qwen, Llama या Mistral।

Deploy पर जाएँ →
3

Deploy पर click करें

GPU चुनें, Deploy पर click करें। बाकी सब हम संभालते हैं — GPU setup, model download, API server।

4

API Endpoint copy करें

आपको इस्तेमाल के लिए तैयार एक OpenAI-compatible API URL मिलता है।

5

अपने Code में paste करें

base_url को अपने endpoint पर set करें। बस इतना ही — कोई प्रति-token शुल्क नहीं, आप GPU समय का भुगतान करते हैं।

अपने Code में paste करें →

smart_toyअपने AI coding assistant को GPU rent करने दें

CloudGPU MCP server की मदद से Cursor, Cline, opencode, Claude Code और दूसरे MCP clients कीमत बता सकते हैं, आपकी मंज़ूरी के बाद GPU rent कर सकते हैं, आपका job चला सकते हैं, नतीजे download कर सकते हैं और GPU बंद कर सकते हैं। CloudGPU के servers हर instance पर budget और समय सीमा लागू करते हैं।

MCP server set up करें →

apiअपने instance को API endpoint के रूप में इस्तेमाल करना

उन developers के लिए जो AI agents, chatbots या कोई भी ऐसा app बना रहे हैं जिसे per-token billing की जगह तय hourly लागत वाला LLM backend चाहिए।

हर चल रहा Ollama instance आपको एक OpenAI-compatible endpoint देता है। अपने Dashboard में instance खोलें और API button पर click करके इनमें से कोई एक copy-paste करें:

<random-id> को अपनी instance row पर दिखाई गई id से बदलें।

OpenAI Python SDK

from openai import OpenAI client = OpenAI( base_url="https://<random-id>-i.cloudgpu.app/v1", api_key="ollama", # any non-empty string ) resp = client.chat.completions.create( model="qwen2.5:0.5b", messages=[{"role": "user", "content": "Hello"}], ) print(resp.choices[0].message.content)

curl

curl https://<random-id>-i.cloudgpu.app/api/chat \ -H "Content-Type: application/json" \ -d '{ "model": "qwen2.5:0.5b", "messages": [{ "role": "user", "content": "Hello" }], "stream": false, "keep_alive": "30m" }'

सुझाव: keep_alive

हर request में "keep_alive": "30m" पास करें, ताकि आखिरी call के बाद model 30 मिनट तक VRAM में रहे। इसके बिना Ollama 5 मिनट idle रहने के बाद model unload कर देता है और आपकी अगली request को 30–90 second की cold-load देरी झेलनी पड़ती है।

memoryमुझे कौन-सा GPU चुनना चाहिए?

नीचे दी गई सभी कीमतें प्रति घंटा retail हैं।

Model sizeन्यूनतम VRAMसुझाया गया GPUकीमत
0.5B – 8B (Qwen 2.5, Llama-3.1-8B, Mistral-7B)16 GBRTX 4090 24 GB$0.39/घंटा
13B – 32B क्वांटाइज़्ड (Qwen-32B-AWQ, CodeLlama-34B)32 GBRTX 5090 32 GB$0.69/घंटा
30B+ 8-bit पर, या छोटे context के साथ 70B 4-bit पर48 GBRTX 4090 48 GB$0.69/घंटा
लंबे context के साथ 32B 4-bit पर, या छोटे context के साथ 13B–32B 8-bit पर40 GBA100 40G$0.79/घंटा
लंबे context के साथ 70B 4-bit पर (Llama 3.3 70B AWQ, Qwen2.5-72B-Instruct-AWQ), या छोटे context के साथ 8-bit पर80 GBA800 80G$1.19/घंटा
बड़े context वाला LLM + लंबी reasoning96 GBH20 96G$1.29/घंटा
एंटरप्राइज़ इन्फ़रेंस / मल्टी-एजेंट प्रोडक्शन80 GBH800 80G$1.79/घंटा

कुछ cards एक ही instance में कई (अधिकतम 8) rent किए जा सकते हैं: Deploy page पर cards की संख्या चुनें, hourly कीमत उसी संख्या से गुणा हो जाती है।

helpअक्सर पूछे जाने वाले सवाल

Billing कैसे काम करती है?expand_more
आपको GPU समय के हर मिनट का bill लगता है, न्यूनतम 1 मिनट। Instance चलते समय हर शुरू हुए घंटे का शुल्क आपके balance से पहले ही ले लिया जाता है; जब आप इसे destroy करते हैं, तो इस्तेमाल न हुए मिनट आपके balance में वापस चले जाते हैं। सभी कीमतें USD में हैं। Billing नियम और उदाहरण
न्यूनतम deposit कितना है?expand_more
सुझाया गया न्यूनतम top-up $5 है। Signup पर कोई credit नहीं मिलता।
क्या मैं अपना instance रोककर फिर से शुरू कर सकता/सकती हूँ?expand_more
आप किसी भी समय instance destroy कर सकते हैं। फ़िलहाल रोके गए instances अपना GPU छोड़ देते हैं — फिर से शुरू करने के लिए आपको नया instance बनाना होगा। Restarts के बीच persistent storage roadmap पर है। Instance destroy करने से पहले क्या save करें
Instance पर पहले से क्या install होता है?expand_more
हर template root SSH के साथ एक तैयार image है: Ollama (खाली, या Qwen, DeepSeek-R1, Llama, Gemma, Mistral, GLM या Phi पहले से load), JupyterLab + Ollama, ComfyUI (FLUX या अन्य weights खुद download करें), या LLaMA-Factory। जो templates API serve करते हैं (Ollama, ComfyUI), उन्हें एक सार्वजनिक HTTPS URL भी मिलता है। ComfyUI template केवल ComfyUI install करता है: इसमें FLUX या अन्य model weights शामिल नहीं हैं, इसलिए instance तैयार होने के बाद ज़रूरी weights download करें।
क्या कोई API है?expand_more
हाँ। हर instance एक OpenAI-compatible REST API (LLM templates के लिए) या model-specific REST API (image / audio templates के लिए) देता है। Copy-paste करने लायक curl, Python और Node उदाहरणों के लिए अपने dashboard में किसी भी चल रहे instance पर API button देखें।
मुझे support कैसे मिलेगा?expand_more
support@cloudgpu.app पर ईमेल करें या हमारा Contact पेज देखें। Service के beta में रहने तक हमारा लक्ष्य 24 घंटों के भीतर जवाब देना है।
Templates और Deploy में क्या अंतर है?expand_more
Templates catalogue है — जो कुछ भी आप चला सकते हैं उसे खोजें और filter करें, और देखें कि क्या तैयार है और क्या अभी आना बाकी है। Deploy वह जगह है जहाँ आप असल में launch करते हैं: template या bare GPU चुनें, card चुनें, और आपको एक URL मिलता है। Templates में देखें, Deploy में launch करें।
क्या मैं custom मॉडल deploy कर सकता/सकती हूँ?expand_more
LLMs के लिए, हमारा Ollama template Ollama library के किसी भी मॉडल को support करता है — deploy के बाद qwen2.5:0.5b से लेकर llama3.1:70b तक कुछ भी pull करने के लिए 'Pick Model' button का उपयोग करें। बाकी किसी भी चीज़ के लिए raw GPU किराए पर लें (Deploy → Raw GPU) और SSH से जो चाहिए वह install करें।
मैं अपने deploy किए गए मॉडल को अपने application से कैसे जोड़ूँ?expand_more
Dashboard में अपना चल रहा instance खोलें और API button पर click करें। आपको /v1/chat/completions पर एक OpenAI-compatible endpoint मिलेगा, साथ ही curl, Python (requests + OpenAI SDK) और Node.js के लिए paste करने लायक code। इसे एक line में LangChain / AutoGen / CrewAI में लगाएँ।
Hugging Face या GitHub से downloads धीमे हैं। मैं क्या करूँ?expand_more
Instance के terminal में cloudgpu-net on चलाएँ। यह उस shell के लिए Hugging Face, GitHub, Civitai और ऐसी ही sites के लिए download acceleration चालू करता है। इसके चालू रहते pip और अन्य downloads धीमे हो सकते हैं: बंद करने के लिए cloudgpu-net off और जाँचने के लिए cloudgpu-net status चलाएँ। Startup script में अपने downloads से पहले cloudgpu-net on चलाएँ। अगर मशीन में acceleration नहीं है, तो command यह बता देता है।

अब भी कोई सवाल है?

Support से संपर्क करें