把你的 AI 应用接上来
把 YOUR_API_ENDPOINT 换成控制台里给你的那个地址。
python
from openai import OpenAI
client = OpenAI(
base_url="YOUR_API_ENDPOINT", # Copy from Dashboard
api_key="not-needed"
)
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3-0324",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
]
)
print(response.choices[0].message.content)tips_and_updates几点提示
- check这个 API 兼容 OpenAI —— 凡是能连 OpenAI 的库，都能连你的 GPU 地址。
- check自己开的模型不需要 API key。把它设成
api_key="not-needed". - check一个 GPU 地址可以同时服务多个 agent。
- check要改部署细节，用控制台里的网页终端。