चैट जनरेशन
OpenAI, Anthropic, Google आदि प्रमुख मॉडलों के लिए मानक चैट जनरेशन endpoint। मल्टी-टर्न चैट, सिस्टम प्रॉम्प्ट, स्ट्रीमिंग आउटपुट और पैरामीटर ट्यूनिंग का समर्थन करता है। इस पृष्ठ पर request फ़ॉर्मैट, response संरचना, सामान्य पैरामीटर और error handling का परिचय दिया गया है।
इंटरफ़ेस जानकारी
- Endpoint:
POST /v1/chat/completions - Authentication:
Authorization: Bearer sk-xxx - प्रोटोकॉल: OpenAI-संगत फ़ॉर्मैट
मूलभूत कॉल
curl https://api.onemux.net/v1/chat/completions \
-H "Authorization: Bearer $ONEMUX_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6.1-sol",
"messages": [{"role": "user", "content": "नमस्ते, OneMux"}]
}'Response उदाहरण
{
"id": "chatcmpl-xxx",
"object": "chat.completion",
"model": "gpt-6.1-sol",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "नमस्ते! मैं OneMux AI सहायक हूँ..."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 10,
"completion_tokens": 15,
"total_tokens": 25
}
}मल्टी-टर्न चैट
messages array में इतिहास को समय के क्रम में सहेजा जाता है:
response = client.chat.completions.create(
model="gpt-6.1-sol",
messages=[
{"role": "user", "content": "मेरा नाम श्याओमिंग है"},
{"role": "assistant", "content": "नमस्ते, श्याओमिंग!"},
{"role": "user", "content": "मेरा नाम क्या है?"}
]
)
# AI 会回答:你叫小明सिस्टम प्रॉम्प्ट
system भूमिका का उपयोग करके AI के व्यवहार के नियम निर्धारित करें:
messages = [
{"role": "system", "content": "आप एक विशेषज्ञ Python इंजीनियर हैं और संक्षिप्त, पेशेवर उत्तर देते हैं"},
{"role": "user", "content": "फ़ाइल कैसे पढ़ें?"}
]सामान्य पैरामीटर
| पैरामीटर | विवरण | अनुशंसित मान |
|---|---|---|
| temperature | रचनात्मकता (0-2) | 0.7 (डिफ़ॉल्ट), रचनात्मक लेखन के लिए 1.2, code generation के लिए 0.3 |
| max_tokens | अधिकतम आउटपुट लंबाई | आवश्यकतानुसार सेट करें, ताकि मॉडल की "अनावश्यक बातें" कम हों |
| top_p | Nucleus sampling (0-1) | 0.9 (डिफ़ॉल्ट) |
| stream | स्ट्रीमिंग आउटपुट | true (अनुशंसित, बेहतर अनुभव) |