API दस्तावेज़ीकरण

प्रमाणीकरण & बेस URL

अपने क्लाइंट को सही बेस यूआरएल की ओर निर्देशित करें। हम संगतता के लिए मानक OpenAI हेडर स्वीकार करते हैं। आपकी API कुंजी Authorization हेडर में एक bearer टोकन के रूप में जाती है। इसे सीधे अपने पर्यावरण चर से पास करें ताकि रहस्यों को हार्डकोड न किया जाए। यह सेटअप किसी भी लाइब्रेरी के साथ काम करता है जो OpenAI प्रोटोकॉल का समर्थन करती है।

पहला अनुरोध

कनेक्टिविटी की पुष्टि करने के लिए एक सरल चैट पूरक भेजें। मॉडल आईड "uncensored" का उपयोग पाठ जनरेशन के लिए करें। एंडपॉइंट मानक JSON लौटाता है जिसमें चॉइसेज और उपयोग मेट्रिक्स शामिल हैं। यदि आपको 401 मिलता है, तो अपनी कुटी प्रारूप की जाँच करें। 402 का अर्थ है अपर्याप्त प्रीपेड बैलेंस। यह त्वरित परीक्षण पुष्टि करता है कि आपकी एकीकरण उत्पादन ट्रैफ़िक के लिए तैयार है।

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

Python SDK इंटीग्रेशन

OpenAI Python पैकेट को हमारे बेस URL का उपयोग करने के लिए कॉन्फ़िगर करें। API कुंजी और मॉडल नाम को स्पष्ट रूप से सेट करें। अपने संदेशों को भूमिका और सामग्री कुंजियों के साथ शब्दकोशों की एक सूची के रूप में पास करें। प्रतिक्रिया ऑब्जेक्ट में choices[0].message.content में जनरेटेड टेक्स्ट होता है। निष्पादन के दौरान नेटवर्क या दर सीमा त्रुटियों को पकड़ने के लिए अपवादों को सहजता से हैंडल करें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK सेटअप

अपने बेस यूआरएल और कुंजी के साथ ओपनएआई क्लाइंट को इनिशियलाइज़ करें। उपयोगकर्ता और सहायक भूमिकाओं के साथ संदेश सरणी परिभाषित करें। uncensored मॉडल के साथ chat.completions.create को कॉल करें। प्रतिक्रिया पहले विकल्प में उत्पन्न पाठ प्रदान करती है। अपने नोड एप्लिकेशन में सिंकरोनास और असिंकरोनास दोनों कॉल्स के लिए इस पैटर्न का उपयोग करें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग रिस्पॉन्सेस

स्ट्रीमिंग को सक्षम करने के लिए stream को true सेट करें। API डेटा के चंक को उत्पन्न होते ही भेजता है। प्रत्येक चंक में डेल्टा पाठ होता है जिसे आप एक बफर में जोड़ सकते हैं। इस दृष्टिकोण से लंबे आउटपुट के लिए अनुभवगत विलंबता कम होती है। बिलिंग को सटीक रूप से ट्रैक करने के लिए अंतिम चंक में टोकन उपयोग की निगरानी करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सीमाएं & संदर्भ विंडो

आपका खाता 100,000 टोकन की संदर्भ विंडो का समर्थन करता है। अधिकतम आउटपुट प्रति अनुरोध 16,000 टोकन है। आप प्रति मिनट 300 अनुरोध भेज सकते हैं। केवल 8 अनुरोध एक साथ चलते हैं। 8MB से अधिक बॉईज़ाइज़ वाले अनुरोध विफल हो जाएंगे। इन सीमाओं का उपयोग अपनी रीट्राई लॉजिक डिजाइन करने के लिए करें। 429 जैसी त्रुटियां दर सीमा को इंगित करती हैं। अस्वीकृतियां क्रेडिट खर्च नहीं करतीं।