आवश्यकताएँ: SDK और पर्यावरण
अपनी पसंदीदा OpenAI-संगत SDK इंस्टॉल करें। आपको केवल एक मान्य API कुंजी और हमारी सेवा के लिए बेस यूआरएल की आवश्यकता है।
अपने स्क्रिप्ट्स को इसे सुरक्षित रूप से एक्सेस करने देने के लिए कुंजी को अपने एनवायरनमेंट वेरिएबल्स में निर्यात करें। तुरंत अपनी कुंजी प्राप्त करने के लिए Google या ईमेल के माध्यम से एक नया खाता बनाएं। इस चरण के लिए फ़ोन नंबर सत्यापन की आवश्यकता नहीं है।
सुनिश्चित करें कि आपके एन्वायरिमेंट में स्टैंडर्ड HTTP लाइब्रेरीज़ सपोर्ट हों। API सभी अनुरोधों के लिए स्टैंडर्ड JSON पेलोड्स की उम्मीद करता है। आपको वेंडर-स्पेसिफिक ड्राइवर्स इंस्टॉल करने की आवश्यकता नहीं है।
बेस URL सेट करना
अपने SDK क्लाइंट को अनसेंसर्ड इनफरेंस के लिए हमारे समर्पित एंडपॉइंट की ओर निर्देशित करें। बेस यूआरएल आपके कॉन्फ़िगरेशन में मानक ओपनएआई एंडपॉइंट को प्रतिस्थापित करता है।
अपने बेस URL के रूप में HTTPS://api.apikeymistral.com/v1 का उपयोग करें। यह सुनिश्चित करता है कि सभी अनुरोध हमारे उच्च-थ्रूपुट सर्वरों के माध्यम से रूट होते हैं। यदि आपका SDK /chat/completions पर डिफ़ॉल्ट है, तो आपको एंडपॉइंट पथ बदलने की आवश्यकता नहीं है।
अपनी API कुंजी को मेमोरी या एक सुरक्षित वॉल्ट में रखें। कुंजी उस URL पर आपके द्वारा भेजे जाने वाले प्रत्येक अनुरोध को प्रमाणीकृत करती है।
अपना पहला POST अनुरोध बनाना
टेक्स्ट आउटपुट प्राप्त करने के लिए एक मानक चैट कंप्लीशन रिक्वेस्ट भेजें। हमारे ट्यून्ड मॉडल तक पहुँचने के लिए मॉडल ID "uncensored" का उपयोग करें।
रचनात्मकता को नियंत्रित करने के लिए तापमान और अन्य पैरामीटर निर्दिष्ट करें। एंडपॉइंट संदेश सरणी के साथ मानक JSON बॉडी स्वीकार करता है।
कनेक्टिविटी परीक्षण के लिए यहाँ एक बेसिक curl कमांड है:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'प्रतिक्रिया में उत्पन्न टेक्स्ट शामिल है। जांचें कि स्थिति कोड 200 सफलता के लिए है।
Python SDK एकीकरण
Python क्लाइंट को हमारे बेस URL का उपयोग करने के लिए कॉन्फ़िगर करें। अपनी API कुंजी और कस्टम एंडपॉइंट के साथ क्लाइंट को प्रारंभ करें।
चैट.completions.create विधि को अपने प्रॉम्प्ट के साथ कॉल करें। रिस्पॉन्स ऑब्जेक्ट choices[0].message.content में जनरेटेड टेक्स्ट रखता है।
रेट लिमिट या अमान्य कुंजियों जैसे संभावित त्रुटियों को सहजता से हैंडल करें। लागत ट्रैकिंग के लिए आवश्यक होने पर टोकन उपयोग लॉग करें।
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)यह दृष्टिकोण किसी भी OpenAI-कम्पैटिबल लाइब्रेरी के साथ काम करता है। आप मौजूदा कोड को न्यूनतम परिवर्तनों के साथ पुन: उपयोग कर सकते हैं।
Node SDK एकीकरण
कस्टम बेस URL के साथ Node.js क्लाइंट को इनिशियलाइज़ करें। कॉन्फ़िगरेशन ऑब्जेक्ट में अपनी API कुंजी पास करें।
अपने वांछित पैरामीटर्स के साथ chat.completions.create फ़ंक्शन को इंकॉक करें। रिस्पॉन्स मानक OpenAI फॉर्मेट का पालन करता है।
स्ट्रीम या अंतिम प्रतिक्रिया की आवश्यकता के अनुसार प्रोसेस करें। एरर हैंडलिंग नेटवर्क समस्याओं या प्रमाणीकरण विफलताओं को कैच करनी चाहिए।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);यह सेटअप आपको अपने Node एप्लिकेशंस में अनसेंसर्ड इनफ्रेंस को जल्दी एकीकृत करने की अनुमति देता है।
स्ट्रीमिंग रिस्पॉन्सेस हैंडल करना
स्ट्रीमिंग को सक्षम करने के लिए अपने अनुरोध में stream=true सेट करें। API डेटा को चंक में लौटाता है जैसे ही वे उत्पन्न होते हैं।
प्रत्येक चंक को रियल-टाइम आउटपुट को आपके उपयोगकर्ताओं को प्रदर्शित करने के लिए प्रक्रिया करें। पूरा उत्तर प्राप्त करने के लिए सामग्री को जमा करें।
स्ट्रीम के अंतिम चंक में टोकन उपयोग की निगरानी करें। यह आपको लागत को सटीक रूप से ट्रैक करने में मदद करता है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)स्ट्रीमिंग से लंबे प्रतिक्रियाओं के लिए प्रतीत होने वाली विलंबता कम हो जाती है। यह चैट इंटरफेस और इंटरैक्टिव एप्लिकेशन के लिए आदर्श है।
सीमाएं, त्रुटियां, और संदर्भ विंडो
सेवा विघटन से बचने के लिए तकनीकी सीमाओं को समझें। संदर्भ विंडो प्रॉम्प्ट और पूर्णता के संयोजन के लिए 100,000 टोकन का समर्थन करती है।
प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। 2,048 डिफ़ॉल्ट से बचने के लिए max_tokens को स्पष्ट रूप से सेट करें।
रेट लिमिट्स प्रति कुंजी 300 अनुरोध प्रति मिनट की अनुमति देते हैं। आपके पास एक समय में 8 समानांतर अनुरोध हो सकते हैं।
अपनी कुंजी की वैधता जांचकर 401 त्रुटियों को हैंडल करें। 402 त्रुटियां अपर्याप्त क्रेडिट को दर्शाती हैं। 429 त्रुटियां दर सीमा पर पहुंचने का अर्थ हैं।
8 MB की बॉडी साइज सीमा को पार करने वाले अनुरोध विफल हो जाएंगे। अपनी पेलोइड के अनुसार योजना बनाएं।
