Önkoşullar: SDK ve ortam
Tercih ettiğiniz OpenAI-uyumlu SDK'yı yükleyin. Geçerli bir API anahtarına ve hizmetimiz için temel URL'ye ihtiyacınız vardır.
Anahtarınızı ortam değişkenlerine aktarın, böylece betikleriniz ona güvenli bir şekilde erişebilir. Anahtarınızı anında almak için Google veya e-posta ile yeni bir hesap oluşturun. Bu adım için telefon numarası doğrulaması gerekmez.
Ortamınızın standart HTTP kütüphanelerini desteklediğinden emin olun. API, tüm istekler için standart JSON yükleri bekler. Tedarikçiye özgü sürücüler yüklemenize gerek yoktur.
Temel URL'nin ayarlanması
SDK istemcinizi sansürsüz çıkarım için özel uç noktamıza işaretleyin. Temel URL, yapılandırmanızdaki standart OpenAI uç noktasının yerini alır.
Temel URL olarak HTTPS://api.apikeymistral.com/v1 kullanın. Bu, tüm isteklerin yüksek kapasiteli sunucularımız üzerinden yönlendirilmesini sağlar. SDK'nız varsayılan olarak /chat/completions yoluna yönlendiriliyorsa, uç nokta yolunu değiştirmenize gerek yoktur.
API anahtarınızı bellekte veya güvenli bir kasada tutun. Anahtar, bu URL'ye gönderdiğiniz her isteği kimlik doğrular.
İlk POST isteğinizi yapmak
Metin çıktısı almak için standart bir chat completion isteği gönderin. Ayarlanmış modelimize erişmek için model kimliği "uncensored" kullanın.
Yaratıcılığı kontrol etmek için sıcaklığı ve diğer parametreleri belirtin. Uç nokta, mesajlar dizisi içeren standart JSON gövdelerini kabul eder.
Bağlantıyı test etmek için temel bir curl komutu:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Yanıtın oluşturulan metni içerdiğini doğrulayın. Başarı için durum kodunun 200 olduğundan emin olun.
Python SDK entegrasyonu
Python istemcisini temel URL'mizi kullanacak şekilde yapılandırın. İstemciyi API anahtarınız ve özel uç nokta ile başlatın.
Prompt'unuzla chat.completions.create metodunu çağırın. Yanıt nesnesi, oluşturulan metni choices[0].message.content içinde içerir.
Oran limitleri veya geçersiz anahtarlar gibi potansiyel hataları zarifçe yönetin. Gerekirse maliyet takibi için token kullanımını günlüğe kaydedin.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Bu yaklaşım herhangi bir OpenAI-uyumlu kütüphane ile çalışır. Mevcut kodunuzu minimum değişikliklerle yeniden kullanabilirsiniz.
Node SDK entegrasyonu
Node.js istemcisini özel temel URL ile başlatın. API anahtarınızı yapılandırma nesnesinde iletin.
İstediğiniz parametrelerle chat.completions.create işlevini çağırın. Yanıt standart OpenAI biçimini izler.
Gerektiğinde akışı veya nihai yanıtı işleyin. Hata yönetimi ağ sorunlarını veya kimlik doğrulama hatalarını yakalamalıdır.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Bu kurulum, uncensored çıkarımı Node uygulamalarınıza hızlıca entegre etmenize olanak tanır.
Akış yanıtlarını işleme
İsteğinizde stream=true ayarlayarak akışı etkinleştirin. API, oluşturuldukları gibi verileri parçalar halinde döndürür.
Kullanıcılarınıza gerçek zamanlı çıktı görüntülemek için her parçayı işleyin. Tam yanıtı almak için içeriği biriktirin.
Akışın son parçasında token kullanımını izleyin. Bu, maliyetleri doğru bir şekilde izlemenize yardımcı olur.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Akış, uzun yanıtlar için algılanan gecikmeyi azaltır. Sohbet arayüzleri ve etkileşimli uygulamalar için idealdir.
Limitler, hatalar ve bağlam penceresi
Servis kesintilerinden kaçınmak için teknik limitleri anlayın. Bağlam penceresi istem ve tamamlama için toplam 100.000 tokenı destekler.
Maksimum çıktı istek başına 16.000 token'dır. 2.048 varsayılan değerine takılmamak için max_tokens'u açıkça ayarlayın.
Hız limitleri anahtar başına dakikada 300 istek sağlar. Aynı anda 8 eşzamanlı isteğiniz olabilir.
401 hatalarını anahtar geçerliliğinizi kontrol ederek yönetin. 402 hataları yetersiz krediyi gösterir. 429 hataları hız sınırına ulaştığınızı belirtir.
8 MB gövde boyutu sınırını aşan istekler başarısız olur. Yükünüzü buna göre planlayın.