Förutsättningar: SDK och miljö
Börja med att installera ditt föredragna OpenAI-kompatibla SDK. Du behöver bara en giltig API-nyckel och bas-URL för vår tjänst.
Exportera nyckeln till dina miljövariabler så att dina skript kan komma åt den säkert. Skapa ett nytt konto via Google eller e-post för att få din nyckel omedelbart. Ingen telefonnummerverifiering krävs för detta steg.
Se till att din miljö stödjer standard HTTP-bibliotek. API:et förväntar sig standard JSON-payloads för alla begäranden. Du behöver inte installera leverantörspecifika drivrutiner.
Att ställa in bas-URL:en
Pek SDK-klienten mot vår dedikerade slutpunkt för obegränsad inferens. Bas-URL:n ersätter standard OpenAI-slutpunkten i din konfiguration.
Använd HTTPS://api.apikeymistral.com/v1 som din bas-URL. Detta säkerställer att alla begäranden dirigeras genom våra servrar med hög genomströmning. Du behöver inte ändra sökvägen för slutpunkten om ditt SDK standardmässigt använder /chat/completions.
Spara din API-nyckel i minnet eller ett säkert valv. Nyckeln autentiserar varje begäran du skickar till denna URL.
Att göra din första POST-förfrågan
Skicka en standardbegäran om chattkomplettering för att få textoutput. Använd modell-ID:t "uncensored" för att komma åt vår justerade modell.
Specify the temperature and other parameters to control creativity. The endpoint accepts standard JSON bodies with messages array.
Här är ett grundläggande curl-kommando för att testa anslutningen:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Verifiera att svaret innehåller den genererade texten. Kontrollera att statuskoden är 200 för framgång.
Integration av Python SDK
Konfigurera Python-klienten att använda vår bas-URL. Initialisera klienten med din API-nyckel och den anpassade slutpunkten.
Anropa chat.completions.create-metoden med din prompt. Svarobjektet innehåller den genererade texten i choices[0].message.content.
Hantera potentiella fel som hastighetsbegränsningar eller ogiltiga nycklar på ett smidigt sätt. Logga tokenanvändningen vid behov för kostnadsspårning.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Denna metod fungerar med vilken OpenAI-kompatibel bibliotek som helst. Du kan återanvända befintlig kod med minimala ändringar.
Node SDK-integration
Initiera Node.js-klienten med den anpassade bas-URL:en. Ange din API-nyckel i konfigurationsobjektet.
Anropa funktionen chat.completions.create med dina önskade parametrar. Svaret följer det standardiserade OpenAI-formatet.
Bearbetka strömmen eller det slutliga svaret efter behov. Felhantering bör fånga nätverksproblem eller autentiseringsfel.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Denna installation gör att du snabbt kan integrera obegränsad inferens i dina Node-applikationer.
Hantering av strömnings-svar
Aktivera strömning genom att ställa in stream=true i din begäran. API:et returnerar data i chunkar när de genereras.
Bearbeta varje bit för att visa realtidsutdata till dina användare. Ackumulera innehållet för att få hela svaret.
Övervaka tokenanvändning i den sista chunken av strömmen. Detta hjälper dig att spåra kostnader noggrant.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Streaming minskar den upplevda latensen för långa svar. Det är idealiskt för chattgränssnitt och interaktiva applikationer.
Gränser, fel och kontextfönster
Förstå de tekniska begränsningarna för att undvika tjänstestörningar. Kontextfönstret stöder 100 000 tokens för prompt och slutförande tillsammans.
Max utdata är 16,000 tokens per begäran. Ange max_tokens explicit för att undvika att träffa standardvärdet 2,048.
Begäransgränser tillåter 300 begäranden per minut per nyckel. Du kan ha 8 parallella begäranden samtidigt.
Hantera 401-fel genom att kontrollera nyckelgiltigheten. 402-fel indikerar otillräcklig kredit. 429-fel betyder att du träffade hastighetsbegränsningen.
Begäranden som överskrider kroppens storleksgräns på 8 MB kommer att misslyckas. Planera din payload därefter.