API-nøgle mistral: Hurtigstartsguide

Forudsætninger: SDK og miljø

Start med at installere dit foretrukne OpenAI-kompatible SDK. Du har kun brug for en gyldig API-nøgle og base URL til vores service.

Eksportér nøglen til dine miljøvariabler, så dine scripts kan få adgang til den sikkert. Opret en ny konto via Google eller e-mail for at modtage din nøgle øjeblikkeligt. Der kræves ingen telefonnummerverifikation for dette trin.

Sørg for, at dit miljø understøtter standard HTTP-biblioteker. API'et forventer standard JSON-payloads til alle anmodninger. Du skal ikke installere leverandørspecifikke drivere.

Indstilling af base URL

Peg din SDK-klient på vores dedikerede endpoint for ubegrænset inferens. Base URL'en erstatter standard OpenAI-endpointet i din konfiguration.

Brug HTTPS://api.apikeymistral.com/v1 som din base URL. Dette sikrer, at alle anmodninger sendes gennem vores servere med høj kapacitet. Du behøver ikke at ændre endpoint-stien, hvis dit SDK standardmæssigt bruger /chat/completions.

Hold din API-nøgle i hukommelsen eller en sikker vault. Nøglen autentificerer hvert request, du sender til denne URL.

At lave din første POST-anmodning

Send en standard chat-completionsanmodning for at få tekstoutput. Brug model-ID'et "uncensored" for at få adgang til vores tilpassede model.

Angiv temperaturen og andre parametre for at kontrollere kreativitet. Endpointet accepterer standard JSON-legemer med messages-array.

Her er en grundlæggende curl-kommando til test af forbindelsen:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Verificér, at svaret indeholder den genererede tekst. Tjek, at statuskoden er 200 for succes.

Integration af Python SDK

Konfigurér Python-klienten til at bruge vores base URL. Initialiser klienten med din API-nøgle og det custom endpoint.

Kald chat.completions.create-metoden med dit prompt. Svarobjektet indeholder den genererede tekst i choices[0].message.content.

Håndter potentielle fejl som rate limits eller ugyldige nøgler pænt. Log token-brugen, hvis det er nødvendigt til omkostningsovervågning.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Denne tilgang fungerer med enhver OpenAI-kompatibel bibliotek. Du kan genbruge eksisterende kode med minimale ændringer.

Node SDK-integration

Initialiser Node.js-klienten med den custom base-URL. Overfør din API-nøgle i konfigurationsobjektet.

Kald funktionen chat.completions.create med dine ønskede parametre. Svaret følger det standard OpenAI-format.

Behandle streamet eller det endelige svar efter behov. Fejlhåndtering skal fange netværksproblemer eller autentificeringsfejl.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Denne opsætning giver dig mulighed for at integrere upasset inference i dine Node-applikationer hurtigt.

Håndtering af streamingrespons

Aktivér streaming ved at indstille stream=true i din anmodning. API'et returnerer data i chunks, mens de genereres.

Behandle hver chunk for at vise realtidsoutput til dine brugere. Akkumuler indholdet for at få det fulde svar.

Overvåg tokenforbrug i den sidste chunk af streamen. Dette hjælper dig med at spore omkostninger nøjagtigt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming reducerer opfattet latens til lange svar. Det er ideelt til chatgrænseflader og interaktive applikationer.

Begrænsninger, fejl og kontekstvindue

Forstå de tekniske begrænsninger for at undgå tjenesteaflad. Kontekstvinduet understøtter 100.000 tokens til prompt og completion kombineret.

Max output is 16,000 tokens per request. Set max_tokens explicitly to avoid hitting the 2,048 default.

Rate limits tillader 300 anmodninger i minuttet per nøgle. Du kan have 8 samtidige anmodninger ad gangen.

Håndter 401-fejl ved at tjekke nøglegyldigheden. 402-fejl indikerer utilstrækkelig kredit. 429-fejl betyder, at du ramte hastighedsbegrænsningen.

Anmodninger, der overstiger brugenstørrelsesgrænsen på 8 MB, vil fejle. Planlæg din payload derefter.