Klíč API Mistral: Rychlý start

Požadavky: SDK a prostředí

Začněte instalací vašeho preferovaného SDK kompatibilního s OpenAI. Potřebujete pouze platný API klíč a základní URL pro naši službu.

Exportujte klíč do proměnných prostředí, aby jej vaše skripty mohly bezpečně používat. Vytvořte si nový účet přes Google nebo e-mail pro okamžité získání klíče. Pro tento krok není vyžadováno ověření telefonním číslem.

Ujistěte se, že vaše prostředí podporuje standardní HTTP knihovny. API očekává standardní JSON payloady pro všechny požadavky. Nemusíte instalovat ovladače specifické pro výrobce.

Nastavení base URL

Nasměrujte klienta SDK na náš vyhrazený endpoint pro inferenci bez omezení. Základní URL nahrazuje standardní endpoint OpenAI ve vaší konfiguraci.

Použijte HTTPS://api.apikeymistral.com/v1 jako základní URL. To zajišťuje, že všechny požadavky jsou směrovány přes naše servery s vysokou propustností. Nemusíte měnit cestu k endpointu, pokud vaše SDK výchozím způsobem používá /chat/completions.

Uchovávejte svůj API klíč v paměti nebo v bezpečné schránce. Klíč autentizuje každý požadavek, který odesíláte na tuto URL.

Vytvoření prvního POST požadavku

Standardní požadavek na dokončení chatu pro získání textového výstupu. Použijte ID modelu "uncensored" pro přístup k našemu vyladěnému modelu.

Upřesněte teplotu a další parametry pro řízení kreativity. Koncový bod přijímá standardní těla JSON s polem zpráv.

Zde je základní příkaz curl pro otestování připojení:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Ověřte, že odpověď obsahuje vygenerovaný text. Zkontrolujte, že stavový kód je 200 pro úspěch.

Integrace Python SDK

Nastavte Python klienta tak, aby používal naši základní URL. Inicializujte klienta svým API klíčem a vlastním endpointem.

Volajte metodu chat.completions.create s vaším promptem. Objekt odpovědi obsahuje vygenerovaný text v choices[0].message.content.

Zpracujte potenciální chyby, jako jsou limity rychlosti nebo neplatné klíče, elegantně. Pokud je to potřeba pro sledování nákladů, logujte využití tokenů.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tento přístup funguje s libovolnou knihovnou kompatibilní s OpenAI. Můžete znovu použít existující kód s minimálními změnami.

Integrace SDK pro Node

Inicializujte klienta Node.js s vlastní základní URL. Předejte svůj API klíč v konfiguračním objektu.

Vyvolat funkci chat.completions.create s požadovanými parametry. Odpověď následuje standardní formát OpenAI.

Zpracovávejte stream nebo konečnou odpověď podle potřeby. Ošetření chyb by mělo zachytávat síťové problémy nebo selhání ověření.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Toto nastavení vám umožňuje rychle integrovat inferenci bez omezení do vašich aplikací Node.

Zvládání streamovaných odpovědí

Povolte streamování nastavením stream=true v požadavku. API vrací data v chunkech, jak jsou generována.

Zpracovávejte každou částu pro zobrazení výstupu v reálném čase vašim uživatelům. Akumulujte obsah pro získání celé odpovědi.

Sledujte využití tokenů v posledním bloku streamu. To vám pomáhá přesně sledovat náklady.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming snižuje vnímanou latenci pro dlouhé odpovědi. Je ideální pro chatová rozhraní a interaktivní aplikace.

Limity, chyby a kontextové okno

Chápejte technické limity, abyste předešli přerušení služby. Kontextové okno podporuje 100,000 tokenů pro prompt a completion dohromady.

Max výstup je 16,000 tokenů na požadavek. Nastavte max_tokens explicitně, abyste předešli dosažení výchozí hodnoty 2,048.

Omezení rychlosti umožňují 300 požadavků za minutu na klíč. Můžete mít 8 souběžných požadavků najednou.

Řešte chyby 401 ověřením platnosti klíče. Chyby 402 znamenají nedostatek kreditu. Chyby 429 znamenají, že jste dosáhli limitu rychlosti.

Požadavky překračující limit velikosti těla 8 MB selžou. Plánujte své payloady odpovídajícím způsobem.