Voraussetzungen: SDK und Umgebung
Installieren Sie Ihr bevorzugtes OpenAI-kompatibles SDK. Sie benötigen lediglich einen gültigen API-Schlüssel und die Basis-URL für unseren Dienst.
Exportieren Sie den Schlüssel in Ihre Umgebungsvariablen, damit Ihre Skripte ihn sicher nutzen können. Erstellen Sie ein neues Konto über Google oder E-Mail, um Ihren Schlüssel sofort zu erhalten. Für diesen Schritt ist keine Telefonnummer-Verifizierung erforderlich.
Stellen Sie sicher, dass Ihre Umgebung Standard-HTTP-Bibliotheken unterstützt. Die API erwartet für alle Anfragen standardmäßige JSON-Payloads. Sie müssen keine herstellerspezifischen Treiber installieren.
Die Basis-URL festlegen
Richten Sie Ihren SDK-Client auf unseren dedizierten Endpunkt für unzensierte Inferenz. Die Basis-URL ersetzt den Standard-OpenAI-Endpunkt in Ihrer Konfiguration.
Verwenden Sie HTTPS://api.apikeymistral.com/v1 als Ihre Basis-URL. Dies stellt sicher, dass alle Anfragen über unsere Hochdurchsatz-Server geleitet werden. Sie müssen den Endpunktpfad nicht ändern, wenn Ihr SDK standardmäßig /chat/completions verwendet.
Bewahren Sie Ihren API-Schlüssel im Speicher oder in einem sicheren Tresor auf. Der Schlüssel authentifiziert jede Anfrage, die Sie an diese URL senden.
Ihre erste POST-Anfrage erstellen
Senden Sie eine Standard-Chat-Vervollständigungsanfrage, um Textausgabe zu erhalten. Verwenden Sie die Modell-ID "uncensored", um auf unser optimiertes Modell zuzugreifen.
Specify the temperature and other parameters to control creativity. The endpoint accepts standard JSON bodies with messages array.
Hier ist ein grundlegender curl-Befehl zur Überprüfung der Konnektivität:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Überprüfen Sie, ob die Antwort den generierten Text enthält. Prüfen Sie, ob der Statuscode 200 für Erfolg ist.
Python SDK-Integration
Konfigurieren Sie den Python-Client, um unsere Basis-URL zu verwenden. Initialisieren Sie den Client mit Ihrem API-Schlüssel und dem benutzerdefinierten Endpunkt.
Rufen Sie die Methode chat.completions.create mit Ihrem Prompt auf. Das Antwortobjekt enthält den generierten Text in choices[0].message.content.
Verwalten Sie potenzielle Fehler wie Ratenbegrenzungen oder ungültige Schlüssel angemessen. Protokollieren Sie die Token-Nutzung bei Bedarf zur Kostenverfolgung.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Dieser Ansatz funktioniert mit jeder OpenAI-kompatiblen Bibliothek. Sie können vorhandenen Code mit minimalen Änderungen wiederverwenden.
Node SDK-Integration
Initialisieren Sie den Node.js-Client mit der benutzerdefinierten Basis-URL. Übergeben Sie Ihren API-Schlüssel im Konfigurationsobjekt.
Rufen Sie die Funktion chat.completions.create mit Ihren gewünschten Parametern auf. Die Antwort folgt dem Standard-OpenAI-Format.
Verarbeite den Stream oder die endgültige Antwort, wie erforderlich. Die Fehlerbehandlung sollte Netzwerkprobleme oder Authentifizierungsfehler abfangen.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Dieses Setup ermöglicht es Ihnen, die unzensierte Inferation schnell in Ihre Node-Anwendungen zu integrieren.
Streaming-Antworten handhaben
Aktivieren Sie das Streaming, indem Sie stream=true in Ihrer Anfrage setzen. Die API gibt Daten in Chunks zurück, sobald sie generiert werden.
Verarbeiten Sie jeden Chunk, um Echtzeit-Ausgaben an Ihre Benutzer anzuzeigen. Akkumulieren Sie den Inhalt, um die vollständige Antwort zu erhalten.
Tokenverbrauch im letzten Chunk des Streams überwachen. Dies hilft Ihnen, die Kosten genau zu verfolgen.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Streaming reduziert die wahrgenommene Latenz bei langen Antworten. Es ist ideal für Chat-Schnittstellen und interaktive Anwendungen.
Limits, Fehler und Kontextfenster
Verstehen Sie die technischen Grenzen, um Dienstunterbrechungen zu vermeiden. Das Kontextfenster unterstützt 100.000 Tokens für Prompt und Vervollständigung zusammen.
Max. Output sind 16.000 Tokens pro Anfrage. Legen Sie max_tokens explizit fest, um den Standardwert von 2.048 nicht zu überschreiten.
Rate-Limits erlauben 300 Anfragen pro Minute pro Schlüssel. Sie können 8 gleichzeitige Anfragen gleichzeitig haben.
Behandeln Sie 401-Fehler, indem Sie die Schlüsselgültigkeit prüfen. 402-Fehler deuten auf unzureichendes Guthaben hin. 429-Fehler bedeuten, dass Sie das Rate Limit erreicht haben.
Anfragen, die das Body-Größenlimit von 8 MB überschreiten, schlagen fehl. Planen Sie Ihre Payload entsprechend.
