Prérequis : SDK et environnement
Commencez par installer votre SDK compatible OpenAI préféré. Vous n'avez besoin que d'une clé API valide et de l'URL de base pour notre service.
Exportez la clé dans vos variables d'environnement afin que vos scripts puissent y accéder en toute sécurité. Créez un nouveau compte via Google ou e-mail pour recevoir votre clé instantanément. Aucune vérification par numéro de téléphone n'est requise pour cette étape.
Assurez-vous que votre environnement prend en charge les bibliothèques HTTP standard. L'API attend des charges utiles JSON standard pour toutes les requêtes. Vous n'avez pas besoin d'installer de pilotes spécifiques au fournisseur.
Définir l'URL de base
Pointez votre client SDK vers notre point de terminaison dédié pour l'inférence sans censure. L'URL de base remplace l'endpoint OpenAI standard dans votre configuration.
Utilisez HTTPS://api.apikeymistral.com/v1 comme URL de base. Cela garantit que toutes les requêtes sont acheminées via nos serveurs à haut débit. Vous n'avez pas besoin de modifier le chemin du point de terminaison si votre SDK utilise par défaut /chat/completions.
Conservez votre clé API en mémoire ou dans un coffre-fort sécurisé. La clé authentifie chaque requête que vous envoyez à cette URL.
Effectuer votre première requête POST
Envoyez une requête standard de complétion de chat pour obtenir une sortie textuelle. Utilisez l'ID du modèle "uncensored" pour accéder à notre modèle ajusté.
Specify the temperature and other parameters to control creativity. The endpoint accepts standard JSON bodies with messages array.
Voici une commande curl de base pour tester la connectivité :
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Vérifiez que la réponse contient le texte généré. Vérifiez que le code d'état est 200 pour succès.
Intégration SDK Python
Configurez le client Python pour utiliser notre URL de base. Initialisez le client avec votre clé API et le point de terminaison personnalisé.
Appelez la méthode chat.completions.create avec votre invite. L'objet de réponse contient le texte généré dans choices[0].message.content.
Gérez les erreurs potentielles comme les limites de taux ou les clés invalides avec élégance. Enregistrez l'utilisation des jetons si nécessaire pour le suivi des coûts.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Cette approche fonctionne avec n'importe quelle bibliothèque compatible OpenAI. Vous pouvez réutiliser votre code existant avec des modifications minimales.
Intégration du SDK Node
Initialisez le client Node.js avec l'URL de base personnalisée. Transmettez votre clé API dans l'objet de configuration.
Invoquez la fonction chat.completions.create avec les paramètres souhaités. La réponse suit le format standard OpenAI.
Traitez le flux ou la réponse finale selon les besoins. La gestion des erreurs doit capturer les problèmes réseau ou les échecs d'authentification.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Cette configuration vous permet d'intégrer l'inférence sans censure dans vos applications Node rapidement.
Gestion des réponses en streaming
Activez le streaming en définissant stream=true dans votre requête. L'API renvoie des données sous forme de fragments au fur et à mesure de leur génération.
Traitez chaque chunk pour afficher la sortie en temps réel à vos utilisateurs. Accumulez le contenu pour obtenir la réponse complète.
Surveillez l'utilisation des jetons dans le dernier chunk du flux. Cela vous aide à suivre les coûts avec précision.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Le streaming réduit la latence perçue pour les réponses longues. Il est idéal pour les interfaces de chat et les applications interactives.
Limites, erreurs et fenêtre de contexte
Comprendre les limites techniques pour éviter les interruptions de service. La fenêtre de contexte prend en charge 100 000 tokens pour le prompt et la complétion combinés.
La sortie max est de 16 000 tokens par requête. Définissez max_tokens explicitement pour éviter d'atteindre la valeur par défaut de 2 048.
Les limites de taux permettent 300 requêtes par minute par clé. Vous pouvez effectuer 8 requêtes simultanées à la fois.
Gérez les erreurs 401 en vérifiant la validité de votre clé. Les erreurs 402 indiquent un crédit insuffisant. Les erreurs 429 signifient que vous avez atteint la limite de débit.
Les requêtes dépassant la limite de taille de corps de 8 Mo échoueront. Planifiez votre charge utile en conséquence.
