Clave API mistral: Guía de inicio rápido

Prerrequisitos: SDK y entorno

Comienza instalando tu SDK compatible con OpenAI preferido. Solo necesitas una clave API válida y la URL base para nuestro servicio.

Exporta la clave a tus variables de entorno para que tus scripts puedan acceder a ella de forma segura. Crea una nueva cuenta a través de Google o correo electrónico para recibir tu clave al instante. No se requiere verificación por número de teléfono para este paso.

Asegúrate de que tu entorno soporte bibliotecas HTTP estándar. La API espera cargas útiles JSON estándar para todas las solicitudes. No necesitas instalar controladores específicos del proveedor.

Configurar la URL base

Apunta tu cliente SDK a nuestro punto de conexión dedicado para inferencia sin censura. La URL base reemplaza el punto de conexión estándar de OpenAI en tu configuración.

Usa HTTPS://api.apikeymistral.com/v1 como tu URL base. Esto asegura que todas las solicitudes se enruten a través de nuestros servidores de alto rendimiento. No necesitas cambiar la ruta del punto de conexión si tu SDK usa por defecto /chat/completions.

Mantén tu clave API en memoria o en una bóveda segura. La clave autentica cada solicitud que envías a esta URL.

Realizando tu primera solicitud POST

Envía una solicitud estándar de completación de chat para obtener salida de texto. Utiliza el ID del modelo "uncensored" para acceder a nuestro modelo ajustado.

Especifica la temperatura y otros parámetros para controlar la creatividad. El endpoint acepta cuerpos JSON estándar con la matriz de mensajes.

Aquí tienes un comando curl básico para probar la conectividad:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Verifica que la respuesta contenga el texto generado. Comprueba que el código de estado sea 200 para indicar éxito.

Integración del SDK de Python

Configura el cliente Python para usar nuestra URL base. Inicializa el cliente con tu clave API y el punto de conexión personalizado.

Llama al método chat.completions.create con tu prompt. El objeto de respuesta contiene el texto generado en choices[0].message.content.

Maneja los errores potenciales, como los límites de velocidad o las claves inválidas, de manera adecuada. Registra el uso de tokens si es necesario para el seguimiento de costos.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Este enfoque funciona con cualquier biblioteca compatible con OpenAI. Puedes reutilizar el código existente con cambios mínimos.

Integración del SDK Node

Inicializa el cliente de Node.js con la URL base personalizada. Pasa tu clave de API en el objeto de configuración.

Invoca la función chat.completions.create con los parámetros deseados. La respuesta sigue el formato estándar de OpenAI.

Procesa la transmisión o la respuesta final según sea necesario. El manejo de errores debe capturar problemas de red o fallos de autenticación.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Esta configuración te permite integrar la inferencia sin censura en tus aplicaciones Node rápidamente.

Gestión de respuestas en streaming

Habilita el streaming estableciendo stream=true en tu solicitud. La API devuelve datos en fragmentos a medida que se generan.

Procesa cada fragmento para mostrar la salida en tiempo real a tus usuarios. Acumula el contenido para obtener la respuesta completa.

Monitor el uso de tokens en el último fragmento del flujo. Esto te ayuda a rastrear los costos con precisión.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

El streaming reduce la latencia percibida para respuestas largas. Es ideal para interfaces de chat y aplicaciones interactivas.

Límites, errores y ventana de contexto

Comprende los límites técnicos para evitar interrupciones del servicio. La ventana de contexto admite 100.000 tokens para prompt y finalización combinados.

La salida máxima es de 16,000 tokens por solicitud. Establece max_tokens explícitamente para evitar alcanzar el valor predeterminado de 2,048.

Los límites de velocidad permiten 300 solicitudes por minuto por clave. Puedes tener 8 solicitudes concurrentes al mismo tiempo.

Maneja errores 401 verificando la validez de tu clave. Los errores 402 indican saldo insuficiente. Los errores 429 significan que has alcanzado el límite de velocidad.

Las solicitudes que superan el límite de tamaño de cuerpo de 8 MB fallarán. Planifica tu carga útil en consecuencia.