Pré-requisitos: SDK e ambiente
Come instalando o SDK compatível com OpenAI de sua preferência. Você só precisa de uma chave de API válida e do URL base para o nosso serviço.
Exporte a chave para suas variáveis de ambiente para que seus scripts possam acessá-la com segurança. Crie uma nova conta via Google ou e-mail para receber sua chave instantaneamente. Não é necessária verificação por número de telefone nesta etapa.
Certifique-se de que seu ambiente suporte bibliotecas HTTP padrão. A API espera payloads JSON padrão para todas as solicitações. Você não precisa instalar drivers específicos do fornecedor.
Definindo a URL base
Aponte o cliente SDK para o nosso endpoint dedicado para inferência sem censura. O URL base substitui o endpoint padrão da OpenAI na sua configuração.
Use HTTPS://api.apikeymistral.com/v1 como sua URL base. Isso garante que todas as solicitações sejam roteadas pelos nossos servidores de alta capacidade. Você não precisa alterar o caminho do endpoint se seu SDK padrão usar /chat/completions.
Mantenha sua chave de API na memória ou em um cofre seguro. A chave autentica todas as solicitações enviadas a este URL.
Fazendo sua primeira solicitação POST
Envie uma solicitação padrão de conclusão de chat para obter saída de texto. Use o ID do modelo "uncensored" para acessar nosso modelo ajustado.
Especifique a temperatura e outros parâmetros para controlar a criatividade. O endpoint aceita corpos JSON padrão com a matriz de mensagens.
Aqui está um comando curl básico para testar a conectividade:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Verifique se a resposta contém o texto gerado. Verifique se o código de status é 200 para sucesso.
Integração do SDK Python
Configure o cliente Python para usar nossa URL base. Inicialize o cliente com sua chave da API e o endpoint personalizado.
Chame o método chat.completions.create com seu prompt. O objeto de resposta contém o texto gerado em choices[0].message.content.
Lide com erros potenciais, como limites de taxa ou chaves inválidas, de forma elegante. Registre o uso de tokens se necessário para o rastreamento de custos.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Essa abordagem funciona com qualquer biblioteca compatível com OpenAI. Você pode reutilizar o código existente com alterações mínimas.
Integração do SDK Node
Inicialize o cliente Node.js com a URL base personalizada. Passe sua chave da API no objeto de configuração.
Chame a função chat.completions.create com os parâmetros desejados. A resposta segue o formato padrão da OpenAI.
Processe o stream ou a resposta final conforme necessário. O tratamento de erros deve capturar problemas de rede ou falhas de autenticação.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Esta configuração permite integrar a inferência sem censura em seus aplicativos Node rapidamente.
Lidando com respostas de streaming
Habilite o streaming definindo stream=true na sua solicitação. A API retorna dados em chunks conforme são gerados.
Processe cada chunk para exibir a saída em tempo real para seus usuários. Acumule o conteúdo para obter a resposta completa.
Monitore o uso de tokens no último chunk do stream. Isso ajuda você a rastrear os custos com precisão.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)O streaming reduz a latência percebida para respostas longas. É ideal para interfaces de chat e aplicativos interativos.
Limites, erros e janela de contexto
Entenda os limites técnicos para evitar interrupções no serviço. A janela de contexto suporta 100.000 tokens para prompt e conclusão combinados.
A saída máxima é de 16.000 tokens por solicitação. Defina max_tokens explicitamente para evitar atingir o padrão de 2.048.
Os limites de taxa permitem 300 solicitações por minuto por chave. Você pode ter 8 solicitações simultâneas ao mesmo tempo.
Lide com erros 401 verificando a validade da chave. Erros 402 indicam crédito insuficiente. Erros 429 significam que você atingiu o limite de taxa.
Solicitações excedendo o limite de tamanho de corpo de 8 MB falharão. Planeje sua carga útil de acordo.