Wymagania wstępne: SDK i środowisko
Zacznij od zainstalowania preferowanego SDK kompatybilnego z OpenAI. Potrzebujesz tylko ważnego klucza API i bazowego adresu URL naszej usługi.
Eksportuj klucz do zmiennych środowiskowych, aby Twoje skrypty mogły go bezpiecznie wykorzystać. Utwórz nowe konto za pomocą Google lub e-maila, aby natychmiast otrzymać klucz. W tym kroku nie jest wymagana weryfikacja numerem telefonu.
Upewnij się, że Twoje środowisko obsługuje standardowe biblioteki HTTP. API oczekuje standardowych ładunków JSON dla wszystkich żądań. Nie musisz instalować sterowników specyficznych dla dostawcy.
Ustawianie adresu URL bazowego
Wskaż klienta SDK na nasz dedykowany punkt końcowy do wnioskowania z nieograniczonym modelem. Adres bazowy zastępuje standardowy punkt końcowy OpenAI w Twojej konfiguracji.
Użyj HTTPS://api.apikeymistral.com/v1 jako bazowego adresu URL. Zapewnia to kierowanie wszystkich żądań przez nasze serwery o wysokiej przepustowości. Nie musisz zmieniać ścieżki endpointu, jeśli Twój SDK domyślnie używa /chat/completions.
Przechowuj swój klucz API w pamięci lub bezpiecznym vaultcie. Klucz uwierzytelnia każde żądanie wysyłane do tego URL.
Wykonywanie pierwszego żądania POST
Standardowe żądanie chat completion, aby uzyskać output tekstowy. Użyj ID modelu "uncensored", aby uzyskać dostęp do naszego dostrojonego modelu.
Specify the temperature and other parameters to control creativity. The endpoint accepts standard JSON bodies with messages array.
Oto podstawowe polecenie curl do testu łączności:
curl https://api.apikeymistral.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "return json object with keys name age"}]
}'Sprawdź, czy odpowiedź zawiera wygenerowany tekst. Sprawdź, czy kod stanu to 200 dla sukcesu.
Integracja Python SDK
Skonfiguruj klienta Pythona, aby korzystał z naszego adresu URL bazowego. Zainicjuj klienta swoim kluczem API i niestandardowym punktem końcowym.
Wywołaj metodę chat.completions.create z promptem. Obiekt odpowiedzi zawiera wygenerowany tekst w choices[0].message.content.
Obsłuż potencjalne błędy, takie jak limity szybkości lub nieprawidłowe klucze, z gracją. Zaloguj użycie tokenów, jeśli jest to potrzebne do śledzenia kosztów.
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)To podejście działa z dowolną biblioteką kompatybilną z OpenAI. Możesz ponownie wykorzystać istniejący kod przy minimalnych zmianach.
Integracja SDK Node
Zainicjuj klienta Node.js z niestandardowym podstawowym adresem URL. Przekaż swój klucz API w obiekcie konfiguracji.
Wywołaj funkcję chat.completions.create z żądanymi parametrami. Odpowiedź przyjmuje standardowy format OpenAI.
Przetwarzaj strumień lub ostateczną odpowiedź zgodnie z potrzebami. Obsługa błędów powinna przechwytywać problemy sieciowe lub awarie uwierzytelniania.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ta konfiguracja pozwala na szybką integrację wnioskowania bez cenzury w Twoich aplikacjach Node.
Obsługa odpowiedzi strumieniowych
Włącz strumieniowanie, ustawiając stream=true w żądaniu. API zwraca dane w fragmentach w miarę ich generowania.
Przetwarzaj każdy fragment, aby wyświetlać wyjście w czasie rzeczywistym użytkownikom. Accumuluj zawartość, aby uzyskać pełną odpowiedź.
Monitoruj zużycie tokenów w ostatnim kawałku strumienia. Pomaga to dokładnie śledzić koszty.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Strumieniowanie zmniejsza postrzeganą opóźnienie dla długich odpowiedzi. Jest idealne dla interfejsów czatu i aplikacji interaktywnych.
Limity, błędy i okno kontekstu
Zrozum ograniczenia techniczne, aby uniknąć przerw w usłudze. Okno kontekstowe obsługuje 100 000 tokenów łącznie dla polecenia i uzupełnienia.
Maks. wyjście to 16,000 tokenów na żądanie. Ustaw max_tokens jawnie, aby uniknąć osiągnięcia domyślnej wartości 2,048.
Ograniczenia częstotliwości pozwalają na 300 żądań na minutę na klucz. Możesz wysyłać jednocześnie 8 żądań równoległych.
Obsługuj błędy 401, sprawdzając ważność klucza. Błędy 402 wskazują na niewystarczający kredyt. Błędy 429 oznaczają przekroczenie limitu szybkości.
Żądania przekraczające limit rozmiaru ciała 8 MB nie powiedą się. Zaplanuj swoją ładunek odpowiednio.
