Kunci API mistral: Panduan Mulai Cepat

Prasyarat: SDK dan lingkungan

Mulai dengan menginstal SDK yang kompatibel dengan OpenAI pilihan Anda. Anda hanya memerlukan kunci API yang valid dan URL dasar untuk layanan kami.

Ekspor kunci ke variabel lingkungan Anda agar skrip Anda dapat mengaksesnya secara aman. Buat akun baru melalui Google atau email untuk menerima kunci Anda secara instan. Tidak diperlukan verifikasi nomor telepon untuk langkah ini.

Pastikan lingkungan Anda mendukung pustaka HTTP standar. API mengharapkan payload JSON standar untuk semua permintaan. Anda tidak perlu menginstal driver khusus vendor.

Mengatur URL dasar

Arahkan klien SDK Anda ke titik akhir khusus kami untuk inferensi tanpa sensor. URL dasar menggantikan titik akhir OpenAI standar dalam konfigurasi Anda.

Gunakan HTTPS://api.apikeymistral.com/v1 sebagai URL dasar Anda. Ini memastikan semua permintaan dialihkan melalui server ber-throughput tinggi kami. Anda tidak perlu mengubah jalur endpoint jika SDK Anda secara default menggunakan /chat/completions.

Simpan kunci API Anda di memori atau brankas yang aman. Kunci ini mengautentikasi setiap permintaan yang Anda kirim ke URL ini.

Melakukan permintaan POST pertama Anda

Kirimkan permintaan completion chat standar untuk mendapatkan output teks. Gunakan ID model "uncensored" untuk mengakses model yang disesuaikan kami.

Spesifikkan suhu dan parameter lainnya untuk mengontrol kreativitas. Endpoint menerima body JSON standar dengan array pesan.

Berikut perintah curl dasar untuk menguji konektivitas:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Verifikasi respons berisi teks yang dihasilkan. Periksa kode status 200 untuk keberhasilan.

Integrasi SDK Python

Konfigurasi klien Python untuk menggunakan URL dasar kami. Inisialisasi klien dengan kunci API dan endpoint kustom Anda.

Panggil metode chat.completions.create dengan prompt Anda. Objek respons berisi teks yang dihasilkan di choices[0].message.content.

Tangani kesalahan potensial seperti batas laju atau kunci tidak valid dengan baik. Catat penggunaan token jika diperlukan untuk pelacakan biaya.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pendekatan ini bekerja dengan pustaka yang kompatibel dengan OpenAI. Anda dapat menggunakan kembali kode yang ada dengan perubahan minimal.

Integrasi SDK Node

Inisialisasi klien Node.js dengan URL dasar kustom. Leksankan kunci API Anda dalam objek konfigurasi.

Panggil fungsi chat.completions.create dengan parameter yang diinginkan. Respons mengikuti format OpenAI standar.

Proses stream atau respons akhir sesuai kebutuhan. Penanganan kesalahan harus menangkap masalah jaringan atau kegagalan autentikasi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pengaturan ini memungkinkan Anda mengintegrasikan inference uncensored ke dalam aplikasi Node Anda dengan cepat.

Menangani respons streaming

Aktifkan streaming dengan mengatur stream=true dalam permintaan Anda. API mengembalikan data dalam chunk saat dihasilkan.

Proses setiap potongan untuk menampilkan output waktu nyata kepada pengguna Anda. Akumulasi konten untuk mendapatkan respons lengkap.

Pantau penggunaan token di potongan terakhir dari stream. Ini membantu Anda melacak biaya secara akurat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming mengurangi latensi yang dirasakan untuk respons panjang. Ini sangat ideal untuk antarmuka chat dan aplikasi interaktif.

Batas, error, dan jendela konteks

Memahami batas teknis untuk menghindari gangguan layanan. Jendela konteks mendukung 100.000 token untuk prompt dan penyelesaian gabungan.

Output maks adalah 16.000 token per permintaan. Atur max_tokens secara eksplisit untuk menghindari default 2.048.

Batas laju mengizinkan 300 permintaan per menit per kunci. Anda dapat memiliki 8 permintaan konkurensi pada satu waktu.

Handle error 401 dengan memeriksa validitas kunci Anda. Error 402 menunjukkan kredit tidak cukup. Error 429 berarti Anda mencapai batas laju.

Permintaan melebihi batas ukuran body 8 MB akan gagal. Rencanakan payload Anda sesuai.