คีย์ API mistral: คู่มือเริ่มต้นใช้งานอย่างรวดเร็ว

ข้อกำหนดเบื้องต้น: SDK และสภาพแวดล้อม

เริ่มต้นด้วยการติดตั้ง SDK ที่เข้ากันได้กับ OpenAI ที่คุณต้องการ คุณต้องมีเพียงคีย์ API ที่ถูกต้องและ URL พื้นฐานสำหรับบริการของเรา

ส่งออกคีย์ไปยังตัวแปรสภาพแวดล้อมของคุณเพื่อให้สคริปต์ของคุณเข้าถึงได้อย่างปลอดภัย สร้างบัญชีใหม่ผ่าน Google หรืออีเมลเพื่อรับคีย์ของคุณทันที ไม่ต้องยืนยันหมายเลขโทรศัพท์สำหรับขั้นตอนนี้

ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมของคุณรองรับไลบรารี HTTP มาตรฐาน API คาดหวัง payload JSON มาตรฐานสำหรับทุก request คุณไม่จำเป็นต้องติดตั้งไดรเวอร์เฉพาะของผู้ขาย

การตั้งค่า base URL

ชี้ SDK client ของคุณไปยัง endpoint เฉพาะสำหรับการอนุมานแบบไม่มีเซนเซอร์ URL พื้นฐานจะแทนที่ endpoint มาตรฐานของ OpenAI ในการกำหนดค่าของคุณ

ใช้ HTTPS://api.apikeymistral.com/v1 เป็น URL พื้นฐานของคุณ สิ่งนี้ทำให้แน่ใจว่าคำขอทั้งหมดจะถูกส่งผ่านเซิร์ฟเวอร์ที่มีความจุสูงของคุณ คุณไม่จำเป็นต้องเปลี่ยนเส้นทางจุดสิ้นสุดหาก SDK ของคุณกำหนดค่าเริ่มต้นเป็น /chat/completions

เก็บ API key ของคุณไว้ในหน่วยความจำหรือ vault ที่ปลอดภัย คีย์นี้จะยืนยันตัวตนทุกคำขอที่คุณส่งไปยัง URL นี้

การส่ง POST request ครั้งแรกของคุณ

ส่งคำขอ chat completion มาตรฐานเพื่อรับข้อความเอาต์พุต ใช้รหัสโมเดล "uncensored" เพื่อเข้าถึงโมเดลที่ปรับแต่งของเรา

ระบุอุณหภูมิและพารามิเตอร์อื่นๆ เพื่อควบคุมความคิดสร้างสรรค์ endpoint ยอมรับ body JSON มาตรฐานพร้อมอาร์เรย์ข้อความ

นี่คือคำสั่ง curl พื้นฐานเพื่อทดสอบการเชื่อมต่อ:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

ตรวจสอบว่า response ประกอบด้วยข้อความที่สร้าง ตรวจสอบว่า status code เป็น 200 สำหรับการสำเร็จ

การผสานรวม Python SDK

กำหนดค่าไคลเอนต์ Python ให้ใช้ URL พื้นฐานของเรา เริ่มต้นใช้งานไคลเอนต์ด้วยคีย์ API และจุดปลายแบบกำหนดเอง

เรียกใช้เมธอด chat.completions.create พร้อม prompt ของคุณ object การตอบกลับจะประกอบด้วยข้อความที่สร้างใน choices[0].message.content

จัดการข้อผิดพลาดที่อาจเกิดขึ้นเช่น ขีดจำกัดอัตราหรือคีย์ที่ไม่ถูกต้องอย่างเหมาะสม บันทึกการใช้งานโทเค็นหากจำเป็นเพื่อติดตามต้นทุน

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วิธีนี้ทำงานได้กับไลบรารีที่เข้ากันได้กับ OpenAI ใดๆ คุณสามารถนำโค้ดที่มีอยู่กลับมาใช้ใหม่ได้ด้วยการเปลี่ยนแปลงเพียงเล็กน้อย

การผสานรวม Node SDK

เริ่มต้นไคลเอนต์ Node.js โดยระบุ URL พื้นฐานแบบกำหนดเอง ส่งคีย์ API ของคุณผ่านออบเจ็กต์การกำหนดค่า

เรียกใช้ฟังก์ชัน chat.completions.create พร้อมพารามิเตอร์ที่ต้องการของคุณ การตอบกลับจะปฏิบัติตามรูปแบบมาตรฐานของ OpenAI

ประมวลผลสตรีมหรือการตอบกลับสุดท้ายตามต้องการ การจัดการข้อผิดพลาดควรดักจับปัญหาเครือข่ายหรือการตรวจสอบสิทธิ์ที่ล้มเหลว

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตั้งค่านี้ช่วยให้คุณผสานรวมการอนุมานแบบไม่เซ็นเซอร์ลงในแอปพลิเคชัน Node ของคุณได้อย่างรวดเร็ว

การจัดการการตอบกลับแบบสตรีม

เปิดใช้งานการสตรีมโดยการตั้งค่า stream=true ในคำขอของคุณ API จะส่งข้อมูลเป็นชิ้นส่วนเมื่อสร้างเสร็จ

ประมวลผลแต่ละช่วงเพื่อแสดงผลลัพธ์แบบเรียลไทม์แก่ผู้ใช้ของคุณ สะสมเนื้อหาเพื่อรับการตอบกลับเต็มรูปแบบ

ติดตามการใช้งานโทเค็นในชิ้นส่วนสุดท้ายของสตรีม สิ่งนี้ช่วยให้คุณติดตามต้นทุนได้อย่างแม่นยำ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การสตรีมลดการรับรู้ความล่าช้าสำหรับคำตอบยาว เหมาะสำหรับอินเทอร์เฟซแชทและแอปพลิเคชันแบบโต้ตอบ

ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท

ทำความเข้าใจขีดจำกัดทางเทคนิคเพื่อหลีกเลี่ยงการหยุดให้บริการ หน้าต่างบริบทรองรับ 100,000 token สำหรับ prompt และ completion รวมกัน

เอาต์พุตสูงสุดคือ 16,000 โทเค็นต่อคำขอ ตั้งค่า max_tokens อย่างชัดเจนเพื่อหลีกเลี่ยงการชนกับค่าเริ่มต้น 2,048

อัตราการใช้งานอนุญาต 300 คำขอต่อนาทีต่อคีย์ คุณสามารถมีคำขอพร้อมกัน 8 คำขอได้

จัดการข้อผิดพลาด 401 โดยตรวจสอบความถูกต้องของคีย์ ข้อผิดพลาด 402 หมายความว่าเครดิตไม่เพียงพอ ข้อผิดพลาด 429 หมายความว่าคุณถึงขีดจำกัดอัตราการใช้งาน

คำขอที่เกินขีดจำกัดขนาดร่างกาย 8 MB จะล้มเหลว โปรดวางแผน payload ของคุณ accordingly