Khóa API mistral: Hướng dẫn bắt đầu nhanh

Điều kiện tiên quyết: SDK và môi trường

Bắt đầu bằng cách cài đặt SDK tương thích OpenAI mà bạn yêu thích. Bạn chỉ cần một khóa API hợp lệ và URL cơ sở cho dịch vụ của chúng tôi.

Xuất khóa của bạn vào các biến môi trường để các tập lệnh của bạn có thể truy cập nó một cách bảo mật. Tạo tài khoản mới qua Google hoặc email để nhận khóa của bạn ngay lập tức. Không yêu cầu xác minh số điện thoại cho bước này.

Đảm bảo môi trường của bạn hỗ trợ các thư viện HTTP tiêu chuẩn. API yêu cầu các payload JSON tiêu chuẩn cho tất cả các yêu cầu. Bạn không cần cài đặt các trình điều khiển do nhà cung cấp cung cấp.

Cài đặt URL cơ sở

Điểm SDK client của bạn đến điểm cuối chuyên dụng của chúng tôi để suy luận không kiểm duyệt. URL gốc thay thế điểm cuối OpenAI tiêu chuẩn trong cấu hình của bạn.

Sử dụng HTTPS://api.apikeymistral.com/v1 làm URL cơ sở của bạn. Điều này đảm bảo tất cả các yêu cầu được định tuyến qua các máy chủ có thông lượng cao của chúng tôi. Bạn không cần thay đổi đường dẫn điểm cuối nếu SDK của bạn mặc định là /chat/completions.

Giữ khóa API của bạn trong bộ nhớ hoặc một kho lưu trữ an toàn. Khóa này xác thực mọi yêu cầu bạn gửi đến URL này.

Thực hiện yêu cầu POST đầu tiên

Gửi một yêu cầu hoàn tất hội thoại tiêu chuẩn để nhận đầu ra văn bản. Sử dụng ID mô hình "uncensored" để truy cập mô hình đã tinh chỉnh của chúng tôi.

Chỉ định nhiệt độ và các tham số khác để kiểm soát sự sáng tạo. Điểm cuối chấp nhận các thân JSON tiêu chuẩn với mảng messages.

Đây là một lệnh curl cơ bản để kiểm tra khả năng kết nối:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Xác minh phản hồi chứa văn bản được tạo. Kiểm tra mã trạng thái là 200 cho thành công.

Tích hợp Python SDK

Cấu hình client Python để sử dụng URL cơ sở của chúng tôi. Khởi tạo client với khóa API và điểm cuối tùy chỉnh của bạn.

Gọi phương thức chat.completions.create với prompt của bạn. Đối tượng phản hồi chứa văn bản được tạo trong choices[0].message.content.

Xử lý các lỗi tiềm ẩn như giới hạn tốc độ hoặc khóa không hợp lệ một cách gracefully. Ghi lại việc sử dụng token nếu cần để theo dõi chi phí.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cách tiếp cận này hoạt động với bất kỳ thư viện tương thích OpenAI nào. Bạn có thể tái sử dụng mã hiện có với những thay đổi tối thiểu.

Tích hợp SDK Node

Khởi tạo client Node.js với URL cơ sở tùy chỉnh. Truyền khóa API của bạn trong đối tượng cấu hình.

Gọi hàm chat.completions.create với các tham số mong muốn của bạn. Phản hồi tuân theo định dạng OpenAI tiêu chuẩn.

Xử lý luồng dữ liệu hoặc phản hồi cuối cùng tùy theo nhu cầu. Xử lý lỗi nên bắt các vấn đề về mạng hoặc xác thực.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Thiết lập này cho phép bạn tích hợp suy luận không kiểm duyệt vào các ứng dụng Node của bạn một cách nhanh chóng.

Xử lý phản hồi phát trực tiếp

Bật chế độ streaming bằng cách đặt stream=true trong yêu cầu của bạn. API trả về dữ liệu dưới dạng các chunk khi chúng được tạo.

Xử lý từng đoạn để hiển thị đầu ra thời gian thực cho người dùng của bạn. Tích lũy nội dung để nhận phản hồi đầy đủ.

Theo dõi việc sử dụng token trong chunk cuối cùng của luồng. Điều này giúp bạn theo dõi chi phí chính xác.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming làm giảm độ trễ cảm nhận cho các phản hồi dài. Nó lý tưởng cho các giao diện chat và các ứng dụng tương tác.

Giới hạn, lỗi và cửa sổ ngữ cảnh

Hiểu các giới hạn kỹ thuật để tránh gián đoạn dịch vụ. Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho lời nhắc và phần hoàn thành kết hợp.

Đầu ra tối đa là 16.000 token mỗi yêu cầu. Đặt max_tokens rõ ràng để tránh chạm mức mặc định 2.048.

Giới hạn tốc độ cho phép 300 yêu cầu mỗi phút cho mỗi khóa. Bạn có thể có 8 yêu cầu đồng thời cùng một lúc.

Xử lý lỗi 401 bằng cách kiểm tra tính hợp lệ của khóa. Lỗi 402 cho biết số dư không đủ. Lỗi 429 nghĩa là bạn đã vượt quá giới hạn tốc độ.

Yêu cầu vượt quá giới hạn kích thước phần thân 8 MB sẽ thất bại. Hãy lập kế hoạch payload của bạn phù hợp.