API-avain mistral: Pika-aloitusopas

Edellytykset: SDK ja ympäristö

Aloita asentamaan haluamasi OpenAI-yhteensopiva SDK. Tarvitset vain voimassa olevan API-avaimen ja palvelumme perusosoitteen.

Vie avaimesi ympäristömuuttujiin, jotta skriptisi voivat käyttää sitä turvallisesti. Luo tili Google- tai sähköpostitunnuksella saadaksesi avaimesi välittömästi. Tähän vaiheeseen ei vaadita puhelinnumerotarkistusta.

Varmista, että ympäristösi tukee yleisiä HTTP-kirjastoja. API odottaa standardia JSON-sisältöä kaikissa pyynnöissä. Sinun ei tarvitse asentaa valmistajakohtaisia ajureita.

Base URL -osoituksen asettaminen

Osoita SDK-asiakkaasi omistautuneeseen päätepisteeseemme uncensored-päätelmää varten. Base URL korvaa standardin OpenAI-päätepisteen määrityksissäsi.

Käytä HTTPS://api.apikeymistral.com/v1 perus-URL-osoitteenasi. Tämä varmistaa, että kaikki pyynnöt ohjautuvat suurten läpäisykykyisten palvelimiemme kautta. Sinun ei tarvitse muuttaa päätepisteen polkua, jos SDK:n oletusarvo on /chat/completions.

Säilytä API-avaimesi muistissa tai turvallisessa varastossa. Avain todentaa jokaisen pyyntösi tähän URL-osoitteeseen.

Ensimmäisen POST-pyynnön tekeminen

Lähetä vakio chat-completion pyyntö tekstitulosteen saamiseksi. Käytä mallin tunnus "uncensored" päästäksesi hienosäädettyyn malliimme.

Määritä lämpötila ja muut parametrit hallitaksesi luovuutta. Päätepiste hyväksyy vakio-JSON-ruumiit, joissa on viestitaulukko.

Tässä on perus curl-komento yhteyden testaamiseen:

Copycurl https://api.apikeymistral.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "return json object with keys name age"}]
  }'

Varmista, että vastaus sisältää luodun tekstin. Tarkista, että statuskoodi on 200 onnistumista varten.

Python SDK -integraatio

Määritä Python-asiakas käyttämään base URLiamme. Alusta asiakas API-avaimellasi ja mukautetulla päätepisteellä.

Kutsu chat.completions.create-metodia promptillasi. Vastausobjekti sisältää luodun tekstin muodossa choices[0].message.content.

Käsittele mahdolliset virheet, kuten nopeusrajoitukset tai virheelliset avaimet, joustavasti. Lokita tokenien käyttö tarvittaessa kustannusten seurantaan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apikeymistral.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tämä lähestymistapa toimii minkä tahansa OpenAI-yhteensopivan kirjaston kanssa. Voit käyttää olemassa olevaa koodia vähäisillä muutoksilla.

Node SDK -integraatio

Alusta Node.js-asiakirjaimisto mukautetulla perus-URL-osoitteella. Anna API-avain määritysobjektissa.

Kutsu chat.completions.create-funktiota haluamillasi parametreilla. Vastaus noudattaa standardia OpenAI-muotoa.

Käsittele streamia tai lopullista vastausta tarpeen mukaan. Virheenkäsittelyn tulee kaapata verkkoviat tai todennusvirheet.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apikeymistral.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tämä asetus mahdollistaa suodattamattoman johtopäätöksen integroinnin Node-sovelluksiisi nopeasti.

Striimitettyjen vastausten käsittely

Ota virtauskäyttöön asettamalla stream=true pyyntöön. API palauttaa dataa lohkoihin jaettuna sen mukaan kuin se tuotetaan.

Käsittele jokainen osa näyttääksesi reaaliaikaisen tuloksen käyttäjillesi. Kerää sisältö saadaksesi täydellisen vastauksen.

Seuraa token-käyttöä streamin viimeisessä palikassa. Tämä auttaa sinua seuraamaan kustannuksia tarkasti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streamaus vähentää havaittua viivettä pitkissä vastauksissa. Se on ihanteellinen chat-liittymille ja interaktiivisille sovelluksille.

Rajoitukset, virheet ja kontekstiikkuna

Ymmärrä tekniset rajat välttääksesi palvelun keskeytykset. Kontekstikkone tukee 100 000 tokenia syötteen ja täydennyksen yhteensä.

Max output is 16 000 tokenia pyyntöä kohti. Aseta max_tokens eksplisiittisesti välttääksesi 2 048:n oletusarvon.

Nopeusrajoitukset sallivat 300 pyyntöä minuutissa per avain. Voit tehdä 8 samanaikaista pyyntöä kerralla.

Käsittele 401-virheet tarkistamalla avaimen voimassaolo. 402-virheet tarkoittavat riittämätöntä krediittia. 429-virheet tarkoittavat, että olet ylittänyt nopeusrajoituksen.

Pyyntö epäonnistuu, jos ylität kehokoon rajan 8 Mt. Suunnittele kuormasi sen mukaisesti.