API-dokumentaatio

Todennus & Base URL

Aloita osoittamalla asiakasohjelma oikeaan base URL -osoitteeseen. Hyväksymme vakio OpenAI-headerit yhteensopivuuden varmistamiseksi. API-avaimesi sijoitetaan Authorization-headeriin Bearer-tokenina. Välitä se suoraan ympäristömuuttujistasi välttääksesi salaisuuksien kovakoodauksen. Tämä kokoonpano toimii minkä tahansa kirjaston kanssa, joka tukee OpenAI-protokollaa.

Ensimmäinen pyyntö

Lähetä yksinkertainen chat-completion yhteensopivuuden varmistamiseksi. Käytä mallin tunnus "uncensored" tekstin generaatioon. Päätepiste palauttaa standardin JSON:n valinnoilla ja käyttötilastoilla. Jos saat virheen 401, tarkista avun muoto. Virhe 402 tarkoittaa riittämätöntä esimaksusaldoa. Tämä nopea testi vahvistaa, että integraatiosi on valmis tuotantoliikenteelle.

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

Python SDK -integraatio

Määritä OpenAI Python -paketti käyttämään base URLiamme. Aseta API-avain ja mallinimi eksplisiittisesti. Välitä viestisi listana sanakirjoja, joissa on rooli- ja sisältöavaimet. Vastausobjekti sisältää luodun tekstin muodossa choices[0].message.content. Käsittele poikkeukset joustavasti saadaksesi selville verkko- tai nopeusrajoitusvirheet suorituksen aikana.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK:n määritys

Alusta OpenAI-asiakasohjelma base URL:n ja avaimen avulla. Määritä viestitaulukko käyttäjä- ja avustajarooleilla. Kutsu chat.completions.create-metodia uncensored-mallilla. Vastaus sisältää luodun tekstin ensimmäisessä vaihtoehdossa. Käytä tätä kuviota sekä synkronisissa että asynkronisissa kutsuissa Node-sovelluksissasi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamausvastaukset

Ota virtauskäyttöön asettamalla stream arvoon true. API lähettää lohkoihin jaettua dataa sen mukaan kuin se tuotetaan. Jokainen lohko sisältää delta-tekstin, jonka voit liittää puskuriin. Tämä lähestymistapa vähentää koettua viivettä pitkissä tulosteissa. Seuraa token-käyttöä viimeisessä lohkossa tarkasta laskutusta varten.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset & Kontesttilaakso

Tilisi tukee 100 000 merkin konteksttilaakkoa. Maksimituotos on 16 000 merkkiä pyyntöä kohden. Voit lähettää 300 pyyntöä minuutissa. Vain 8 pyyntöä voi olla käynnissä samanaikaisesti. Pyyntöjen, joiden ruumiin koko on yli 8 Mt, käsittely epäonnistuu. Käytä näitä rajoja suunnitellaksesi uudelleenkäsittelylogiikkasi. Virheet kuten 429 viittaavat nopeusrajoitusten ylittymiseen. Evätyt pyynnöt eivät kuluta krediidisi.