Dokumentace API
Vložte svůj stávající kód kompatibilní s OpenAI do našeho endpointu. Tento návod ukazuje, jak se připojit, ověřit se a streamovat odpovědi s minimálními nároky na konfiguraci.
Ověření & základní URL
Začněte tím, že nasměrujete svého klienta na správnou základní URL. Akceptujeme standardní hlavičky OpenAI pro kompatibilitu. Váš API klíč umístěte do hlavičky Authorization jako bearer token. Předávejte jej přímo z proměnných prostředí, abyste se vyhnuli tvrdému zakódování tajných údajů. Toto nastavení funguje s jakoukoli knihovnou, která podporuje protokol OpenAI.
První požadavek
Pošlete jednoduché dokončení chatu pro ověření připojení. Použijte ID modelu „uncensored“ pro generování textu. Koncový bod vrací standardní JSON s volbami a metrikami využití. Pokud získáte 401, zkontrolujte formát klíče. 402 znamená nedostatečný předplacený zůstatek. Tento rychlý test potvrdí, že vaše integrace je připravena pro produkční provoz.
curl https://api.mistralbaseurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List installed python packages with versions"}]
}'
Integrace Python SDK
Nastavte balíček Python OpenAI tak, aby používal naši základní URL. Explicitně nastavte API klíč a název modelu. Předáte své zprávy jako seznam slovníků s klíči role a content. Objekt odpovědi obsahuje vygenerovaný text v choices[0].message.content. Ošetřete výjimky důkladně, abyste zachytili chyty sítě nebo omezení rychlosti během provádění.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Nastavení SDK Node.js
Inicializujte klienta OpenAI pomocí vaší základní URL a klíče. Definujte pole zpráv s rolí uživatele a asistenta. Zavolejte chat.completions.create s modelem uncensored. Odpověď obsahuje vygenerovaný text v první možnosti. Tento vzor použijte pro synchronní i asynchronní volání ve vašich aplikacích Node.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Streamované odpovědi
Povolte streamování nastavením stream na true. API odesílá chunky dat, jak jsou generovány. Každý chunk obsahuje delta text, který můžete přidávat do bufferu. Tento přístup snižuje vnímanou latenci u dlouhých výstupů. Sledujte využití tokenů v posledním chunku pro přesné sledování fakturace.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Limity & Okno kontextu
Váš účet podporuje kontextové okno o velikosti 100 000 tokenů. Maximální výstup je 16 000 tokenů na požadavek. Můžete odeslat 300 požadavků za minutu. Současně běží pouze 8 požadavků. Požadavky s tělem větším než 8 MB selžou. Pomocí těchto limitů navrhněte svou logiku opakování. Chyby jako 429 indikují dosažení limitu rychlosti. Odmítnutí nevyčerpává kredity.
Časté otázky
Jaká je základní URL adresa mistral pro toto API?
Použijte HTTPS://api.mistralbaseurl.com/v1 jako základní URL. Funguje s jakýmkoli SDK kompatibilním s OpenAI. Nastavte svého klienta na tuto adresu a nastavte model na uncensored.
Jak řešit chyby překročení limitu rychlosti 429?
Získáte chybu 429 při překročení 300 požadavků za minutu. V klientovi implementujte exponenciální backoff. Zkuste to znovu po uplynutí doby uvedené v hlavičce retry-after.
Podporuje uncenzurovaný model streamování?
Ano, nastavte stream na true v požadavku. API odesílá události odeslané serverem s delta tokenů. Tyto bloky parsovejte, abyste aktualizovali své uživatelské rozhraní v reálném čase bez čekání na úplné dokončení.
Získejte svůj API klíč nyní
Zaregistrujte se, získejte klíč a aktualizujte základní URL. To je vše.