Документація API

Автентифікація & базовий URL

Почніть з того, щоб вказати клієнту на правильну базову URL-адресу. Ми приймаємо стандартні заголовки OpenAI для сумісності. Ваш API-ключ розміщується в заголовку Authorization як bearer-токен. Передавайте його безпосередньо з змінних середовища, щоб уникнути жорсткого кодування секретів. Ця конфігурація працює з будь-якою бібліотекою, яка підтримує протокол OpenAI.

Перший запит

Надішліть простий запит на отримання відповіді чату, щоб перевірити з’єднання. Використовуйте ідентифікатор моделі "uncensored" для генерації тексту. Ендпоінт повертає стандартний JSON із виборами та метриками використання. Якщо ви отримуєте 401, перевірте формат свого ключа. 402 вказує на недостатній попередньо оплачений баланс. Цей швидкий тест підтверджує, що ваша інтеграція готова до продуктивного трафіку.

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

Інтеграція SDK Python

Налаштуйте пакет OpenAI Python для використання нашого базового URL. Встановіть API-ключ та назву моделі явно. Передайте ваші повідомлення як список словників з ключами role та content. Об'єкт відповіді містить згенерований текст у choices[0].message.content. Обробляйте винятки акуратно, щоб перехопити помилки мережі або лімітів швидкості під час виконання.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Налаштування SDK Node.js

Ініціалізуйте клієнта OpenAI, вказавши базовий URL та ключ. Визначте масив messages з ролями user та assistant. Викличте chat.completions.create з моделлю uncensored. У відповіді буде згенерований текст у першому варіанті. Використовуйте цей шаблон як для синхронних, так і для асинхронних викликів у ваших Node-додатках.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокові відповіді

Увімкніть потокову передачу, встановивши stream у true. API надсилає чанки даних по мірі їх генерації. Кожен чанк містить дельта-текст, який можна додати до буфера. Цей підхід зменшує сприйняту затримку для довгих виводів. Відстежуйте використання токенів у фінальному чанку для точного билінгу.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ліміти & Контекстне вікно

Ваш акаунт підтримує контекстне вікно розміром 100,000 токенів. Максимальний обсяг виводу становить 16,000 токенів на запит. Ви можете надсилати 300 запитів на хвилину. Одночасно виконується лише 8 запитів. Запити з тілом розміром понад 8 МБ будуть відхилені. Використовуйте ці ліміти для проектування логіки повторних спроб. Помилки, такі як 429, вказують на досягнення ліміту швидкості. Відмови не споживають кредити.