Документация API

Аутентификация & базовый URL

Начните с указания клиента на правильный базовый URL. Мы принимаем стандартные заголовки OpenAI для обеспечения совместимости. Ваш API-ключ передается в заголовке Authorization в виде токена bearer. Передавайте его напрямую из переменных окружения, чтобы избежать хардкода секретов. Эта настройка работает с любой библиотекой, поддерживающей протокол OpenAI.

Первый запрос

Отправьте простой запрос на завершение чата, чтобы проверить подключение. Используйте идентификатор модели "uncensored" для генерации текста. Эндпоинт возвращает стандартный JSON с choices и метриками использования. Если вы получаете 401, проверьте формат ключа. 402 указывает на недостаточный предоплаченный баланс. Этот быстрый тест подтверждает, что ваша интеграция готова к производственному трафику.

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

Интеграция Python SDK

Настройте OpenAI Python-пакет на использование нашего базового URL. Явно установите API-ключ и имя модели. Передайте ваши сообщения в виде списка словарей с ключами role и content. Объект ответа содержит сгенерированный текст в choices[0].message.content. Обрабатывайте исключения грамотно, чтобы перехватывать ошибки сети или ограничений скорости во время выполнения.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Настройка SDK Node.js

Инициализируйте клиент OpenAI, указав базовый URL и ключ. Определите массив сообщений с ролями пользователя и ассистента. Вызовите chat.completions.create с моделью uncensored. Ответ содержит сгенерированный текст в первом варианте. Используйте этот шаблон как для синхронных, так и для асинхронных вызовов в ваших приложениях Node.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковые ответы

Включите потоковую передачу, установив stream в true. API отправляет фрагменты данных по мере их генерации. Каждый фрагмент содержит текст дельты, который можно добавить в буфер. Этот подход снижает воспринимаемую задержку для длинных выводов. Отслеживайте использование токенов в последнем фрагменте, чтобы точно учитывать расходы.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты & Контекстное окно

Ваш аккаунт поддерживает контекстное окно объемом 100,000 токенов. Максимальный объем вывода — 16,000 токенов на запрос. Вы можете отправлять 300 запросов в минуту. Одновременно выполняется только 8 запросов. Запросы с телом более 8 МБ будут отклонены. Используйте эти лимиты для проектирования логики повторных попыток. Ошибки, такие как 429, указывают на срабатывание лимита частоты. Отклонения не расходуют кредиты.