Tài liệu API

Xác thực & Base URL

Bắt đầu bằng cách trỏ client của bạn đến URL cơ sở chính xác. Chúng tôi chấp nhận các tiêu đề OpenAI tiêu chuẩn để tương thích. Khóa API của bạn được đặt trong tiêu đề Authorization dưới dạng mã thông báo bearer. Truyền nó trực tiếp từ các biến môi trường của bạn để tránh mã hóa cứng các bí mật. Cấu hình này hoạt động với bất kỳ thư viện nào hỗ trợ giao thức OpenAI.

Yêu cầu đầu tiên

Gửi một yêu cầu hoàn thành trò chuyện đơn giản để xác minh khả năng kết nối. Sử dụng ID mô hình "uncensored" để tạo văn bản. Điểm cuối trả về JSON tiêu chuẩn với các lựa chọn và số liệu sử dụng. Nếu bạn nhận được mã 401, hãy kiểm tra định dạng khóa của bạn. Mã 402 cho biết số dư trả trước không đủ. Bài kiểm tra nhanh này xác nhận việc tích hợp của bạn đã sẵn sàng cho lưu lượng sản xuất.

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

Tích hợp SDK Python

Cấu hình gói OpenAI Python để sử dụng URL cơ sở của chúng tôi. Đặt khóa API và tên mô hình một cách rõ ràng. Truyền các thông điệp của bạn dưới dạng danh sách các từ điển với các khóa role và content. Đối tượng phản hồi chứa văn bản được tạo trong choices[0].message.content. Xử lý ngoại lệ một cách khéo léo để bắt các lỗi mạng hoặc giới hạn tỷ lệ trong quá trình thực thi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Thiết lập SDK Node.js

Khởi tạo client OpenAI với URL cơ sở và khóa của bạn. Xác định mảng messages với vai trò user và assistant. Gọi chat.completions.create với mô hình uncensored. Phản hồi cung cấp văn bản được tạo ra trong lựa chọn đầu tiên. Sử dụng mẫu này cho cả các lệnh gọi đồng bộ và bất đồng bộ trong ứng dụng Node của bạn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phản hồi luồng

Bật chế độ streaming bằng cách đặt stream thành true. API gửi các chunk dữ liệu khi chúng được tạo. Mỗi chunk chứa văn bản delta mà bạn có thể nối vào bộ đệm. Phương pháp này giảm độ trễ cảm nhận đối với các đầu ra dài. Theo dõi việc sử dụng token trong chunk cuối cùng để theo dõi việc tính phí chính xác.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn & Cửa sổ ngữ cảnh

Tài khoản của bạn hỗ trợ cửa sổ ngữ cảnh 100,000 token. Đầu ra tối đa là 16,000 token mỗi yêu cầu. Bạn có thể gửi 300 yêu cầu mỗi phút. Chỉ có 8 yêu cầu chạy đồng thời. Các yêu cầu có thân lớn hơn 8MB sẽ bị lỗi. Sử dụng các giới hạn này để thiết kế logic thử lại của bạn. Các lỗi như 429 cho biết đã chạm giới hạn tốc độ. Các lần từ chối không tiêu thụ tín dụng.