เอกสาร API

Authentication & Base URL

เริ่มต้นโดยชี้ client ของคุณไปยัง base URL ที่ถูกต้อง เรายอมรับ header มาตรฐานของ OpenAI เพื่อความเข้ากันได้ API key ของคุณอยู่ใน header Authorization เป็น bearer token ส่งมันโดยตรงจากตัวแปรสภาพแวดล้อมของคุณเพื่อหลีกเลี่ยงการ hardcode secrets การตั้งค่านี้ทำงานกับไลบรารีใดๆ ที่รองรับโปรโตคอล OpenAI

คำขอครั้งแรก

ส่ง chat completion แบบง่ายเพื่อตรวจสอบการเชื่อมต่อ ใช้รหัสโมเดล "uncensored" สำหรับการสร้างข้อความ เอนด์พอยต์นี้จะส่งกลับ JSON มาตรฐานพร้อม choices และ metrics การใช้งาน หากคุณได้รับ 401 ให้ตรวจสอบรูปแบบคีย์ของคุณ 402 หมายถึงยอดเงินเครดิตไม่เพียงพอ การทดสอบอย่างรวดเร็วนี้ยืนยันว่าการผสานรวมของคุณพร้อมสำหรับปริมาณการผลิต

Copycurl https://api.mistralbaseurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List installed python packages with versions"}]
  }'

การผสานรวม SDK Python

กำหนดค่าแพ็กเกจ OpenAI สำหรับ Python ให้ใช้ URL พื้นฐานของเรา ตั้งค่าคีย์ API และชื่อโมเดลอย่างชัดเจน โดยส่งข้อความของคุณเป็นรายการของดิคชันนารีที่มีคีย์ role และ content โดยออบเจกต์ผลลัพธ์จะประกอบด้วยข้อความที่สร้างอยู่ใน choices[0].message.content จัดการข้อยกเว้นอย่างเหมาะสมเพื่อจับข้อผิดพลาดด้านเครือข่ายหรือข้อจำกัดอัตราการใช้งานระหว่างการทำงาน

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralbaseurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตั้งค่า SDK Node.js

เริ่มต้นใช้งาน OpenAI client โดยระบุ base URL และ key กำหนดอาร์เรย์ messages พร้อมบทบาท user และ assistant เรียกใช้ chat.completions.create ด้วย model uncensored การตอบสนองจะให้ข้อความที่สร้างในตัวเลือกแรก ใช้รูปแบบนี้สำหรับการเรียกทั้งแบบ synchronous และ asynchronous ในแอปพลิเคชัน Node ของคุณ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralbaseurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบกลับแบบสตรีมมิ่ง

เปิดใช้งานการสตรีมโดยการตั้งค่า stream เป็น true API จะส่งชิ้นส่วนข้อมูลเมื่อสร้างเสร็จ แต่ละชิ้นส่วนจะมีข้อความเดลตาที่คุณสามารถเพิ่มเข้าไปในบัฟเฟอร์ได้ วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกเมื่อผลลัพธ์ยาว ตรวจสอบการใช้โทเค็นในชิ้นส่วนสุดท้ายเพื่อติดตามการเรียกเก็บเงินได้อย่างแม่นยำ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ขีดจำกัดและหน้าต่างบริบท

บัญชีของคุณรองรับหน้าต่างบริบทขนาด 100,000 tokens ผลลัพธ์สูงสุดคือ 16,000 tokens ต่อคำขอ คุณสามารถส่งคำขอได้ 300 ครั้งต่อนาที และคำขอที่ทำงานพร้อมกันได้สูงสุด 8 คำขอ หากขนาดเนื้อหาคำขอเกิน 8 MB คำขอจะล้มเหลว ให้ใช้ขีดจำกัดเหล่านี้ในการออกแบบลอจิกการลองใหม่ (retry logic) ข้อผิดพลาดเช่น 429 บ่งชี้ว่าเกินขีดจำกัดอัตราการใช้งาน การปฏิเสธคำขอจะไม่ใช้เครดิต