คู่มือการผสานรวม API ของ Mistral

ทำไมควรเปลี่ยนจาก API Mistral มาตรฐาน?

นักพัฒนาหลายคนมักติดกับดักตัวกรองเนื้อหาที่ขัดขวางเวิร์กโฟลว์ของพวกเขา API มาตรฐานปฏิเสธหัวข้อเฉพาะ โมเดล uncensored ของเราตอบตรง ๆ คุณควบคุมผลลัพธ์ของคุณได้เต็มที่

API มาตรฐานของ Mistral มีความน่าเชื่อถือ และให้บริการโมเดลยอดนิยม อย่างไรก็ตาม มีการใช้ชั้นการกลั่นกรองของตัวเอง คุณอาจพบการปฏิเสธสำหรับงานเขียนเชิงสร้างสรรค์หรือธีมสำหรับผู้ใหญ่ API ของเราขจัดข้อจำกัดเหล่านั้นออก โดยทำงานด้วยโมเดลโอเพนซอร์สที่ปรับแต่งมาเพื่อลดข้อจำกัดลง คุณจะได้รับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI

ต้นทุนเป็นอีกปัจจัยหนึ่ง แผนมาตรฐานมักล็อกคุณไว้ในแบบสมาชิก เราใช้ระบบเครดิตแบบเติมเงิน คุณจ่ายเฉพาะสิ่งที่ใช้ ข้อผิดพลาดไม่ทำให้คุณเสีย tokens ความโปร่งใสนี้ช่วยให้คุณประมาณงบประมาณได้อย่างแม่นยำ

การย้ายเป็นเรื่องง่าย โค้ดที่มีอยู่ของคุณทำงานได้ คุณเพียงแค่เปลี่ยน URL พื้นฐาน ไม่จำเป็นต้องเขียนใหม่ที่ซับซ้อน ความยืดหยุ่นนี้เหมาะกับนักพัฒนาที่ต้องการการสร้างเนื้อหาแบบไม่เซ็นเซอร์โดยไม่ต้องจัดการโมเดลในเครื่อง

ขั้นตอนที่ 1: รับคีย์ API ของคุณ

เริ่มต้นด้วยการสร้างบัญชีบนแพลตฟอร์มของเรา คุณสามารถลงชื่อเข้าใช้ด้วย Google หรือใช้อีเมลและรหัสผ่าน ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์ ซึ่งช่วยรักษาความเป็นส่วนตัวของคุณ

เมื่อคุณเข้าสู่ระบบ ให้ไปที่แดชบอร์ด สร้างคีย์ API ของคุณทันที คีย์นี้จะแสดงเพียงครั้งเดียว คัดลอกและเก็บรักษาไว้อย่างปลอดภัย คุณจะต้องใช้คีย์นี้สำหรับทุกคำขอ

คุณได้รับเครดิตทดลองโดยอัตโนมัติ บัญชีใหม่ได้รับ $0.50 ใช้ได้เป็นเวลา 7 วัน สิ่งนี้ช่วยให้คุณทดสอบการผสานรวมก่อนลงทุนเงินทุน

คีย์ของคุณมีข้อจำกัดเฉพาะ คุณสามารถส่งคำขอได้ 300 คำขอต่อนาที คำขอพร้อมกันสูงสุดได้เพียง 8 คำขอ คีย์แต่ละอันเป็นเอกลักษณ์สำหรับบัญชีของคุณ หากคุณสร้างคีย์ใหม่ คีย์เก่าจะหยุดทำงาน สิ่งนี้ช่วยให้เข้าถึงเครดิตของคุณได้อย่างปลอดภัย

ขั้นตอนที่ 2: กำหนดค่า Base URL ของคุณ

URL พื้นฐานเป็นการเปลี่ยนแปลงที่สำคัญที่สุดเพียงอย่างเดียว ชี้ SDK ของคุณไปยังเอนด์พอยต์ของเรา ใช้รูปแบบ OpenAI มาตรฐาน สิ่งนี้ทำให้แน่ใจว่าความเข้ากันได้กับไลบรารีที่มีอยู่ของคุณ

ตั้งค่า URL ฐานของคุณเป็น HTTPS://api.mistralbaseurl.com/v1 เส้นทางนี้สะท้อนโครงสร้างของผู้ให้บริการรายใหญ่ โค้ดของคุณจะรู้จักจุดปลายอย่างถูกต้อง คุณไม่จำเป็นต้องไดรเวอร์หรือไคลเอนต์ใหม่

อัปเดตตัวแปรคีย์ API ในโค้ดของคุณ แทนที่คีย์ของผู้ให้บริการเก่าด้วยคีย์ใหม่ของคุณ ตรวจสอบให้แน่ใจว่าสตริงคีย์ถูกต้อง ข้อผิดพลาดในการพิมพ์จะทำให้เกิดข้อผิดพลาดการตรวจสอบสิทธิ์ทันที

ทดสอบการเชื่อมต่อด้วยการ ping อย่างง่าย ขอรายการโมเดลที่มีอยู่ คุณควรเห็นโมเดลแบบไม่เซ็นเซอร์ของเราปรากฏอยู่ สิ่งนี้ยืนยันว่าการกำหนดค่าของคุณถูกต้อง ตอนนี้คุณสามารถส่งคำสั่งได้แล้ว

ขั้นตอนที่ 3: นำ Chat Completions ไปใช้

ส่งคำขอ POST ไปยัง endpoint chat completions ใช้รหัสโมเดล "uncensored" สิ่งนี้จะเรียกใช้โมเดลภาษาขนาดใหญ่เฉพาะของเรา มันประมวลผลอินพุตของคุณและสร้างข้อความ

จัดโครงสร้างข้อความเป็นอาร์เรย์ รวมบทบาทระบบ ผู้ใช้ และผู้ช่วย โมเดลจะปฏิบัติตามคำแนะนำเหล่านี้อย่างใกล้ชิด คุณสามารถตั้งค่าพารามิเตอร์เช่น temperature และ top_p ซึ่งควบคุมความสร้างสรรค์ของผลลัพธ์

หน้าต่างบริบทมีขนาด 100,000 tokens ซึ่งรองรับเอกสารยาวๆ ได้ คุณสามารถส่งบริบทจำนวนมากในการร้องขอครั้งเดียว โมเดลรักษาความสอดคล้องของเนื้อหาได้ดีตลอดลำดับข้อความที่ยาวนาน ซึ่งเหมาะสำหรับการวิเคราะห์โค้ดหรือการสรุปเนื้อหา

เอาต์พุตสูงสุดคือ 16,000 โทเค็น หากคุณไม่ได้ตั้งค่า max_tokens ขีดจำกัดคือ 2,048 ปรับพารามิเตอร์นี้ตามความต้องการของคุณ การตอบสนองที่ยาวขึ้นต้องการเครดิตมากขึ้น วางแผนงบประมาณโทเค็นของคุณตามนั้น

การจัดการสตรีมและโทเค็น

การสตรีมปรับปรุงประสบการณ์ผู้ใช้ มันส่งโทเค็นเมื่อมันถูกสร้างขึ้น สิ่งนี้ลดความล่าช้าที่รับรู้ เปิดใช้งานการสตรีมในการตั้งค่า SDK ของคุณ

เราใช้ Server-Sent Events (SSE) สตรีมให้ชิ้นส่วนของข้อความ ชิ้นแต่ละชิ้นมีส่วนของคำตอบ คุณสามารถแสดงโทเค็นแบบเรียลไทม์ได้

การใช้โทเค็นถูกรายงานในชิ้นสุดท้าย สิ่งนี้ทำให้การเรียกเก็บเงินแม่นยำ คุณเห็นสิ่งที่บริโภคจริง ข้อผิดพลาดไม่คิดเงินคุณ การปฏิเสธฟรี สิ่งนี้ปกป้องงบประมาณของคุณจากคำขอที่สูญเปล่า

ตรวจสอบยอดเงินเครดิตของคุณเป็นระยะ คุณสามารถเติมเงินผ่านคริปโตได้ตลอดเวลา เครดิตไม่หมดอายุ สิ่งนี้ช่วยให้คุณหยุดการใช้งานได้โดยไม่มีการลงโทษ คุณคงยอดเงินของคุณไว้ได้เป็นเวลานาน

Function Calling และโหมด JSON

API ของเรารองรับผลลัพธ์ที่มีโครงสร้าง คุณสามารถบังคับใช้โหมด JSON ได้ โดยตั้งค่า response_format เป็น json_object โมเดลจะส่งคืนเฉพาะ JSON ที่ถูกต้อง ซึ่งสำคัญมากสำหรับการผสานรวม

การเรียกใช้ฟังก์ชันทำงานได้อย่างราบรื่น กำหนดเครื่องมือของคุณในคำขอ โมเดลระบุเครื่องมือที่จะใช้ มันส่งอาร์กิวเมนต์ได้อย่างถูกต้อง คุณสามารถแยกวิเคราะห์ผลลัพธ์ในโค้ดของคุณ

ตั้งค่า tool_choice เป็น auto หรือเฉพาะ สิ่งนี้ให้คุณควบคุมพฤติกรรม โมเดลให้ความสำคัญกับการใช้เครื่องมือเมื่อจำเป็น สิ่งนี้เพิ่มความน่าเชื่อถือในเวิร์กโฟลว์ที่ซับซ้อน

ใช้ฟีเจอร์เหล่านี้สำหรับการดึงข้อมูล อัตโนมัติฟอร์มหรือการเรียก API โมเดลแบบไม่เซ็นเซอร์จัดการกรณีขอบได้ดี มันไม่ปฏิเสธคำถามที่ซับซ้อน ซึ่งทำให้เหมาะสำหรับงานการผลิต

ข้อผิดพลาดทั่วไป: อธิบาย 404 และ 422

ข้อผิดพลาดมักบ่งชี้ถึงปัญหาการกำหนดค่า ข้อผิดพลาด 404 Not Found เป็นเรื่องทั่วไป มันหมายถึงจุดปลายผิด ตรวจสอบ URL พื้นฐานของคุณอย่างระมัดระวัง ตรวจสอบให้แน่ใจว่าคุณรวม /v1 ไว้ในเส้นทาง

เกิดข้อผิดพลาด 422 Unprocessable Entity สิ่งนี้มักเกิดขึ้นกับ JSON ที่ไม่ถูกต้อง ตรวจสอบโครงสร้างของ body คำขอของคุณ ตรวจสอบให้แน่ใจว่าฟิลด์ที่จำเป็นทั้งหมดมีอยู่ ตรวจสอบว่า model ID ถูกต้อง

อัตราจำกัดการเรียกข้อมูลส่งข้อผิดพลาด 429 คุณเกิน 300 คำขอต่อนาที ให้รอสักครู่ก่อนเรียกซ้ำ ให้ใช้การถอยหลังแบบเอกซ์โพเนนเชียลในโค้ดของคุณ สิ่งนี้ป้องกันไม่ให้ API รับภาระหนัก

ตรวจสอบความถูกต้องของ API key ตรวจสอบให้แน่ใจว่าไม่หมดอายุ key จะแทนที่อัตโนมัติหากสร้างใหม่ ใช้ key ที่ถูกต้องสำหรับแต่ละ request สิ่งนี้ลดเวลา downtime ให้เหลือน้อยที่สุด

การเปรียบเทียบต้นทุน: Mistral เทียบกับ API uncensored ของเรา

ราคาของเราเรียบง่าย คุณจ่าย $0.15 ต่อหนึ่งล้านโทเค็นอินพุต โทเค็นเอาต์พุตราคา $0.50 ต่อหนึ่งล้าน ซึ่งโปร่งใสและคาดการณ์ได้

API มาตรฐานมักคิดค่าบริการสูงกว่า พวกมันรวมค่าธรรมเนียมแพลตฟอร์ม โมเดลของเราทำงานบนเซิร์ฟเวอร์ของเรา คุณจ่ายสำหรับการคำนวณโดยตรง ซึ่งช่วยลดต้นทุนพื้นฐาน

ข้อผิดพลาดไม่ต้องเสียเงิน คุณไม่จ่ายสำหรับคำขอที่ล้มเหลว สิ่งนี้ประหยัดเงินในการแก้ไขข้อบกพร่อง คุณจ่ายเฉพาะผลลัพธ์ที่ถูกต้อง

การเติมเงินเริ่มต้นที่ $20 คุณชำระเงินด้วยคริปโทเคอร์เรนซี มีเครดิตโบนัสให้เติม $50 เพื่อรับเพิ่ม 5% เติม $100 เพื่อรับเพิ่ม 10% และเติม $200 เพื่อรับเพิ่ม 15% สิ่งนี้เป็นการตอบแทนการใช้งานที่สูงขึ้น

รายการตรวจสอบสุดท้ายสำหรับการย้ายที่ราบรื่น

ตรวจสอบ URL ฐานของคุณถูกต้อง อัปเดตคีย์ API ของคุณในสภาพแวดล้อม ทดสอบด้วยพรอมต์อย่างง่าย ตรวจสอบให้แน่ใจว่าสตรีมมิ่งทำงานหากจำเป็น

ตรวจสอบการจัดการขีดจำกัดอัตราของคุณ ใช้การลองใหม่สำหรับข้อผิดพลาด 429 ตรวจสอบการใช้งานโทเค็นของคุณ ปรับ max_tokens ตามความจำเป็น

เปิดใช้งานโหมด JSON สำหรับข้อมูลที่มีโครงสร้าง ทดสอบ Function Calling กับเครื่องมือของคุณ ตรวจสอบว่าโมเดลตอบสนองถูกต้อง และตรวจสอบรูปแบบผลลัพธ์ตรงกับที่คาดหวัง

ปรับพารามิเตอร์ของคุณ ตั้งค่า temperature สำหรับความคิดสร้างสรรค์ ใช้ top_p สำหรับความหลากหลาย การตั้งค่าเหล่านี้ส่งผลต่อคุณภาพของผลลัพธ์ ลองทดลองเพื่อหาความสมดุลที่ดีที่สุด โค้ดของคุณควรคงเดิม ยกเว้น URL และคีย์